O Google está facilitando a identificação de imagens modificadas com IA ao adicionar marcas d’água digitais invisíveis às fotos editadas com sua poderosa ferramenta Reimagine.
A ferramenta Reimagine, lançada com a série Pixel 9 como parte do recurso Magic Editor do Google Photos, permite que você selecione qualquer região de uma imagem e a transforme em algo completamente diferente, apenas digitando um comando de texto. Essas edições geradas por IA são frequentemente criativas e divertidas, mas podem ser enganosas, tornando difícil distinguir o que é real do que não é.
Google Photos: Imagens Geradas por IA Terão Marca d’Água
Agora, conforme revelado em um post recente no blog do Google Photos, imagens manipuladas com a ferramenta Reimagine receberão uma marca d’água invisível embutida, utilizando a tecnologia SynthID do Google DeepMind. Essa marca d’água alertará os outros de que há modificações feitas com IA na imagem.
Se uma foto contiver a marca d’água SynthID, será possível identificá-la verificando as informações associadas em “Sobre esta imagem”.
Essas informações tornarão muito mais fácil identificar imagens falsas nas redes sociais ou enviadas por aplicativos de mensagens — caso tenham sido editadas com as ferramentas de IA do Google.
Por exemplo, imagens editadas com a ferramenta Reimagine exibirão uma seção chamada “Informações de IA” no Google Photos, indicando:
- “Crédito: Editado com Google AI”
- “Tipo de fonte digital: Editado usando IA Generativa”
Você também pode visualizar essas informações fora do Google Photos. Se alguém enviar uma foto suspeita, basta usar o recurso Circle to Search para examinar a imagem e verificar se há elementos gerados por IA, como mencionado acima.
As marcas d’água SynthID só podem ser lidas por softwares decodificadores específicos e não são visíveis a olho nu. Como fazem parte da própria imagem, são mais difíceis de remover do que tags de imagem comuns, que podem ser facilmente eliminadas, intencionalmente ou acidentalmente, ao usar softwares que não as preservam.
O Google já utiliza o SynthID para marcar imagens criadas com sua ferramenta de geração de imagens Imagen. No entanto, agora a funcionalidade foi adicionada a imagens — geradas por IA ou não — que os usuários editaram com a ferramenta Reimagine.
Atualmente, o Reimagine está disponível apenas na série Pixel 9 e modelos mais recentes, mas todos os dispositivos podem ler as marcas d’água SynthID.
Marcas d’água de IA no Google Photos — Uma Solução Imperfeita
As marcas d’água SynthID foram projetadas para resistir a edições e manipulações casuais, sendo difíceis de remover. No entanto, edições repetidas podem degradá-las. Além disso, o Google observa que pequenas alterações, como “mudar a cor de uma pequena flor no fundo de uma imagem”, podem passar despercebidas e evitar a marcação, já que essas mudanças podem ser muito sutis para o SynthID detectar.
Além de imagens, o SynthID também pode marcar áudio, texto e vídeo. O software para codificar e decodificar marcas d’água SynthID em texto já está disponível publicamente, mas o Google ainda mantém suas ferramentas de marcação de imagens em sigilo. Essa abordagem ajuda a retardar o desenvolvimento de métodos para contornar a tecnologia, mas também significa que, sem uma análise aberta, não podemos saber que outras informações o Google pode optar por incorporar em nossas imagens com as marcas d’água invisíveis do SynthID.
Google Deve Tornar as Ferramentas SynthID Mais Acessíveis
Embora as iniciativas do Google para adicionar marcas d’água às suas ferramentas de IA sejam louváveis, o SynthID para imagens é apenas uma pequena arma na luta contra deepfakes e desinformação gerada por IA.
Um fator limitante significativo é que, ao contrário de documentos de texto, apenas o Google pode detectar marcas d’água SynthID em imagens. Isso significa que, enquanto o Google Photos, Circle to Search e Google Lens podem identificar imagens marcadas com SynthID, outros softwares e serviços não conseguem fazer o mesmo.
Se você enviar uma imagem “Reimaginada” para o Instagram, por exemplo, o aplicativo não detectará que sua foto contém componentes gerados por IA. O Instagram incentiva os usuários a adicionarem um rótulo de IA às imagens enviadas, quando apropriado, observando que a Meta exige esse tipo de rotulagem em determinadas circunstâncias. No entanto, a decisão de ativar o rótulo ainda é deixada a critério do usuário que faz o upload.
O mesmo não se aplica a outras ferramentas, como o Adobe Photoshop, que utiliza tags padrão da indústria que serviços como o Instagram conseguem ler para rotular automaticamente conteúdos gerados por IA. Para garantir uma adoção mais ampla, o Google precisa disponibilizar decodificadores SynthID para terceiros, tanto para texto quanto para imagens.
Usuários casuais do Magic Editor provavelmente não se importarão, ou sequer saberão, sobre as marcas d’água do Google. No entanto, aqueles que têm a intenção de desinformar deliberadamente quase certamente conseguirão contornar essa tecnologia. As muitas ferramentas gratuitas e de código aberto disponíveis não obrigam, e nunca obrigarão, os usuários a incorporar tags ou marcas d’água que identifiquem seus conteúdos como gerados por IA.
Com conteúdo do Forbes.
Luiza Fontes é apaixonada pelas tecnologias cotidianas e pelo impacto delas no nosso dia a dia. Com um olhar curioso, ela descomplica inovações e gadgets, trazendo informações acessíveis para quem deseja entender melhor o mundo digital.
