DeepMind: Google lança ferramenta para a identificação de imagens geradas por inteligência artificial
A Divisão de Inteligência Artificial do Google, conhecida como DeepMind, anunciou na ultima terça-feira, 29 de agosto, o lançamento da versão beta do SynthID, uma ferramenta inovadora que emprega marcas d’água para a identificação de imagens geradas por inteligência artificial.
“Embora a IA generativa possa desbloquear um enorme potencial criativo, também apresenta novos riscos, como permitir que os criadores divulguem informações falsas — intencionalmente ou não. Ser capaz de identificar conteúdo gerado por IA é fundamental para capacitar as pessoas com conhecimento de quando estão interagindo com a mídia gerada e para ajudar a prevenir a propagação de desinformação.” DeepMind.
A característica distintiva dessa identificação reside na sua natureza praticamente invisível ao olho humano, uma vez que a tecnologia incorpora a marca d’água diretamente nos pixels da imagem. Esse método de incorporação torna a detecção da marca possível apenas através de modificações específicas na imagem, como a aplicação de filtros, ajustes de cor e outras edições.
A criação dessa ferramenta decorre de uma iniciativa governamental dos Estados Unidos, que, em julho, solicitou às principais empresas de tecnologia a implementação de um mecanismo de identificação para imagens produzidas por sistemas de inteligência artificial. Além do Google, outras empresas que se comprometeram a adotar essa marca d’água incluem OpenAI, Meta, Amazon, Anthropic e Inflection.
O aspecto que diferencia a abordagem de identificação da Google das demais é que ela não pode ser simplesmente removida cortando as bordas da imagem, onde essas marcas costumam ser inseridas convencionalmente.
Em um comunicado oficial, a DeepMind detalha que o SynthID utiliza dois modelos de aprendizado profundo para aplicar e reconhecer a marca d’água na imagem. A combinação desses modelos resulta na otimização da marca d’água. Como evidenciado na ilustração acima, o resultado é praticamente imperceptível e perfeitamente integrado ao conteúdo original.