Em parceria com o Google Cloud, o Google Deepmind, divisão de pesquisa de IA do Google, está lançamento uma ferramenta para colocar marcas d’água e identificar imagens geradas por IA. Mas apenas imagens criadas pelo modelo de geração de imagens do próprio Google.
A ferramenta, chamada SnythID e disponível em versão beta para usuários selecionados da Vertex AI, a plataforma do Google para construção de aplicativos e modelos de IA, incorpora uma marca d’água digital diretamente nos pixels de uma imagem – tornando-a ostensivamente imperceptível ao olho humano, mas detectável por um algoritmo . SynthID oferece suporte apenas a Imagen, o modelo de texto para imagem do Google, disponível exclusivamente no Vertex AI.
Google anteriormente disse que iria incorporar metadados para sinalizar mídia visual criada por modelos generativos de IA. O SynthID, obviamente, vai um passo além disso.
“Embora a IA generativa possa desbloquear um enorme potencial criativo, ela também apresenta novos riscos, como permitir que os criadores espalhem informações falsas – intencionalmente ou não”, escreve DeepMind em uma postagem de blog. “Ser capaz de identificar conteúdo gerado por IA é fundamental para capacitar as pessoas com conhecimento de quando estão interagindo com a mídia gerada e para ajudar a prevenir a propagação de desinformação.”
A DeepMind afirma que o SynthID, que desenvolveu e fez parceria com o Google Research, a equipe de P&D do Google, para refinar, permanece no lugar mesmo após modificações como adição de filtros, alteração de cores e alta compactação de imagens. A ferramenta utiliza dois modelos de IA, um para marca d’água e outro para identificação, que foram treinados juntos em um conjunto “diversificado” de imagens, diz DeepMind.
Créditos da imagem: DeepMind
SynthID não consegue identificar imagens com marca d’água com 100% de confiança. Mas a ferramenta distingue entre casos em que uma imagem poder contém uma marca d’água versus uma imagem é altamente provável para conter um.
“O SynthID não é infalível contra manipulações extremas de imagens, mas fornece uma abordagem técnica promissora para capacitar pessoas e organizações a trabalharem com conteúdo gerado por IA de forma responsável”, escreve DeepMind na postagem do blog. “Esta ferramenta também pode evoluir junto com outros modelos e modalidades de IA além de imagens, como áudio, vídeo e texto.”
As técnicas de marca d’água para arte generativa não são novas. A startup francesa Imatag, lançada em 2020, oferece uma ferramenta de marca d’água que afirma não ser afetada pelo redimensionamento, corte, edição ou compactação de imagens, semelhante ao SynthID. Outra empresa, Steg.AI, emprega um modelo de IA para aplicar marcas d’água que sobrevivem ao redimensionamento e outras edições.
Mas está a aumentar a pressão sobre as empresas tecnológicas para que forneçam uma forma de deixar claro que as obras foram geradas pela IA.
Recentemente, a Administração do Ciberespaço da China emitiu regulamentos exigindo que os fornecedores de IA generativa marquem o conteúdo gerado – incluindo geradores de texto e imagem – sem afetar o uso do usuário. E nas recentes audiências do comitê do Senado dos EUA, a senadora Kyrsten Sinema (I-AZ) enfatizou a necessidade de transparência na IA generativa, inclusive através do uso de marcas d’água.
Em maio, em sua conferência anual Build, a Microsoft se comprometeu a colocar marcas d’água em imagens e vídeos gerados por IA “usando métodos criptográficos”. Em outros lugares, a Shutterstock e a startup generativa de IA Midjourney adotaram diretrizes para incorporar um marcador de que o conteúdo foi criado por uma ferramenta generativa de IA. E o DALL-E 2 da OpenAI, uma ferramenta de conversão de texto em imagem, insere uma pequena marca d’água no canto inferior direito das imagens que gera.
Mas até agora, um padrão comum de marcas d’água – tanto para criar marcas d’água quanto para detectá-las – provou ser ilusório.
SynthID, como as outras tecnologias propostas, não será útil para nenhum gerador de imagens que não é Imagen – pelo menos não em sua forma atual. A DeepMind diz que está considerando disponibilizar o SynthID a terceiros em um futuro próximo. Mas se terceiros – especialmente terceiros que desenvolvem geradores de imagens de IA de código aberto, que não possuem muitas das proteções em geradores protegidos por uma API – adotarão a tecnologia é outra questão.
