Danem-se os deepfakes de Taylor Swift, o Google está lançando uma nova ferramenta alimentada por IA, ImageFX, para criação de imagens.
Apoiado no Imagen 2, um modelo de imagem GenAI desenvolvido pela equipe DeepMind do Google, o ImageFX oferece uma interface de usuário baseada em prompt para criar e editar imagens. Isso não é diferente de ferramentas como DALL-E 3 da OpenAI, Midjourney, Imagine da Meta com Meta AI e Microsoft Designer. Mas a peculiaridade do ImageFX são os “chips expressivos” – basicamente uma lista de sugestões de palavras-chave que permitem aos usuários experimentar “dimensões adjacentes” de suas criações e ideias.
“Projetado para experimentação e criatividade, o ImageFX permite criar imagens com um simples prompt de texto e, em seguida, modificá-las facilmente com uma nova abordagem usando chips expressivos”, escreve o Google em um comunicado. postagem no blog.
Mas e quanto ao potencial de abuso – especialmente à luz dos acontecimentos recentes?
Créditos da imagem: Google
O Google afirma que tomou medidas para garantir que o ImageFX não possa ser usado de maneiras não pretendidas, por exemplo, adicionando “salvaguardas técnicas” para limitar “resultados problemáticos”, como conteúdo violento, ofensivo e sexualmente explícito. O ImageFX também possui um filtro imediato para “pessoas nomeadas”, presumivelmente figuras públicas – embora o Google não tenha sido especialmente claro nesse ponto em seus materiais de imprensa.
“Investimos na segurança dos dados de treinamento desde o início”, disse o Google. “De forma consistente com nossos princípios de IA, também conduzimos extensos testes adversários e equipes vermelhas para identificar e mitigar conteúdo potencialmente prejudicial e problemático.”
Como medida de segurança adicional, o Google marca imagens produzidas usando ImageFX com SynthID, uma marca d’água digital que é supostamente robusta contra edições e cortes de imagens.
Uma amostra de imagem da Imagem 2. Créditos da imagem: Google
“As marcas d’água SynthID são imperceptíveis ao olho humano, mas detectáveis para identificação”, continua o Google na postagem do blog. “Com insights adicionais em ‘Sobre esta imagem’, você saberá se uma imagem pode ter sido gerada com as ferramentas de IA do Google quando encontrá-la na Pesquisa Google ou no Chrome.”
Você encontrará o ImageFX no AI Test Kitchen, o aplicativo da web do Google para projetos experimentais de IA.
Imagem 2 expandida
Em notícias relacionadas hoje, o Google disse que está trazendo o Imagen 2 para mais de seus produtos e serviços a partir desta semana, incluindo sua experiência de pesquisa de IA de próxima geração e família de serviços gerenciados de IA Vertex AI.
Imagen 2 – que agora também potencializa recursos de texto para imagem no Google Ads e Duet AI no Workspace, o conjunto de produtos GenAI do Google para produtividade – chegou ao SGE (Search Generative Experience) do Google. A SGE, que começou a disponibilizar ferramentas de geração de imagens para usuários na Pesquisa de imagens do Google em outubro passado, agora utiliza o Imagen 2 para gerar imagens. Os usuários podem inserir um prompt especificando que tipo de imagem desejam e o SGE retornará quatro resultados diretamente na experiência de conversação do SGE.
Outra amostra da Imagem 2. Créditos da imagem: Google
Na Vertex AI, o Imagen 2 está disponível por meio de uma API para clientes do Google Cloud. Em outros lugares, o Imagen 2 agora pode ser invocado por meio do Bard, o chatbot baseado em IA do Google.
“Com o Imagen 2, Bard entende solicitações simples ou complexas para que você possa gerar uma variedade de imagens de alta qualidade”, explica o Google. “Basta digitar uma descrição – como ‘criar a imagem de um cachorro andando em uma prancha de surf’ – e Bard gerará recursos visuais personalizados e abrangentes para ajudar a dar vida à sua ideia.”
O Google ainda não revelou os dados usados para treinar o Imagen 2, o que – embora decepcionante – não é exatamente uma surpresa. É uma questão legal em aberto se os fornecedores de GenAI como o Google podem treinar um modelo em dados disponíveis publicamente – até mesmo protegidos por direitos autorais – e então reverter e comercializar esse modelo.
Créditos da imagem: Google
Ações judiciais relevantes estão tramitando nos tribunais, com os fornecedores argumentando que estão protegidos pela doutrina do uso justo. Mas levará algum tempo até que a poeira baixe.
Enquanto isso, o Google está agindo com segurança e mantendo silêncio sobre o assunto.
