O Google está emitindo na quinta-feira novas orientações para desenvolvedores que criam aplicativos de IA distribuídos por meio do Google Play, na esperança de reduzir conteúdo impróprio e de outra forma proibido. A empresa afirma que os aplicativos que oferecem recursos de IA terão que impedir a geração de conteúdo restrito – que inclui conteúdo sexual, violência e muito mais – e oferecer uma maneira para os usuários sinalizarem o conteúdo ofensivo que encontrarem. Além disso, o Google diz que os desenvolvedores precisam “testar rigorosamente” suas ferramentas e modelos de IA, para garantir que respeitem a segurança e a privacidade do usuário.
Também está reprimindo aplicativos cujos materiais de marketing promovem casos de uso inadequados, como aplicativos que despem pessoas ou criam imagens de nudez não consensuais. Se o texto do anúncio disser que o aplicativo é capaz de fazer esse tipo de coisa, ele poderá ser banido do Google Play, independentemente de o aplicativo ser realmente capaz de fazer isso ou não.
As diretrizes seguem um flagelo crescente de aplicativos de despir de IA que têm se comercializado nas redes sociais nos últimos meses. Um relatório de abril da 404 Media, por exemplo, descobriu que o Instagram hospedava anúncios para aplicativos que alegavam usar IA para gerar nudes deepfake. Um aplicativo se comercializou usando uma foto de Kim Kardashian e o slogan “Tire a roupa de qualquer garota de graça”. A Apple e o Google retiraram os aplicativos de suas respectivas lojas de aplicativos, mas o problema ainda é generalizado.
Escolas em todos os EUA estão relatando problemas com estudantes passagem em volta AI deepfake nus de outros alunos (e às vezes professores) por intimidação e assédio, juntamente com outros tipos de inapropriado Conteúdo de IA. No mês passado, um deepfake racista de IA de um diretor de escola levou para uma prisão em Baltimore. Pior ainda, o problema é mesmo afetando alunos do ensino médioem alguns casos.
O Google afirma que suas políticas ajudarão a impedir a entrada de aplicativos do Google Play que apresentem conteúdo gerado por IA que pode ser impróprio ou prejudicial aos usuários. Ele aponta para sua Política de Conteúdo Gerado por IA existente como um local para verificar seus requisitos para aprovação de aplicativos no Google Play. A empresa afirma que os aplicativos de IA não podem permitir a geração de qualquer conteúdo restrito e também devem fornecer aos usuários uma maneira de sinalizar conteúdo ofensivo e impróprio, bem como monitorar e priorizar esse feedback. Este último é particularmente importante em aplicativos onde as interações dos usuários “moldam o conteúdo e a experiência”, diz o Google, como aplicativos onde modelos populares obtêm classificações mais altas ou de maior destaque, talvez.
Os desenvolvedores também não podem anunciar que seu aplicativo viola alguma das regras do Google Play, de acordo com o Google Play. Requisitos de promoção de aplicativos. Se anunciar um caso de uso inadequado, o aplicativo poderá ser inicializado na app store.
Além disso, os desenvolvedores são responsáveis por proteger seus aplicativos contra solicitações que possam manipular seus recursos de IA para criar conteúdo prejudicial e ofensivo. O Google diz que os desenvolvedores podem usar seu teste fechado recurso para compartilhar versões anteriores de seus aplicativos com os usuários para obter feedback. A empresa sugere fortemente que os desenvolvedores não apenas testem antes do lançamento, mas também documentem esses testes, já que o Google pode solicitar uma revisão no futuro.
A empresa também está publicando outros recursos e melhores práticas, como seu Guia Pessoas + IAque visa apoiar desenvolvedores na criação de aplicativos de IA.
