O YouTube agora exige que os criadores divulguem aos espectadores quando conteúdo realista foi feito com IA, a empresa anunciado na segunda-feira. A plataforma está introduzindo uma nova ferramenta no Creator Studio que exigirá que os criadores divulguem quando o conteúdo que os espectadores poderiam confundir com uma pessoa, lugar ou evento real foi criado com mídia alterada ou sintética, incluindo IA generativa.
As novas divulgações têm como objetivo evitar que os usuários sejam levados a acreditar que um vídeo criado sinteticamente é real, à medida que novas ferramentas generativas de IA tornam mais difícil diferenciar entre o que é real e o que é falso. O lançamento vem como especialistas alertaram que a IA e os deepfakes representarão um risco notável durante as próximas eleições presidenciais dos EUA.
O anúncio de hoje ocorre no momento em que o YouTube anuncia em novembro que iria lançar a atualização como parte de uma introdução mais ampla de novas políticas de IA.
O YouTube diz que a nova política não exige que os criadores divulguem conteúdo claramente irreal ou animado, como alguém montando um unicórnio em um mundo fantástico. Também não exige que os criadores divulguem conteúdo que usou IA generativa para assistência à produção, como geração de scripts ou legendas automáticas.
Créditos da imagem: YouTube
Em vez disso, o YouTube tem como alvo vídeos que usam a imagem de uma pessoa realista. Por exemplo, os criadores terão de divulgar quando alterarem digitalmente o conteúdo para “substituir o rosto de um indivíduo pelo de outro ou gerar sinteticamente a voz de uma pessoa para narrar um vídeo”, diz o YouTube.
Eles também terão que divulgar conteúdo que altere a filmagem de eventos ou lugares reais, como fazer parecer que um prédio real pegou fogo. Os criadores também terão que divulgar quando gerarem cenas realistas de grandes eventos fictícios, como um tornado se movendo em direção a uma cidade real.
O YouTube diz que a maioria dos vídeos terá um rótulo na descrição expandida, mas para vídeos que abordam tópicos mais delicados, como saúde ou notícias, a empresa exibirá um rótulo mais proeminente no próprio vídeo.
Os espectadores começarão a ver os rótulos em todos os formatos do YouTube nas próximas semanas, começando no aplicativo YouTube para dispositivos móveis e, em breve, no computador e na TV.
O YouTube planeja considerar medidas de fiscalização para criadores que optam consistentemente por não usar os rótulos. A empresa afirma que adicionará rótulos em alguns casos quando o próprio criador não tiver adicionado um, especialmente se o conteúdo tiver o potencial de confundir ou enganar as pessoas.
