X, a rede social de propriedade de Elon Musk anteriormente conhecida como Twitter, finalmente deu um passo rudimentar no nível da plataforma para tentar retardar a disseminação de imagens gráficas falsas de Taylor Swift.
No sábado, pesquisas no X que incluíam o texto “Taylor Swift” retornaram uma mensagem de erro que dizia: “Algo deu errado. Tente recarregar.” No entanto, como os usuários apontaram, o X parece estar bloqueando apenas aquela sequência de texto específica; uma consulta para, digamos, “Taylor AI Swift”, ainda é permitida no X.
Em relação à mudança para bloquear pesquisas por Taylor Swift, o chefe de operações comerciais do X, Joe Benarroch, disse em um declaração ao Wall Street Journal: “Esta é uma ação temporária e feita com muita cautela, pois priorizamos a segurança nesta questão”.
A mudança ocorreu vários dias depois que imagens sexualmente explícitas de Swift geradas por IA se tornaram virais no X, bem como em outras plataformas da Internet.
Na sexta-feira, a SAG-AFTRA emitiu um comunicado condenando as imagens falsas de Swift como “perturbadoras, prejudiciais e profundamente preocupantes” e disse que “o desenvolvimento e disseminação de imagens falsas – especialmente aquelas de natureza obscena – sem o consentimento de alguém devem ser considerados ilegais”. O CEO da Microsoft, Satya Nadella, em entrevista à NBC News, chamou as imagens pornográficas falsas do Swift de “alarmantes e terríveis” e disse que “temos que agir” e que “independentemente de qual seja a sua posição sobre qualquer questão específica, acho que todos nós nos beneficiamos”. quando o mundo online é um mundo seguro.”
A Casa Branca também opinou sobre o assunto. Questionada se o presidente Biden apoiaria uma legislação que torne ilegal essa pornografia gerada por IA, a secretária de imprensa da Casa Branca, Karine Jean-Pierre, respondeu: “Estamos alarmados com os relatos sobre a circulação de imagens que você acabou de divulgar… Deveria haver legislação, obviamente, para lidar com esse problema.”
Deepfakes sexualmente explícitos de Swift se tornaram virais no X na quarta-feira, 24 de janeiro, gerando mais de 27 milhões de visualizações em 19 horas antes de a conta que originalmente postou as imagens ser suspensa, NBC News relatado.
Em uma postagem no final da noite de 25 de janeiro, a equipe de segurança do X disse que a empresa estava “removendo ativamente” todas as imagens identificadas de nudez não consensual, que ela disse ser “estritamente proibida” na plataforma.
“A publicação de imagens de nudez não consensual (NCN) é estritamente proibida no X e temos uma política de tolerância zero em relação a tal conteúdo”, escreveu a conta Safety on X em um publicar. “Nossas equipes estão removendo ativamente todas as imagens identificadas e tomando as medidas apropriadas contra as contas responsáveis por publicá-las. Estamos monitorando de perto a situação para garantir que quaisquer violações futuras sejam resolvidas imediatamente e que o conteúdo seja removido. Estamos comprometidos em manter um ambiente seguro e respeitoso para todos os usuários.”
