Em 2 de novembro, 2022, participei de um evento do Google AI na cidade de Nova York. Um dos temas foi a IA responsável. Ao ouvir os executivos falarem sobre como alinhavam sua tecnologia com os valores humanos, percebi que a maleabilidade dos modelos de IA era uma faca de dois gumes. Os modelos podem ser ajustados para, digamos, minimizar vieses, mas também para fazer cumprir um ponto de vista específico. Os governos podem exigir manipulação para censurar fatos indesejados e promover a propaganda. Eu imaginei isso como algo que um regime autoritário como a China poderia empregar. Nos Estados Unidos, é claro, a Constituição impediria o governo de mexer com os resultados dos modelos de IA criados por empresas privadas.
Nesta quarta-feira, o governo Trump divulgou seu manifesto de IA, um abrangente plano de ação Para uma das questões mais vitais que o país enfrenta – e até a humanidade. O plano geralmente se concentra em suportar a China na corrida pela supremacia de IA. Mas uma parte parece mais sincronizada com o manual da China. Em nome da verdade, o governo dos EUA agora quer que os modelos de IA sigam a definição de Donald Trump dessa palavra.
Você não encontrará essa intenção declarada claramente no plano de 28 páginas. Em vez disso, diz: “É essencial que esses sistemas sejam construídos desde a liberdade de expressão e expressão em mente, e que a política do governo dos EUA não interfira nesse objetivo. Devemos garantir que a liberdade de expressão floresça na era da IA e que a IA adquirida pelo governo federal reflita objetivamente a verdade, em vez de agendas de engenharia social”.
Tudo bem até a última frase, o que levanta a questão – truta de acordo com quem? E o que exatamente é uma “agenda de engenharia social”? Recebemos uma pista sobre isso no próximo parágrafo, que instrui o Departamento de Comércio a examinar as regras da IA da era Biden e “eliminar referências a desinformação, diversidade, equidade e inclusão e mudança climática”. (Manchada estranha como escrito no plano publicado.) Reconhecendo mudança climática É engenharia social? Quanto à verdade, em uma folha de fato Sobre o plano, a Casa Branca diz: “Os LLMs serão verdadeiros e priorizarão a precisão histórica, a investigação científica e a objetividade”. Parece bom, mas isso vem de uma administração que Limita a história americana Para “edificar” interpretações, nega as mudanças climáticas e considera as alegações de Donald Trump sobre ser o maior presidente da América como verdade objetiva. Enquanto isso, apenas nesta semana, a verdadeira conta de Trump repositou um vídeo de IA de Obama na prisão.
Em um discurso divulgando o plano em Washington na quarta -feira, Trump explicou a lógica Por trás da diretiva: “O povo americano não quer que a loucura marxista acordou nos modelos de IA”, disse ele. Então ele assinou uma ordem executiva intitulado “Prevenir a IA acordou no governo federal”. Embora especifique que o “governo federal deve hesitar em regular a funcionalidade dos modelos de IA no mercado privado”, declara que “no contexto de compras federais, tem a obrigação de não adquirir modelos que sacrifiquem a veracidade e a precisão às agendas ideológicas”. Como todas as grandes empresas de IA estão cortejando contratos governamentais, a ordem parece ser um esforço de backdoor para garantir que os LLMs em geral mostrem lealdade à interpretação da história, identidade sexual e outras questões de botão quente da Casa Branca. Caso haja alguma dúvida sobre o que o governo considera uma violação, a ordem gasta vários parágrafos demonizando a IA que apóia a diversidade, chama o viés racial ou valoriza a igualdade de gênero. Alerta de Pogo-A ordem executiva da TRUMP proibindo o viés ideológico de cima para baixo é um exercício flagrante no viés ideológico de cima para baixo.
Marx Madness
Cabe às empresas determinar como lidar com essas demandas. Conversei esta semana a um engenheiro do Openai trabalhando no comportamento do modelo que me disse que a empresa já se esforça por neutralidade. No sentido técnico, eles disseram, cumprir os padrões do governo como ser anti-woke não deve ser um grande obstáculo. Mas isso não é uma disputa técnica: é constitucional. Se empresas como antropia, OpenAI ou Google decidirem tentar minimizar o viés racial em seus LLMs ou fazer uma escolha consciente para garantir que as respostas dos modelos reflitam os perigos da mudança climática, a Primeira Emenda presumivelmente protege essas decisões como exercendo a “liberdade de expressão e expressão” apresentada no plano de ação da AI. Um mandato do governo negar contratos governamentais a empresas que exercem esse direito é a essência da interferência.
Você pode pensar que as empresas que construíram a IA revidariam, citando seus direitos constitucionais sobre esse assunto. Mas até agora, nenhuma grande empresa de tecnologia se opôs publicamente ao plano do governo Trump. Google célebre O apoio da Casa Branca a seus problemas de animais de estimação, como aumentar a infraestrutura. Antrópico publicou uma postagem positiva no blog Sobre o plano, embora se queixasse do repentino aparente abandono da Casa Branca de fortes controles de exportação no início deste mês. Openai diz que já está perto de alcançar objetividade. Nada sobre afirmar sua própria liberdade de expressão.
Em ação
A reticência é compreensível porque, no geral, o plano de ação da IA é uma bonanza para as empresas de IA. Enquanto o governo Biden exigia escrutínio de grande tecnologia, o plano de Trump é uma luz verde gorda para a indústria, que considera um parceiro na luta nacional para vencer a China. Ele permite que os poderes de IA explodam essencialmente as objeções ambientais ao construir data centers maciços. Ele promete suporte à pesquisa de IA que fluirá para o setor privado. Existe até uma disposição que limita alguns fundos federais para os estados que tentam regular a IA por conta própria. Esse é um prêmio de consolação para uma parte fracassada da conta do orçamento recente que teria proibido a regulamentação do estado por uma década.
Para o resto de nós, porém, a ordem “Anti-Woke” não é tão facilmente eliminada. A IA é cada vez mais o meio pelo qual recebemos nossas notícias e informações. Um princípio fundador dos Estados Unidos tem sido a independência de tais canais da interferência do governo. Vimos como o atual governo atendeu às empresas -mãe de gigantes da mídia como a CBS aparentemente compromisso deles Princípios jornalísticos para favorecer objetivos corporativos. Estendendo essa agenda “anti-woke” aos modelos de IA, não é irracional esperar acomodações semelhantes. O senador Edward Markey tem escrito diretamente Para os CEOs do alfabeto, antropia, OpenAi, Microsoft e Meta, pedindo -lhes que combatem a ordem. “Os detalhes e o plano de implementação para esta ordem executiva permanecem incertos”, escreve ele, “mas criará incentivos financeiros significativos para as grandes empresas de tecnologia … para garantir que seus chatbots de IA não produza discursos que perturbassem o governo Trump”. Em uma declaração para mim, ele disse: “Os republicanos querem usar o poder do governo para fazer com que o chatgpt pareça como Fox e amigos. ”
Como você pode suspeitar, essa visão não é compartilhada pela equipe da Casa Branca trabalhando no plano de IA. Eles acreditam que seu objetivo é a verdadeira neutralidade, e que os contribuintes não deveriam ter que pagar pelos modelos de IA que não refletem a verdade imparcial. De fato, o próprio plano aponta um dedo para a China como um exemplo do que acontece quando a verdade é manipulada. Ele instrui o governo a examinar os modelos de fronteira da República Popular da China para determinar “o alinhamento com os pontos de discussão do Partido Comunista Chinês e a censura”. A menos que os senhores corporativos da IA recebam algum backbone, uma avaliação futura de americano Os modelos de fronteira podem muito bem revelar o alinhamento de bloqueio com pontos de discussão da Casa Branca e censura. Mas você pode não descobrir isso consultando um modelo de IA. Também acordou.
Esta é uma edição de Steven Levy’s Newsletter de backchannel. Leia a cobertura anterior de Steven Levy aqui.
