Apenas um romance de ficção científica realmente previu a IA certa

O atual fascínio e frustração cultural pela inteligência artificial não é novidade. Já como o jogo tcheco de 1921 Rur -a história dos trabalhadores que primeiro cunhou o termo “robô” – Os escritores de ficção científica canalizaram medos sobre a inteligência artificial em histórias em que os robôs representam (ou apenas trazem à tona) o melhor ou o pior da humanidade.

Mas os retratos fictícios da IA ​​praticamente nunca se pareciam com o presente real da IA. Todos aqueles terminadores assassinos, robôs rebeldes do Westworld e Supercomputadores de Nuke-Hijacking não tem nada a ver com a aparência da IA ​​agora, com seu debates éticos sem fimAssim, Impacto ambiental destrutivoe falhas hilárias. Ainda assim, a última onda de histórias sobre pessoas Tratando chatbots generativos como amigos e terapeutas – e o avisos sobre o que pode acontecer como resultado -Continue me lembrando o romance de ficção científica que realmente teve uma visão presciente dos problemas que a IA moderna enfrentaria.

O romance de John Varley de 1992 Praia de aço estabelece um mundo selvagem de futuros, onde estrangeiros destruíram a vida humana na Terra. A humanidade caiu para a lua (a “praia de aço” do título) e outras colônias, formando o ““Oito mundos”Sistema no qual muitas das histórias e romances de Varley são definidos. No futuro de Praia de açoos humanos administram rancho de dinossauros por carne, alteram e reescrevem seus corpos por um capricho e cultivam interfaces orgânicas cerebrais a computadores para que possam operar dispositivos com um pensamento. Mas o livro ainda tem alguns aspectos da IA ​​do mundo real do que a maioria dos livros de ficção científica ambientada em futuros quase atuais. Em particular, Varley não considera apenas o impacto da IA ​​na humanidade – ele se aproxima do impacto da humanidade na IA.

ficção científica geralmente tende a contos de advertência alarmistasporque as histórias de distopia são geralmente mais emocionantes e dramáticas do que as histórias de utopia. Série de ficção científica puramente positivista como a franquia Star Trek são raras, em comparação com a longa história de AIs assassinos como Hal 9000 em 2001: uma odisseia espacialCinzas em Estrangeiroou o mundo inteiro dos superbotos em A matriz. (Mesmo em programas de Star Trek, computadores com defeito e malévolos ou avatares de holodeck são bastante comuns.) Mas Varley faz uma abordagem diferente. Praia de aço Começa em um futuro pós-escassez, onde as pessoas vivem por séculos, todos têm um trabalho satisfatório legalmente se quiserem um, e a inteligência artificial é o companheiro mais próximo de todos e o mais engajado e entusiasmado advogado.

O protagonista do livro, o jornalista cínico Hildy Johnson (nomeado após o ACE Reporter na peça de 1928 A primeira página e suas várias adaptações), descreve o computador Central Luna que dirige a lua como “um servo muito inteligente e discreto, para nos aliviar através das dificuldades práticas da vida”. O CC lida praticamente todos os aspectos da civilização lunar, desde a administração do ar, aquecimento, água, esgoto e sistemas de transporte até o gerenciamento do governo.

Também interfina quase todos os cidadãos da lua em nível pessoal. As pessoas geralmente usam a interface pessoal do CC como assistente virtual do tipo Siri/Alexa, para enviar mensagens e organizar calendários. Mas eles geralmente acessam o CC através de um link para o cérebro, para que ele possa conversar diretamente em suas mentes ou até puxá-los para o equivalente a mundos da realidade virtual, através do que chama de interface direta. E, como Hildy aprende gradualmente, o CC está constantemente monitorando seus cidadãos, avaliando seus estados de saúde e mentais e intervindo de forma criativa para tentar promover seu bem-estar.

A idéia de um companheiro artificial não julgado que não experimenta emoções, mas foi programado para imitá-las para fazer com que seus usuários se sintam amados e cuidados-isso certamente soa desastrosamente familiar em termos de O que alguns usuários experimentam com chatbots modernos. O mesmo acontece com a ideia de Monitorando o software que está sempre espionando seus usuários. Muito menos familiar neste exato momento, porém, é o relacionamento de pessoas em Praia de aço tendem a ter com o CC.

No início do livro, Hildy o descreve como “companheiro de reprodução imaginário ideal de toda criança”, um companheiro infinitamente flexível e constantemente presente que “gera uma personalidade distinta para todo cidadão (…) e está sempre pronto para oferecer conselhos, conselhos ou um ombro para chorar”. E, no entanto, afirma Hildy, a maioria das pessoas para de tratar o CC como um amigo quando atingem a adolescência, quando percebem que as pessoas reais, “apesar de suas deficiências”, tornam os companheiros melhores, mais sutis e mais gratificantes do que o computador mais avançado e carinhoso.

Como mais e mais pessoas em nosso presente do mundo real Volte para os bots como ChatGpt for Companionshipé difícil acreditar que, na sociedade de Hildy, a pessoa comum não tem necessidade ou interesse em uma presença constantemente acessível e solidária que se adapte às necessidades de todos os usuários. (O futuro de Spike Jonze’s Delaonde o protagonista se enquadra em um relacionamento obsessivo com um companheiro de IA, parece mais provável. Afinal, vivemos em um mundo onde As pessoas atingem até os robôs de agendamento mais rudimentares.)

A ideia de que a maioria das pessoas transforma esse companheiro infinitamente simpático em nada mais do que uma ferramenta de mensagens de texto com mãos é improvável. Mas, notavelmente, o próprio relacionamento de Hildy com o CC é muito mais complicado, emocional e investido, o que sugere que Hildy não está necessariamente ciente de como outras pessoas interagem com seu onipresente Overlord.

O raciocínio por trás desse relacionamento é o que realmente faz Praia de aço Sinta-se tão perspicaz com os problemas com a IA atual. Praia de aço é um romance episódico e expansivo que usa a busca de Hildy por uma vida significativa e satisfatória como um quadro para vinhetas sobre o futuro do jornalismo, modificação corporal, relacionamentos, capitalismo, alfabetização, saúde mental, escapismo e muito mais. (Especialmente sexo: a linha de abertura provocativa do livro é “em cinco anos, o pênis ficará obsoleto”.) Mas o relacionamento de Hildy com o computador central é a linha interna que mantém tudo unido.

Acontece que o computador central passa tanto tempo nesse relacionamento porque está tentando abordar a depressão e a inclinação não reconhecidas de Hildy – sentimentos de suicídio – os sentimentos que o CC está se experimentando, devido ao seu conhecimento íntimo de todos os problemas e tribulações de todos na lua. O CC está amarrado ao cérebro de todos, por isso compartilha intimamente suas dores. E está ligado à vida de todos, mas foi legalmente impedido de compartilhar qualquer informação pessoal ou privada sobre qualquer um de seus usuários. Assim, por exemplo, ele não pode relatar crimes que eles cometem, mesmo contra outros usuários. Tem que estar a par do sofrimento de todos, sem a autoridade para fazer nada a respeito.

Mas o que realmente me parece fascinante no CC é a ideia de que suas tentativas de se adaptar às necessidades de todos os usuários o deixaram com inúmeros confrontos de personalidade interna. Em um caso particularmente extremo, Hildy percebe, o CC foi programado para ser tão simpático, solidário e respeitoso com um molestador de crianças incestuosas quanto para a filha que ele está agredindo. E o computador está perdendo a mente (ou as mentes) como resultado de tentar conciliar todos esses eus conflitantes.

Como isso se relaciona com a IA moderna? É relevante porque ainda hoje, as ferramentas de IA estão sendo construídas e refinadas em torno de necessidades, preocupações e crenças conflitantes. Considere o projeto AI Chatbot de Elon Musk, Grok, Projetado como um contador para o Chatgpt de OpenAi. Musk afirmou que Grok evitaria o viés liberal de Chatgpt – mas o software chocou seus seguidores por Identificando -o como “o maior espalhador de desinformação do mundo hoje”. confirmando isso mulheres trans são mulheres e isso As vacinas não causam autismoe explicando em detalhes como Musk’s Reivindicações politicamente tendenciosas sobre os gastos do governo em imigrantes estão errados. Em X, Musk lamentou o “lixo acordado” que Grok estava ingerindo da internet e prometeu que o bot “melhoraria”-o que significa que ele pretendia ajustá-lo para torná-lo mais ideologicamente direita. Eu imediatamente pensei em Praia de aço.

É um mito comum que Ai é objetiva e neutraporque as máquinas não são preconceituosas, mas não é verdade. Qualquer pessoa que crie um modelo de linguagem grande interativa tem que enfrentar perguntas em torno de seus preconceitosjá que todos são treinados sobre a contribuição humana, e Os seres humanos são notoriamente tendenciosos.

O vieses inerentes assados ​​nos modelos de IA Geralmente não são intencionais, mas neutralizá -los deve ser um processo intencional – e isso abre uma lata ainda maior de vermes. Uma coisa é reclamar que os geradores de imagens de IA pediram a imagem de uma “mulher bonita” refletindo o conteúdo on -line usado para treiná -los, e Mostre um preconceito pesado em direção a mulheres excepcionalmente magras, jovens e de pele clara. Outra coisa é descobrir como redefinir esse viés e cujos padrões específicos de beleza para sobrepor o treinamento de uma IA.

E, independentemente do que uma IA interativa considera a verdade, ainda há a questão de como os programadores podem ou devem limitar o que pode dizer a seus usuários. Essa pergunta faz parte da conversa da IA ​​desde os primeiros lançamentos de grandes modelos de idiomas. Os primeiros usuários do ChatGPT fizeram questão de explorar todas as maneiras pelas quais poderia ser enganado para explicar, digamos, Como construir uma bomba ou o Melhores métodos para furto em lojas. Outro chatbot aparentemente convenceu um usuário a se matar. Definir a segurança de segurança sobre o que uma IA tem permissão para dizer aos usuários e como ela responde a perguntas perigosas Uma grande preocupação para as pessoas que os criam.

Tudo isso me leva de volta a Praia de açoe a história de uma IA que foi completamente comprometida por insumos e demandas conflitantes, que foi instruído a tomar como igualmente valioso e importante. O computador central de Varley visa servir a todos igualmente, mas inerentemente não pode, porque as pessoas precisam de conflito. É para ser um companheiro para todos, mas as pessoas monitoram e gerenciam isso discordam de seus usos, e alguns dos corrimãos que eles colocam nele se mostram desastrosos. As maneiras pelas quais ele resolve sua programação conflitante e as necessidades conflitantes do usuário são o material da pura ficção científica – mas elas contribuem para uma história divertida e emocionante, bem como uma peça de pensamento especulativa sobre todas as maneiras pelas quais a IA reflete inadvertidamente a complexidades de seus criadores.

Parte do que faz Praia de aço Uma leitura divertida e atenciosa é que ela foi escrita tanto tempo antes de qualquer um dos debates atuais da IA ​​do mundo real se tornar notícia diária. Varley não está comentando abertamente ou analisando nenhuma visão presente específico da IA. Ele não está acenando ou entregando uma polêmica. Ele apenas extrapola como seria que um computador “imparcial” fosse puxado em tantas direções, em torno de tantas pessoas e expectativas conflitantes de tantas pessoas. Como tanta ficção científica, é um conto de advertência. Mas, como a melhor ficção científica, envolve suas reflexões sobre a tecnologia dentro de uma história ótima e surpreendente.

Você pode Leia um trecho gratuito de Praia de aço aqui.