A vice-presidente Harris anunciou durante o seu discurso em Londres que a declaração foi agora assinada por nações alinhadas com os EUA, que incluem o Reino Unido, Canadá, Austrália, Alemanha e França. Os 31 signatários não incluem a China ou a Rússia, que juntamente com os EUA são vistos como líderes no desenvolvimento de sistemas de armas autónomos. A China juntou-se aos EUA na assinatura de uma declaração sobre os riscos representados pela IA como parte da Cimeira de Segurança da IA coordenada pelo governo britânico.
Automação Mortal
Falar de IA militar evoca frequentemente a ideia de armas alimentadas por IA, capazes de decidir por si próprias quando e como usar a força letal. Os EUA e vários outros países resistiram aos apelos para uma proibição total de tais armas, mas o Pentágono política é que os sistemas autónomos devem permitir que “comandantes e operadores exerçam níveis apropriados de julgamento humano sobre o uso da força”. As discussões em torno da questão no âmbito da Convenção das Nações Unidas sobre Certas Armas Convencionais — estabelecida em 1980 para criar regras internacionais em torno da utilização de armas consideradas de natureza excessiva ou indiscriminada — estagnaram em grande parte.
A declaração liderada pelos EUA anunciada na semana passada não chega ao ponto de procurar a proibição de qualquer uso específico de IA no campo de batalha. Em vez disso, centra-se em garantir que a IA seja utilizada de forma a garantir transparência e fiabilidade. Isso é importante, diz Kahn, porque os militares procuram aproveitar a IA de diversas maneiras. Mesmo que seja restrita e supervisionada de perto, a tecnologia ainda poderá ter efeitos desestabilizadores ou perigosos.
Uma preocupação é que um sistema de IA com defeito possa fazer algo que desencadeie uma escalada nas hostilidades. “O foco em armas autônomas letais é importante”, diz Kahn. “Ao mesmo tempo, o processo ficou atolado nestes debates, que se centram exclusivamente num tipo de sistema que ainda não existe.”
Algumas pessoas ainda estão tentando proibir armas autônomas letais. No mesmo dia em que Harris anunciou a nova declaração sobre IA militar, o Primeiro Comité da Assembleia Geral da ONU, um grupo de nações que trabalha no desarmamento e na proliferação de armas, aprovou uma nova resolução sobre armas autónomas letais.
A resolução apela à elaboração de um relatório sobre os desafios “humanitários, jurídicos, de segurança, tecnológicos e éticos” levantados pelas armas letais autónomas e à contribuição de organizações internacionais e regionais, do Comité Internacional da Cruz Vermelha, da sociedade civil, da comunidade científica, e indústria. Uma declaração emitida pela ONU citou o representante do Egipto dizendo que “um algoritmo não deve ter controlo total sobre decisões que envolvam matar ou ferir seres humanos”, após a votação.
