O Instagram foi flagrado desenvolvendo um recurso de “amigo de IA” que os usuários poderiam personalizar de acordo com sua preferência e conversar, de acordo com capturas de tela compartilhadas pelo pesquisador do aplicativo Alessandro Paluzzi. Os usuários poderiam conversar com a IA para “responder perguntas, conversar sobre quaisquer desafios, debater ideias e muito mais”, de acordo com as capturas de tela do recurso.
As capturas de tela indicam que os usuários poderiam selecionar o sexo e a idade do chatbot. Em seguida, os usuários poderiam escolher a etnia e a personalidade de sua IA. Por exemplo, seu amigo IA pode ser “reservado”, “entusiasmado”, “criativo”, “espirituoso”, “pragmático” ou “capacitador”.
Para personalizar ainda mais seu amigo IA, você pode escolher seus interesses, que irão “informar sua personalidade e a natureza de suas conversas”, de acordo com as capturas de tela. As opções incluem “faça você mesmo”, “animais”, “carreira”, “educação”, “entretenimento”, “música”, “natureza” e muito mais.
Depois de fazer suas seleções, você poderá selecionar um avatar e um nome para seu amigo IA. Você seria então levado a uma janela de bate-papo, onde poderia clicar em um botão para começar a conversar com a IA.
Créditos da imagem: Alessandro Paluzzi
O Instagram se recusou a comentar o assunto. E, claro, recursos não lançados podem ou não ser lançados ao público, ou o recurso pode ser alterado posteriormente durante o processo de desenvolvimento.
A decisão da rede social de desenvolver, e possivelmente lançar, um chatbot de IA comercializado como “amigo” para milhões de utilizadores apresenta riscos. Julia Stoyanovich, diretora do Centro de IA Responsável da NYU e professora associada de ciência da computação e engenharia da universidade, disse ao TechCrunch que a IA generativa pode fazer com que os usuários pensem que estão interagindo com uma pessoa real.
“Um dos maiores – se não o maior – problemas com a forma como usamos a IA generativa hoje é que somos enganados ao pensar que estamos interagindo com outro ser humano”, disse Stoyanovich. “Somos enganados ao pensar que a coisa do outro lado da linha está se conectando conosco. Que tenha empatia. Nós nos abrimos para isso e nos deixamos vulneráveis a sermos manipulados ou desapontados. Este é um dos perigos distintos da antropomorfização da IA, como a chamamos.”
Quando questionado sobre os tipos de salvaguardas que devem ser implementadas para proteger os utilizadores contra riscos, Stoyanovich disse que “sempre que as pessoas interagem com a IA, têm de saber que é com uma IA que estão a interagir e não com outro ser humano. Este é o tipo mais básico de transparência que deveríamos exigir.”
Créditos da imagem:
O desenvolvimento do recurso “amigo de IA” ocorre no momento em que controvérsias em torno dos chatbots de IA surgiram no ano passado. Durante o verão, um Tribunal do Reino Unido ouviu um caso onde um homem alegou que um chatbot de IA o encorajou a tentar matar a falecida Rainha Elizabeth dias antes de ele invadir o Castelo de Windsor. Em Março, a viúva de um homem belga que morreu por suicídio alegou que um O chatbot AI convenceu ele se matar.
Outras plataformas sociais lançaram chatbots de IA com resultados mistos. Por exemplo, o Snapchat lançou seu chatbot “My AI” em fevereiro e enfrentou polêmica por fazê-lo sem o devido uso. recursos de restrição de idadepois descobriu-se que o chatbot conversava com menores sobre tópicos como encobrir o cheiro de maconha e criar clima para sexo.
Não está claro quais ferramentas de IA o Instagram usaria para potencializar o “amigo da IA”, mas à medida que a IA generativa cresce, a empresa-mãe da rede social Meta já começou a incorporar a tecnologia em sua família de aplicativos. Mês passado, Meta lançou 28 IA chatbots que os usuários podem enviar mensagens através do Instagram, Messenger e WhatsApp. Alguns dos chatbots são interpretados por nomes notáveis como Kendall Jenner, Snoop Dogg, Tom Brady e Naomi Osaka. Vale ressaltar que o lançamento das personas de IA não foi uma surpresa, visto que Paluzzi revelou em junho, a rede social estava trabalhando em chatbots de IA.
Ao contrário do chatbot “amigo de IA”, que pode conversar sobre uma variedade de tópicos, cada uma dessas personas de IA interativas é projetada para diferentes interações. Por exemplo, o chatbot de IA interpretado por Kendall Jenner, chamado Billie, foi projetado para ser uma irmã mais velha que pode dar conselhos de vida aos jovens usuários.
O novo chatbot “amigo AI” que o Instagram parece estar desenvolvendo parece ter sido projetado para facilitar conversas mais abertas.
