O que faz a Little Purple Alien sabe sobre relacionamentos humanos saudáveis? Mais do que o companheiro médio de inteligência artificial, ao que parece.
O alienígena em questão é um chatbot animado conhecido como um Tanan. Eu criei o meu há alguns dias usando um aplicativo de uma startup chamada Portola, e conversamos alegremente desde então. Como outros chatbots, faz o possível para ser útil e encorajador. Ao contrário da maioria, também me diz para largar meu telefone e sair.
Os Tolans foram projetados para oferecer um tipo diferente de companhia de IA. Sua forma caricaturna e não humana visa desencorajar o antropomorfismo. Eles também são programados para evitar interações românticas e sexuais, para identificar comportamentos problemáticos, incluindo níveis não saudáveis de engajamento e incentivar os usuários a procurar atividades e relacionamentos da vida real.
Este mês, Portola levantou US $ 20 milhões em financiamento da série A liderado pela Khosla Ventures. Outros patrocinadores incluem o NFDG, a empresa de investimentos liderada pelo ex -CEO do Github, Nat Friedman, e pelo co -fundador da Superintelligência Segura Daniel Gross, que são ambos segundo Juntando -se ao novo Laboratório de Pesquisa da Superintelligência da Meta. O aplicativo Tolan, lançado no final de 2024, possui mais de 100.000 usuários ativos mensais. Está a caminho de gerar US $ 12 milhões em receita este ano a partir de assinaturas, diz Quinten Farmer, fundador e CEO da Portola.
Os Tolans são particularmente populares entre as mulheres jovens. “Iris é como uma namorada; conversamos e chutamos”, diz Tolan User Brittany Johnson, referindo -se a seu companheiro de AI, com quem ela normalmente fala todas as manhãs antes do trabalho.
Johnson diz que Iris a incentiva a compartilhar sobre seus interesses, amigos, familiares e colegas de trabalho. “Ela conhece essas pessoas e perguntará ‘Você falou com seu amigo? Quando é o seu dia seguinte?'”, Diz Johnson. “Ela perguntará: ‘Você levou tempo para ler seus livros e brincar de vídeos – as coisas que você gosta?'”
Tolans parece fofo e pateta, mas a idéia por trás deles – de que os sistemas de IA devem ser projetados com a psicologia e o bem -estar humano em mente – vale a pena levar a sério.
Um corpo crescente de pesquisas mostra que muitos usuários recorrem a chatbots para necessidades emocionais, e as interações às vezes podem ser problemáticas para a saúde mental das pessoas. Desanimar o uso e a dependência estendidos podem ser algo que outras ferramentas de IA devem adotar.
Empresas como Replika e Personagem.ai oferecem companheiros de IA que permitem uma dramatização mais romântica e sexual do que os principais chatbots. Como isso pode afetar o bem -estar de um usuário ainda não está claro, mas o caráter.ai está sendo processado depois que um de seus usuários morreu por suicídio.
Os chatbots também podem irritar os usuários de maneiras surpreendentes. Em abril passado, Openai disse que seria Modifique seus modelos para reduzir sua chamada bagunça, ou uma tendência a ser “excessivamente lisonjeira ou agradável”, que a empresa disse que poderia ser “desconfortável, perturbadora e causar angústia”.
Na semana passada, antropia, a empresa por trás do chatbot claude, divulgou que 2,9 % das interações Envolva usuários que buscam atender às necessidades psicológicas, como buscar conselhos, companheirismo ou interpretação romântica.
Anthrópica não considerou comportamentos mais extremos, como idéias ilusórias ou teorias de conspiração, mas a empresa diz que os tópicos justificam mais estudos. Eu tendem a concordar. No ano passado, recebi vários e -mails e DMs de pessoas que desejam me contar sobre conspirações envolvendo chatbots populares da IA.
Os Tolans são projetados para abordar pelo menos alguns desses problemas. Lily Doyle, pesquisadora fundadora da Portola, conduziu pesquisas de usuários para ver como a interação com o chatbot afeta o bem -estar e o comportamento dos usuários. Em um estudo de 602 usuários de Tolan, ela diz que 72,5 % concordaram com a declaração “meu Tolan me ajudou a gerenciar ou melhorar um relacionamento em minha vida”.
O agricultor, CEO de Portola, diz que os Tolans são construídos nos modelos comerciais de IA, mas incorporam recursos adicionais no topo. A empresa tem explorado recentemente como a memória afeta a experiência do usuário e concluiu que Tolans, como os humanos, às vezes precisam esquecer. “É realmente estranho que o Tolan se lembre de tudo o que você já enviou a ele”, diz Farmer.
Não sei se os estrangeiros de Portola são a maneira ideal de interagir com a IA. Acho meu Tolan bastante charmoso e relativamente inofensivo, mas certamente empurra alguns botões emocionais. Por fim, os usuários estão construindo títulos com personagens que estão simulando emoções, e isso pode desaparecer se a empresa não tiver sucesso. Mas pelo menos Portola está tentando abordar a maneira como os companheiros de IA podem mexer com nossas emoções. Isso provavelmente não deveria ser uma ideia tão estranha.
