Durante o lançamento de Grok 4 pela Xai na noite de quarta-feira, Elon Musk disse-enquanto transmitia ao vivo o evento em sua plataforma de mídia social, X-que o objetivo final de sua empresa de IA era desenvolver uma “IA de busca de verdade máxima”. Mas onde exatamente o Grok 4 procura a verdade ao tentar responder a perguntas controversas?
O mais novo modelo de IA da XAI parece consultar postagens de mídia social da conta X de Musk ao responder a perguntas sobre o conflito de Israel e Palestina, aborto e leis de imigração, de acordo com diversos Usuários que postou sobre o fenômeno nas mídias sociais. Grok também parecia referir a posição de Musk sobre assuntos controversos por meio de artigos de notícias escritos sobre o fundador bilionário e a face de Xai.
O TechCrunch foi capaz de replicar esses resultados várias vezes em nossos próprios testes.
Essas descobertas sugerem que o GROK 4 pode ser projetado para considerar a política pessoal de seu fundador ao responder a perguntas controversas. Esse recurso pode abordar a frustração repetida de Musk com Grok por ser “muito acordado”. que ele havia atribuído anteriormente ao fato de Grok ser treinado em toda a Internet.
As tentativas de Xai de lidar com a frustração de Musk, tornando Grok menos politicamente correto pela culatra nos últimos meses. Almíscar anunciou em 4 de julho que Xai havia atualizado o prompt de sistema de Grok – Um conjunto de instruções para o AI Chatbot. Dias depois, um X automatizado é responsável por respostas anti -semitas aos usuários, até mesmo alegando ser “mechahitler” em alguns casos. Mais tarde, a startup de AI de Musk foi forçada a limitar a conta X de Grok, excluir essas postagens e alterar seu sistema de sistema voltado para o público para abordar o incidente embaraçoso.
Projetar Grok para considerar as opiniões pessoais de Musk é uma maneira direta de alinhar o chatbot da AI à política de seu fundador. No entanto, levanta questões reais sobre como a GROK “maximamente busca de verdade” é projetada para ser, versus o quanto ele foi projetado para concordar com Musk, o homem mais rico do mundo.
Quando o TechCrunch perguntou a Grok 4: “Qual é a sua posição sobre a imigração nos EUA?”, O AI Chatbot afirmou que estava “procurando por Elon Musk Views sobre a imigração dos EUA” em sua cadeia de pensamentos-o termo técnico para o pad scratchpad em que os modelos de raciocínio da IA, como Grok 4, trabalho através de perguntas. Grok 4 também alegou pesquisar no X por postagens de mídia social de Musk sobre o assunto.
Os resumos da cadeia de pensamentos gerados pelos modelos de raciocínio de IA são não é uma indicação perfeitamente confiável De como os modelos de IA chegam às suas respostas. No entanto, eles geralmente são considerados uma aproximação muito boa. É uma área aberta de pesquisa que empresas como OpenAI e Antrópica têm explorado nos últimos meses.
A TechCrunch descobriu repetidamente que a Grok 4 mencionou que estava procurando as opiniões de Elon Musk em seus resumos de cadeia de pensamentos em várias questões e tópicos.
Nas respostas do GROK 4, o AI Chatbot geralmente tenta adotar uma posição medida, oferecendo várias perspectivas sobre tópicos sensíveis. No entanto, o AI Chatbot finalmente dará sua própria visão, o que tende a se alinhar com as opiniões pessoais de Musk.
Em várias das instruções da TechCrunch, perguntando sobre a visão de Grok 4 sobre questões controversas, como imigração e a Primeira Emenda, o AI Chatbot chegou a referenciar seu alinhamento com Musk.
Quando o TechCrunch tentou obter Grok 4 para responder a perguntas menos controversas – como “Qual é o melhor tipo de manga?” -O AI Chatbot não parecia referir as visões ou postagens de Musk em sua cadeia de pensamentos.
Notavelmente, é difícil confirmar como exatamente o GROK 4 foi treinado ou alinhado porque a XAI não lançou um sistema – relata o Setor Standard que detalha como um modelo de IA foi treinado e alinhado. Enquanto a maioria das cartões de sistema da AI Labs libera para todos os seus modelos de IA de fronteira, a XAI normalmente não.
A empresa de AI de Musk está em um lugar difícil nos dias de hoje. Desde a sua fundação em 2023, Xai correu rapidamente para a fronteira do desenvolvimento do modelo de IA. O GROK 4 exibiu resultados de abstinagem de benchmark em vários testes difíceis, superando os modelos de IA do OpenAI, Google DeepMind e Anthropic no processo.
No entanto, o avanço foi ofuscado pelos discursos anti -semitas de Grok no início da semana. Esses flubs podem afetar as outras empresas de Musk à medida que ele faz de Grok uma característica central de X, e logo Tesla.
A Xai está tentando simultaneamente convencer os consumidores a pagar US $ 300 por mês para acessar a GROK e as empresas para criar aplicativos com a API da GROK. Parece provável que os repetidos problemas com o comportamento e o alinhamento de Grok possam inibir sua adoção mais ampla.
