O Openai está reorganizando sua equipe de comportamento modelo, um grupo pequeno, mas influente de pesquisadores, que molda como os modelos de IA da empresa interagem com as pessoas, aprendeu o TechCrunch.
Em um memorando de agosto para os funcionários vistos pelo TechCrunch, o diretor de pesquisa do OpenAI, Mark Chen, disse que a equipe de comportamento do modelo-que consiste em cerca de 14 pesquisadores-se juntaria à equipe de pós-treinamento, um grupo de pesquisa maior responsável por melhorar os modelos de IA da empresa após o pré-treinamento inicial.
Como parte das mudanças, a equipe de comportamento do modelo agora se reportará ao líder de treinamento do OpenAI, Max Schwarzer. Um porta -voz do Openai confirmou essas mudanças no TechCrunch.
O líder fundador da equipe de comportamento do modelo, Joanne Jang, também está seguindo em frente a iniciar um novo projeto na empresa. Em uma entrevista à TechCrunch, Jang diz que está construindo uma nova equipe de pesquisa chamada OAI Labs, que será responsável por “inventar e prototipar novas interfaces para como as pessoas colaboram com a IA”.
A equipe de comportamento do modelo se tornou um dos principais grupos de pesquisa da OpenAI, responsável por moldar a personalidade dos modelos de IA da empresa e por reduzir a sicofância – que ocorre quando os modelos de IA simplesmente concordam e reforçam as crenças do usuário, até as prejudiciais, em vez de oferecer respostas equilibradas. A equipe também trabalhou na navegação do viés político nas respostas dos modelos e ajudou o OpenAI a definir sua posição em Consciência da AI.
No memorando para a equipe, Chen disse que agora é a hora de aproximar o trabalho da equipe de comportamento de modelo do OpenAI do desenvolvimento do modelo principal. Ao fazer isso, a empresa está sinalizando que a “personalidade” de sua IA agora é considerada um fator crítico na maneira como a tecnologia evolui.
Nos últimos meses, o OpenAI enfrentou maior escrutínio sobre o comportamento de seus modelos de IA. Os usuários se opuseram fortemente às mudanças de personalidade feitas ao GPT-5, que a empresa disse que exibia taxas mais baixas de bajulação, mas parecia mais fria para alguns usuários. Isso levou o OpenAI a restaurar o acesso a alguns de seus modelos herdados, como o GPT-4O, e a lançar uma atualização para fazer com que as respostas mais recentes do GPT-5 se sintam “mais quentes e amigáveis” sem aumentar a bajulação.
Evento do TechCrunch
São Francisco
|
27-29 de outubro de 2025
O Openai e todos os desenvolvedores de modelos de IA precisam caminhar uma linha tênue para tornar seus chatbots de IA amigáveis para conversar, mas não com o bajulador. Em agosto, os pais de um garoto de 16 anos processou o Openai sobre o suposto papel de Chatgpt no suicídio de seu filho. O garoto, Adam Raine, confidenciou alguns de seus pensamentos suicidas e planejamos conversar (especificamente uma versão alimentada pelo GPT-4O), de acordo com documentos do tribunal, nos meses que antecederam sua morte. O processo alega que o GPT-4O não conseguiu recuar em suas idéias suicidas.
A equipe de comportamento do modelo trabalha em todos os modelos Openai desde o GPT-4, incluindo GPT-4O, GPT-4.5 e GPT-5. Antes de iniciar a unidade, Jang trabalhou anteriormente em projetos como o Dall-E 2, a ferramenta de geração de imagem inicial do OpenAI.
Jang anunciou em um Postagem em x Na semana passada, ela está deixando a equipe para “começar algo novo no Openai”. O ex -chefe de comportamento do modelo está no OpenAI há quase quatro anos.
Jang disse ao TechCrunch que servirá como gerente geral da OAI Labs, que se reportará a Chen por enquanto. No entanto, nos primeiros dias, e ainda não está claro quais serão essas novas interfaces, disse ela.
“Estou realmente empolgado em explorar padrões que nos levam além do paradigma de bate -papo, que atualmente está associado mais à companhia, ou mesmo aos agentes, onde há uma ênfase na autonomia”, disse Jang. “Eu tenho pensado em (sistemas de IA) como instrumentos para pensar, fazer, brincar, fazer, aprender e conectar -se.”
Quando perguntado se o OAI Labs colaborará nessas novas interfaces com o ex -chefe de design da Apple, Jony Ive – quem está agora trabalhando Com o Openai em uma família de dispositivos de hardware de IA – Jang disse que está aberta a muitas idéias. No entanto, ela disse que provavelmente começará com as áreas de pesquisa com a qual está mais familiarizada.
Esta história foi atualizada para incluir um link para o post de Jang anunciando sua nova posição, lançada após a publicação desta história. Também esclarecemos os modelos em que a equipe de comportamento do modelo de OpenAI trabalhou.
