Só porque a IA generativa está na moda no momento, não significa que ela deva ser aplicada a todas as aplicações. Mas tente dizer isso ao Workday.
O fornecedor da plataforma de gerenciamento empresarial anunciou hoje um conjunto de novos recursos generativos de IA que visam “aumentar a produtividade” e “simplificar os processos de negócios”. Em breve, os clientes do Workday poderão comparar automaticamente os contratos assinados com os contratos no Workday para descobrir discrepâncias, criar artigos personalizados de gestão de conhecimento e gerar declarações de trabalho para aquisição de serviços.
Os anúncios foram feitos na Workday Rising, conferência anual de clientes da Workday, que acontece este ano em São Francisco.
Algumas das adições parecem genuinamente úteis – ou, na pior das hipóteses, inofensivas. Mas uma coisa é um pouco preocupante para este repórter: planos de trabalho dos funcionários gerados por IA.
“Os gerentes (serão capazes) de criar rapidamente um resumo dos pontos fortes e áreas de crescimento dos funcionários, extraindo dados armazenados, incluindo avaliações de desempenho, feedback dos funcionários, metas de contribuição, habilidades, sentimento dos funcionários e muito mais”, escreve Workday em um comunicado à imprensa.
Vejo alguns problemas nisso.
Estudos demonstraram que a IA de análise de texto pode apresentar preconceitos contra pessoas que usam expressões e vernáculos que estão fora da “norma” (ou seja, a maioria).
Por exemplo, alguns modelos de IA treinados para detectar toxicidade consideram frases em inglês vernáculo afro-americano (AAVE), a gramática informal usada por alguns negros americanos, como desproporcionalmente “tóxicas”. E os negros americanos não são o único grupo minoritário que sofre. Em um estudo recente, uma equipe da Penn State encontrado que as postagens nas redes sociais sobre pessoas com deficiência possam ser sinalizadas como mais negativas ou tóxicas pelos modelos de sentimento público e de detecção de toxicidade comumente usados.
E daí se os modelos do Workday não conseguem compreender as nuances de uma avaliação de desempenho ou do feedback dos funcionários devido à forma como está escrito, levando os modelos a tirar conclusões erradas sobre alguém? Boa pergunta.
Depois, há a peça “sentimento do funcionário”.
Os preconceitos podem mais uma vez aparecer em modelos de IA treinados para detectar o sentimento de uma frase. Pesquisar mostrou que, por exemplo, sistemas de análise de sentimentos baseados em texto podem apresentar preconceitos raciais, étnicos e de género — por exemplo, associando pessoas negras a emoções mais negativas, como raiva, medo e tristeza.
Em resposta a essas preocupações, a Workday diz que é “transparente sobre como seus modelos de IA são projetados” (embora não esteja disposta a revelar os dados exatos usados para treinar seus modelos) e criou o recurso de plano de trabalho para mostrar aos gerentes “como as entradas de dados contribuem para uma força ou área de crescimento.”
“Tal como acontece com outros Dia De Trabalho casos de uso generativos de IA e nossa abordagem human-in-the-loop, os usuários são incentivados a revisar os resultados como um primeiro rascunho forte que devem editar, iterar e finalizar”, Shane Luke, chefe de IA e aprendizado de máquina da Workday, disse ao TechCrunch por e-mail. Esperemos que os gerentes que usam o Workday sigam esse conselho.
Quanto aos outros novos recursos generativos de IA do Workday, eles são menos problemáticos.
As descrições de cargos geradas por IA no Workday aproveitam as informações já armazenadas na plataforma, incluindo as habilidades necessárias para uma função e detalhes do local de trabalho, para simplificar o processo de redação de listas de empregos. Este repórter estava inicialmente preocupado com a possibilidade de o Workday estar treinando seus modelos de geração de descrição nas cópias dos funcionários de RH sem seu conhecimento ou permissão, mas Luke me garantiu que não é o caso.
“Não treinamos com base em dados dedicados de descrição de cargos”, disse ele. “Dia De Trabalho os clientes controlam e configuram como seus dados são usados para fins de IA e aprendizado de máquina, incluindo se os dados são usados para fins de treinamento… Deixamos claro nos campos do produto quais dados estão sendo usados na geração, e os usuários são incentivados a avaliar as respostas o mais rápido possível. rascunhos e aplicar seu próprio julgamento.”
Em outros lugares, o Workday em breve será capaz de criar automaticamente avisos de “vencimento” com recomendações sobre o tom da correspondência, de acordo com o atraso ou a frequência com que um cliente chega. (As equipes financeiras poderão usar a capacidade de automatizar cartas em massa, diz Luke.) E os líderes de compras poderão obter sugestões de cláusulas relevantes a serem incluídas nos contratos de aquisição, dependendo do tipo de projeto, localização do projeto e tipo de projeto. resultados.
Com o referido recurso de análise de contratos, alimentado por IA generativa, os clientes do Workday serão alertados sobre possíveis erros nos contratos e receberão propostas de correções. E com o recurso de geração de artigos de conhecimento, os usuários poderão redigir artigos como pontos de discussão para gerentes e conclusões de vídeos da empresa com sugestões de tom e duração. (O dia de trabalho enfatiza que os usuários são mais que bem-vindos para ignorar essas sugestões.)
O Developer Copilot marca a primeira incursão do Workday na codificação generativa, introduzindo recursos de texto para código no Workday Extent, sua plataforma para criar aplicativos personalizados que são executados no Workday. O Developer Copilot — integrado ao construtor de aplicativos do Workday — oferece sugestões de código “contextualmente conscientes” para aplicativos do Workday, completos com conteúdo selecionado e resultados de pesquisa, semelhantes a serviços de geração de código como GitHub Copilot e Amazon CodeWhisperer.
E – aproveitando a popularidade do ChatGPT – o Workday está testando uma série de experiências de IA conversacional. Luke diz que eles “aumentarão a capacidade dos usuários de interagir com informações e tarefas” de forma natural, aproveitando os recursos generativos da IA, como resumo, pesquisa e manutenção de contexto.
“Acreditamos que, quando usada de forma responsável, a IA generativa pode gerar resultados de negócios impactantes”, disse Luke. “Fundamentalmente, nossa abordagem de IA está focada na formação de equipes homem-máquina. O usuário é sempre o tomador de decisão final e moderador.”
A Workday espera que os novos recursos generativos de IA sejam lançados nos próximos seis a 12 meses. Infelizmente, não forneceu um cronograma mais específico do que esse.
