A moderação de conteúdo continua a ser um tema controverso no mundo da mídia online. Novas regulamentações e Preocupação publica provavelmente o manterão como uma prioridade por muitos anos. Mas IA armada e outros avanços tecnológicos estão tornando isso cada vez mais difícil de resolver. Uma startup de Cambridge, Inglaterra, chamada IA unitária acredita ter encontrado uma maneira melhor de enfrentar o desafio da moderação — usando uma abordagem “multimodal” para ajudar a analisar o conteúdo no meio mais complexo de todos: o vídeo.
Hoje, a Unitary está anunciando US$ 15 milhões em financiamento para capitalizar o impulso que vem vendo no mercado. A Série A – liderada pelo principal VC europeu Creandum, com a participação também do Paladin Capital Group e Plural – surge num momento em que os negócios da Unitary estão crescendo. O número de vídeos que classifica saltou este ano de 2 milhões para 6 milhões/dia (cobrindo milhares de milhões de imagens) e a plataforma está agora a adicionar mais idiomas além do inglês. Ela se recusou a divulgar nomes de clientes, mas disse que o ARR está agora na casa dos milhões.
A Unitary está usando o financiamento para expandir para mais regiões e contratar mais talentos. A Unitary não divulga sua avaliação; anteriormente arrecadou menos de US$ 2 milhões e mais US$ 10 milhões no financiamento inicial; outros investidores incluem pessoas como Carolyn Everson, ex-executiva da Meta.
Nos últimos anos, dezenas de startups aproveitaram diferentes aspectos da inteligência artificial para construir ferramentas de moderação de conteúdo.
E quando você pensa sobre isso, a escala do desafio no vídeo é uma aplicação adequada para isso. Nenhum exército de pessoas seria capaz de analisar sozinho as dezenas e centenas de zettabytes de dados que estão sendo criados e compartilhados em plataformas como YouTube, Facebook, Reddit ou TikTok – para não falar de sites de namoro, plataformas de jogos, ferramentas de videoconferência e outros. locais onde os vídeos aparecem, representando no total mais de 80% de todo o tráfego online.
Esse ângulo também é o que interessa aos investidores. “Num mundo online, há uma imensa necessidade de uma abordagem orientada para a tecnologia para identificar conteúdos nocivos”, afirmou Christopher Steed, diretor de investimentos do Paladin Capital Group, num comunicado.
Ainda assim, é um espaço lotado. OpenAI, Microsoft (usando sua própria IA, não OpenAI), Hive, Active Fence / Spectrum Labs, Oterlu (agora parte do Reddit) e Sentropy (agora parte do Discord) e Amazon’s Reconhecimento são apenas alguns dos muitos que estão em uso.
Do ponto de vista da IA unitária, as ferramentas existentes não são tão eficazes quanto deveriam ser quando se trata de vídeo. Isso ocorre porque as ferramentas foram criadas até agora normalmente para se concentrar na análise de dados de um tipo ou de outro – digamos, texto, áudio ou imagem – mas não em combinação, simultaneamente. Isso leva a muitos sinalizadores falsos (ou, inversamente, a nenhum sinalizador).
“O que há de inovador na Unitary é que temos modelos multimodais genuínos”, CEO Sasha Haco, que cofundou a empresa com o CTO James Thewlis. “Em vez de analisar apenas uma série de frames, para entender as nuances e se um vídeo é (por exemplo) artístico ou violento, você precisa ser capaz de simular a forma como um moderador humano assiste ao vídeo. Fazemos isso analisando texto, som e imagens.”
Os clientes definem seus próprios parâmetros sobre o que desejam moderar (ou não), e Haco disse que normalmente usarão o Unitário em conjunto com uma equipe humana, que por sua vez terá agora que trabalhar menos e enfrentar menos estresse.
A moderação “multimodal” parece tão óbvia; por que isso não foi feito antes?
Haco disse que um dos motivos é que “você pode ir muito longe com o modelo mais antigo, apenas visual”. No entanto, isso significa que há uma lacuna no mercado para crescer.
A realidade é que os desafios da moderação de conteúdos continuam a perseguir as plataformas sociais, as empresas de jogos e outros canais digitais onde os conteúdos são partilhados pelos utilizadores. Ultimamente, as empresas de mídia social têm sinalizou um afastamento de políticas de moderação mais fortes; organizações de verificação de fatos são perdendo impulso; e permanecem dúvidas sobre o ética de moderação quando se trata de conteúdo prejudicial. O apetite pela luta diminuiu.
Mas Haco tem um histórico interessante quando se trata de trabalhar em assuntos difíceis e inescrutáveis. Antes da IA unitária, Haco – que possui doutorado em física quântica – trabalhou na pesquisa de buracos negros com Stephen Hawking. Ela estava lá quando a equipe capturou a primeira imagem de um buraco negro, usando o Event Horizon Telescope, mas sentiu o desejo de mudar seu foco para trabalhar em problemas terrestres, que podem ser tão difíceis de entender quanto um monstro gravitacional no espaço-tempo.
Sua “efifania”, disse ela, foi que havia tantos produtos disponíveis com moderação de conteúdo, tanto barulho, mas nada ainda correspondia ao que os clientes realmente queriam.
A experiência de Thewlis, por sua vez, está sendo aplicada diretamente na Unitary: ele também tem um doutorado em visão computacional em Oxford, onde sua especialidade era “métodos para compreensão visual com menos anotação manual”.
(‘Unitário’ é uma referência dupla, eu acho. A startup está unificando uma série de parâmetros diferentes para entender melhor os vídeos. Mas também pode se referir à carreira anterior de Haco: operadores unitários são usados para descrever um estado quântico, que por si só é complicado e imprevisível – assim como o conteúdo online e os humanos.)
A pesquisa multimodal em IA está em andamento há anos. Mas parece que estamos a entrar numa era em que começaremos a ver muito mais aplicações do conceito. Caso em questão: Meta na semana passada fez referência à IA multimodal várias vezes em sua palestra do Connect, apresentando uma prévia de suas novas ferramentas de assistente de IA. Unitary, portanto, abrange essa interessante interseção entre pesquisa de ponta e aplicação no mundo real.
“Conhecemos Sasha e James há dois anos e ficamos incrivelmente impressionados”, disse Gemma Bloemen, diretora da Creandum e membro do conselho, em comunicado. “A Unitary emergiu como líder no importante campo de IA de segurança de conteúdo, e estamos muito entusiasmados em apoiar esta equipe excepcional à medida que eles continuam a acelerar e inovar na tecnologia de classificação de conteúdo.”
“Desde o início, a Unitary tinha uma das IAs mais poderosas para classificar conteúdo prejudicial. Já este ano, a empresa acelerou para 7 dígitos de ARR, algo quase inédito nesta fase inicial da jornada”, disse Ian Hogarth, sócio da Plural e também membro do conselho.
