Para dar às mulheres acadêmicas e outras pessoas focadas em IA o merecido – e devido – tempo de destaque, o TechCrunch está lançando uma série de entrevistas com foco em mulheres notáveis que contribuíram para a revolução da IA. Publicaremos vários artigos ao longo do ano à medida que o boom da IA continua, destacando trabalhos importantes que muitas vezes passam despercebidos. Leia mais perfis aqui.
O Livro Miranda é diretora fundadora do Laboratório de Governança de IA do Centro de Democracia e Tecnologia, onde trabalha para ajudar a criar soluções que possam regular e governar com eficácia os sistemas de IA. Ela ajudou a orientar estratégias responsáveis de IA na Meta e anteriormente trabalhou como analista política sênior na organização Uptown, que busca usar a tecnologia para promover a equidade e a justiça.
Resumidamente, como você começou na IA? O que te atraiu para a área?
Fui atraído para trabalhar com aprendizado de máquina e IA ao ver como essas tecnologias estavam colidindo com conversas fundamentais sobre a sociedade – valores, direitos e quais comunidades são deixadas para trás. Meu trabalho inicial explorando a interseção entre IA e direitos civis reforçou para mim que os sistemas de IA são muito mais do que artefatos técnicos; são sistemas que moldam e são moldados pela sua interação com pessoas, burocracias e políticas. Sempre fui adepto da tradução entre contextos técnicos e não técnicos e fiquei entusiasmado com a oportunidade de ajudar a romper a aparência da complexidade técnica para ajudar comunidades com diferentes tipos de experiência a moldar a forma como a IA é construída desde o início .
De qual trabalho você mais se orgulha (na área de IA)?
Quando comecei a trabalhar neste espaço, muitas pessoas ainda precisavam de estar convencidas de que os sistemas de IA poderiam resultar num impacto discriminatório para as populações marginalizadas, e muito menos de que algo precisava de ser feito em relação a esses danos. Embora ainda exista uma lacuna muito grande entre o status quo e um futuro em que os preconceitos e outros danos sejam combatidos sistematicamente, estou satisfeito pelo facto de a investigação que os meus colaboradores e eu conduzimos sobre discriminação em personalização on-line publicidade e meu trabalho na indústria sobre justiça algorítmica ajudaram a levar a mudanças significativas no sistema de entrega de anúncios da Meta e progresso na redução das disparidades no acesso a oportunidades económicas importantes.
Como você enfrenta os desafios da indústria de tecnologia dominada pelos homens e, por extensão, da indústria de IA dominada pelos homens?
Tive a sorte de trabalhar com colegas e equipes fenomenais que foram generosos com oportunidades e apoio sincero, e tentamos levar essa energia para qualquer sala em que nos encontrássemos. Na minha mais recente transição de carreira, fiquei encantado por quase todas as minhas opções envolviam trabalhar em equipes ou dentro de organizações lideradas por mulheres fenomenais, e espero que a área continue a levantar as vozes daqueles que tradicionalmente não se concentram em conversas orientadas para a tecnologia.
Que conselho você daria às mulheres que desejam ingressar na área de IA?
O mesmo conselho que dou a quem pergunta: encontre gerentes, consultores e equipes que o apóiem, que o energizem e inspirem, que valorizem sua opinião e perspectiva e que se coloquem em risco para defender você e seu trabalho.
Quais são algumas das questões mais urgentes que a IA enfrenta à medida que ela evolui?
Os impactos e danos que os sistemas de IA já estão a causar nas pessoas são bem conhecidos neste momento, e um dos maiores desafios prementes é ir além da descrição do problema e passar a desenvolver abordagens robustas para abordar sistematicamente esses danos e incentivar a sua adoção. Lançamos o Laboratório de governança de IA no CDT para impulsionar o progresso em ambas as direções.
Quais são alguns problemas dos quais os usuários de IA devem estar cientes?
Na maior parte, os sistemas de IA ainda não possuem cintos de segurança, airbags e sinais de trânsito, portanto, proceda com cautela antes de usá-los para tarefas importantes.
Qual é a melhor maneira de construir IA com responsabilidade?
A melhor maneira de construir IA de forma responsável é com humildade. Considere como foi definido o sucesso do sistema de IA em que você está trabalhando, a quem essa definição serve e que contexto pode estar faltando. Pense em quem o sistema pode falhar e o que acontecerá se isso acontecer. E construir sistemas não apenas com as pessoas que os utilizarão, mas também com as comunidades que estarão sujeitas a eles.
Como podem os investidores promover melhor uma IA responsável?
Os investidores precisam de criar espaço para que os criadores de tecnologia possam agir de forma mais deliberada antes de lançarem no mercado tecnologias incompletas. A intensa pressão competitiva para lançar os mais recentes, maiores e mais brilhantes modelos de IA está a conduzir a um preocupante subinvestimento em práticas responsáveis. Embora a inovação desinibida cante um canto de sereia tentador, é uma miragem que deixará todos em situação pior.
IA não é mágica; é apenas um espelho que está sendo mostrado à sociedade. Se quisermos que isso reflita algo diferente, temos trabalho a fazer.