Garry Tan, presidente e CEO da Y Combinator, disse a uma multidão no The Economic Club de Washington, DC esta semana que “a regulamentação é provavelmente necessária” para a inteligência artificial.
Tan conversou com Teresa Carlson, membro do conselho da General Catalyst como parte de uma entrevista individual onde ele discutiu tudo, desde como entrar no Y Combinator até a IA, observando que “não há melhor momento para trabalhar em tecnologia do que o certo”. agora.”
Tan disse que “apoiava globalmente” a tentativa do Instituto Nacional de Padrões e Tecnologia (NIST) de construir uma estrutura de mitigação de risco GenAI e disse que “grandes partes do EO pela administração Biden provavelmente estão no caminho certo.”
A estrutura do NIST propõe coisas como definir que a GenAI deve cumprir as leis existentes que regem questões como privacidade de dados e direitos autorais; divulgar o uso do GenAI aos usuários finais; estabelecer regulamentos que proíbam a GenAI de criar materiais de abuso sexual infantil e assim por diante. A ordem executiva de Biden abrange uma ampla gama de ditames, desde exigir que as empresas de IA compartilhem dados de segurança com o governo até garantir que pequenos desenvolvedores tenham acesso justo.
Mas Tan, como muitos VCs da Valley, estava cauteloso com outros esforços regulatórios. Ele chamou os projetos de lei relacionados à IA que estão tramitando nas legislaturas da Califórnia e de São Francisco de “muito preocupantes”.
Como um projeto de lei da Califórnia que está causando agitação é o apresentado pelo senador estadual Scott Wiener que permitiria ao procurador-geral processar empresas de IA se seus produtos fossem prejudiciais, Relatórios políticos.
“A grande discussão em termos de política neste momento é como será realmente uma boa versão disto?” Tan disse. “Podemos olhar para pessoas como Ian Hogarth, no Reino Unido, para ser atencioso. Eles também estão conscientes desta ideia de concentração de poder. Ao mesmo tempo, estão a tentar descobrir como apoiamos a inovação e, ao mesmo tempo, mitigamos os piores danos possíveis.”
Hogarth é um ex-empreendedor da YC e especialista em IA que foi contratado pelo Reino Unido para uma força-tarefa de modelo de IA.
“O que me assusta é que se tentarmos abordar uma preocupação de ficção científica que não está presente”, disse Tan.
Quanto à forma como a YC gerencia a responsabilidade, Tan disse que se a organização não concordar com a missão de uma startup ou com o que esse produto faria pela sociedade, “a YC simplesmente não a financia”. Ele observou que várias vezes ele lia na mídia sobre uma empresa que se candidatou à YC.
“Voltamos e olhamos as notas da entrevista e pensamos que não achamos que isso seja bom para a sociedade. E, felizmente, não financiamos”, disse ele.
Líderes de inteligência artificial continuam bagunçando
A diretriz de Tan ainda deixa espaço para a Y Combinator lançar muitas startups de IA como formandos. Como relatou meu colega Kyle Wiggers, a coorte do inverno de 2024 teve 86 startups de IA, quase o dobro do lote do inverno de 2023 e quase o triplo do número do inverno de 2021, de acordo com o diretório oficial de startups do YC.
E notícias recentes estão fazendo as pessoas se perguntarem se podem confiar que aqueles que vendem produtos de IA serão os únicos a definir a IA responsável. Na semana passada, o TechCrunch informou que a OpenAI está se livrando de sua equipe de responsabilidade de IA.
Em seguida, o desastre relacionado à empresa usou uma voz que parecia a da atriz Scarlet Johansson ao demonstrar seu novo modelo GPT-4o. Acontece que ela foi questionada sobre como usar a voz e ela recusou. Desde então, a OpenAI removeu a voz do Sky, embora negue que seja baseada em Johansson. Isso, e as questões em torno da capacidade da OpenAI de recuperar o patrimônio adquirido dos funcionários, estavam entre vários itens que levou as pessoas a questionarem abertamente Os escrúpulos de Sam Altman.
Enquanto isso, Meta fez suas próprias notícias sobre IA quando anunciou a criação de um conselho consultivo de IA que só contava com homens brancos, efetivamente deixando de fora mulheres e pessoas de cor, muitas das quais desempenharam um papel fundamental na criação e inovação daquele indústria.
Tan não fez referência a nenhum desses casos. Como a maioria dos VCs do Vale do Silício, o que ele vê são oportunidades para negócios novos, enormes e lucrativos.
“Gostamos de pensar nas startups como um labirinto de ideias”, disse Tan. “Quando surge uma nova tecnologia, como grandes modelos de linguagem, todo o labirinto de ideias fica abalado. O próprio ChatGPT foi provavelmente um dos produtos de consumo com sucesso mais rápido lançado nos últimos tempos. E isso é uma boa notícia para os fundadores.”
Inteligência artificial do futuro
Tan também disse que São Francisco está no centro do movimento de IA. Por exemplo, foi aí que o Anthropic, iniciado por ex-alunos do YC, começou, e o OpenAI, que foi um spin-out do YC.
Tan também brincou dizendo que não iria seguir os passos de Altman, observando que Altman “tinha meu emprego há vários anos, então não há planos de iniciar um laboratório de IA”.
Uma das outras histórias de sucesso da YC é a startup de tecnologia jurídica Casetext, que foi vendida para a Thomson Reuters por US$ 600 milhões em 2023. Tan acreditava que a Casetext foi uma das primeiras empresas do mundo a obter acesso à IA generativa e foi então uma das primeiras saídas. em IA generativa.
Ao olhar para o futuro da IA, Tan disse que “obviamente, temos que ser inteligentes em relação a esta tecnologia” no que se refere aos riscos associados ao bioterrorismo e aos ataques cibernéticos. Ao mesmo tempo, ele disse que deveria haver “uma abordagem muito mais comedida”.
Ele também assume que não é provável que exista um modelo “o vencedor leva tudo”, mas sim um “incrível jardim de liberdade de escolha do consumidor e de fundadores para serem capazes de criar algo que toque mil milhões de pessoas”.
Pelo menos é isso que ele quer que aconteça. Isso seria do interesse dele e de YC – muitas startups de sucesso devolvendo muito dinheiro aos investidores. Então, o que mais assusta Tan não são as IAs malignas, mas a escassez de IAs para escolher.
“Podemos realmente nos encontrar nesta outra situação realmente monopolista, onde há grande concentração em apenas alguns modelos. Então você está falando sobre extração de aluguel e tem um mundo no qual não quero viver.”
