Ben Asaf passou vários anos construindo infraestrutura de desenvolvimento na Mobileye, a startup de condução autônoma que a Intel adquiriu em 2017, enquanto trabalhava em métodos para acelerar o treinamento de modelos de IA na Universidade Hebraica.

Especialista em MLOps (operações de aprendizado de máquina) – ferramentas para agilizar o processo de levar modelos de IA para produção e depois mantê-los e monitorá-los – Asaf se inspirou para lançar uma empresa que removeu os principais obstáculos para engenheiros de software e empresas que implantam modelos de IA em produção .

“Quando tive a ideia de abrir uma empresa, poucas empresas e pessoas tinham a experiência industrial de ter construído ou implementado a prática de MLOps em seu pipeline de desenvolvimento de IA”, disse Asaf ao TechCrunch em uma entrevista por e-mail. “Achei que poderíamos tornar a IA ‘minúscula’ para ser mais leve, mais rápida e mais acessível para produzir e comercializar.”

Em 2021, Asaf se uniu a Nayul Kim, sua esposa, que trabalhava como consultora de transformação digital para empresas, para fundar Clika, uma das startups que competem na competição Startup Battlefield 200 no TechCrunch Disrupt. A Clika fornece um kit de ferramentas para as empresas “reduzirem” automaticamente seus modelos de IA desenvolvidos internamente, reduzindo a quantidade de poder computacional que consomem e, como benefício adicional, acelerando seu inferência.

“Com o Clika, você simplesmente conecta seus modelos de IA pré-treinados e obtém um modelo compactado ‘automagicamente’ totalmente compatível com um dispositivo de destino – um servidor, a nuvem, a borda ou um dispositivo incorporado”, disse Asaf.

Para conseguir esse feito, a Clika conta com técnicas como a quantização, que essencialmente diminui o número de bits – o menor incremento de dados em um computador – em um modelo necessário para representar informações. Ao sacrificar alguma precisão, a quantização pode reduzir um modelo sem interferir na sua capacidade de realizar uma tarefa específica – como identificar diferentes raças de cães.

Clika também gera um relatório com possíveis melhorias ou mudanças que poderia ser feito para um eumodelo para melhorou desempenho.

O interesse em formas de tornar os modelos mais eficientes está a crescer à medida que a indústria da IA ​​enfrenta problemas na cadeia de abastecimento relacionados com o hardware necessário para executar estes modelos. Microsoft recentemente avisou num relatório de ganhos que os clientes do Azure podem enfrentar interrupções de serviço devido à escassez de hardware de IA. Enquanto isso, os chips de IA de melhor desempenho da Nvidia – a série de GPU H100 – são supostamente esgotado até 2024.

É claro que a Clika não é a única startup que busca abordagens para compactar modelos de IA. Há a Deci, apoiada pela Intel; OctoML, que, como o Clika, otimiza e empacota automaticamente modelos para uma variedade de hardwares diferentes; e CoCoPie, uma startup que cria uma plataforma para otimizar modelos de IA especificamente para dispositivos de ponta.

Mas Asaf argumenta que a Clika tem uma vantagem tecnológica.

“Enquanto outras soluções usam técnicas de compressão baseadas em regras, o mecanismo de compressão da Clika tem (uma) abordagem de IA para compreender diferentes estruturas de modelos de IA e aplicar o melhor método de compressão para cada modelo de IA exclusivo”, disse ele. “Temos o melhor kit de ferramentas de compressão do mundo para IA de visão, superando o desempenho da solução existente desenvolvida pela Meta e pela Nvidia.”

“O melhor do mundo” é bem a afirmação. Mas a Clika conseguiu conquistar investidores pelo que vale a pena – levantando US$ 1,1 milhão em uma rodada de pré-semente no ano passado com a participação do Kimsiga Lab, Dodam Ventures, D-Camp e do investidor anjo Lee Sanghee.

Asaf ainda não estava pronto para falar sobre o impulso do cliente – Clika’s atualmente pré-receita, executando uma versão beta fechada para “algumas empresas selecionadas”. Mas ele disse que Clika planeja buscar financiamento inicial “em breve”.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *