Os clientes OpenAI agora podem trazer dados personalizados para a versão leve do GPT-3.5, GPT-3.5 Turbo – tornando mais fácil melhorar a confiabilidade do modelo de IA de geração de texto enquanto criam comportamentos específicos.
A OpenAI afirma que versões ajustadas do GPT-3.5 podem igualar ou até superar os recursos básicos do GPT-4, o modelo carro-chefe da empresa, em “certas tarefas restritas”.
“Desde o lançamento do GPT-3.5 Turbo, desenvolvedores e empresas têm solicitado a capacidade de personalizar o modelo para criar experiências únicas e diferenciadas para seus usuários”, escreveu a empresa em uma postagem no blog. Publicados esta tarde. “Esta atualização oferece aos desenvolvedores a capacidade de personalizar modelos com melhor desempenho para seus casos de uso e executar esses modelos personalizados em escala.”
Com o ajuste fino, as empresas que usam GPT-3.5 Turbo por meio da API OpenAI podem fazer com que o modelo siga instruções, como fazer com que ele sempre responda melhor em um determinado idioma. Ou podem melhorar a capacidade do modelo de formatar respostas de forma consistente (por exemplo, para completar trechos de código), bem como aprimorar a “sensação” da saída do modelo, como seu tom, para que se ajuste melhor a uma marca ou voz.
Além disso, o ajuste fino permite que os clientes da OpenAI encurtem seus prompts de texto para acelerar as chamadas de API e cortar custos. “Os primeiros testadores reduziram o tamanho do prompt em até 90%, ajustando as instruções no próprio modelo”, afirma a OpenAI na postagem do blog.
Atualmente, o ajuste fino requer a preparação de dados, o upload dos arquivos necessários e a criação de um trabalho de ajuste fino por meio da API do OpenAI. Todos os dados de ajuste fino devem passar por uma API de “moderação” e um sistema de moderação alimentado por GPT-4 para verificar se está em conflito com os padrões de segurança da OpenAI, diz a empresa. Mas a OpenAI planeja lançar uma interface de usuário de ajuste fino no futuro com um painel para verificar o status das cargas de trabalho de ajuste fino em andamento.
Os custos de ajuste fino são os seguintes:
- Treinamento: $ 0,008 / 1k tokens
- Entrada de uso: $ 0,012 / 1k tokens
- Saída de uso: $ 0,016 / 1k tokens
“Tokens” representam texto bruto – por exemplo, “fan”, “tas” e “tic” para a palavra “fantástico”. Um trabalho de ajuste fino GPT-3.5-turbo com um arquivo de treinamento de 100.000 tokens, ou cerca de 75.000 palavras, custaria cerca de US$ 2,40, diz a OpenAI.
Em outras novidades, a OpenAI disponibilizou hoje dois modelos base GPT-3 atualizados (babbage-002 e davinci-002), que também podem ser ajustados, com suporte para paginação e “mais extensibilidade”. Conforme anunciado anteriormente, a OpenAI planeja retirar os modelos básicos GPT-3 originais em 4 de janeiro de 2024.
A OpenAI disse que o suporte de ajuste fino para GPT-4 – que, ao contrário do GPT-3.5, pode entender imagens além de texto – chegará em algum momento no final deste outono, mas não forneceu detalhes além disso.
