Um novo modelo de inteligência artificial (IA) foi apresentado pela OpenAI esta semana. Estamos falando do CriticGPT, uma ferramenta baseada no GPT-4 que tem por objetivo corrigir possíveis erros nas respostas do ChatGPT relacionadas à programação.
De acordo com a empresa, os usuários da ferramenta relataram melhoras em cerca de 60% dos casos.
A ideia por trás do CriticGPT
O CriticGPT foi desenvolvido para aprimorar os processos de revisão das respostas do ChatGPT. A OpenAI afirma que, com o tempo, o chatbot se torna mais preciso, mas também comete erros mais sutis, o que pode dificultar a detecção por parte dos profissionais. Para solucionar isso, o CriticGPT foi treinado para identificar vulnerabilidades nas respostas, incluindo bugs que podem passar despercebidos.
A empresa planeja integrar modelos semelhantes ao CriticGPT nos sistemas de Aprendizado de Reforço por Feedback Humano (RLHF), que utilizam o treinamento de profissionais para identificar erros e comparar respostas do chatbot.
Os resultados indicam que, embora o CriticGPT não acerte todas as sugestões, os treinadores têm um desempenho melhor com a ferramenta em comparação com aqueles que não a utilizam. Os insights fornecidos pela IA ajudam a criar críticas mais detalhadas e reduzem os riscos de bugs causados por alucinações da tecnologia (quando a IA gera informações inexistentes ou imprecisas).
Limitações
Apesar de útil para detectar bugs, a ferramenta ainda apresenta algumas limitações:
- O CriticGPT é treinado apenas em respostas curtas do ChatGPT, necessitando de aprimoramentos para entender pedidos mais longos.
- Os modelos ainda podem gerar alucinações, complicando o trabalho dos treinadores.
- A ferramenta pode corrigir um erro específico em um código, mas pode deixar passar outros problemas na resposta.
- O CriticGPT tem dificuldade em auxiliar em tarefas muito complexas, mesmo com a supervisão de especialistas.
Inicialmente, a ferramenta está disponível apenas para quem trabalha no treinamento das ferramentas de IA. Além disso, o CEO da OpenAI, Sam Altman, comentou recentemente que o sucessor do GPT-4, já em desenvolvimento, trará um “salto significativo” em comparação ao modelo atual.
Para ficar por dentro dos lançamentos do mundo da tecnologia, eu recomendo que você dê uma olhada nas redes sociais do CanalJMS. Por isso, é importante que você nos siga no Instagram e acompanhe nosso canal no YouTube, além de conferir nossos posts diários por aqui também!
