ouça este conteúdo
OpenAI treinou uma IA com GPT-4 para gerar respostas e receber feedback de treinadores sobre apontamentos feitos na aprendizagem.
A OpenAI desenvolveu uma nova ferramenta, o CriticGPT, com base no GPT-4 para identificar falhas em respostas produzidas pelo ChatGPT. Segundo a empresa, ao contar com a assistência do CriticGPT na correção dos textos gerados pelo ChatGPT, os usuários conseguem resolver os problemas sem ajuda extra em 60% das situações. A linha de modelos GPT-4 que alimenta o ChatGPT é aprimorada por meio do ‘aprendizado de reforço a partir do feedback humano’ (RLHF), o que significa que a plataforma melhora seu desempenho à medida que os treinadores de inteligência artificial classificam as respostas do ChatGPT e apontam possíveis erros.
O uso do CriticGPT como um auxiliar na detecção de falhas nos textos gerados pelo ChatGPT tem se mostrado eficaz na identificação e correção de erros. Através do processo de revisão com o modelo desenvolvido pela OpenAI, os usuários conseguem aprimorar a qualidade de suas respostas e evitar equívocos com maior precisão. A implementação do CriticGPT como uma ferramenta de suporte na revisão de textos automatizados destaca a importância do aprimoramento contínuo das tecnologias de processamento de linguagem natural.
CriticGPT: Ferramenta de Correção e Revisão para Treinamento de Modelos de IA
À medida que a inteligência artificial avança, a necessidade de ferramentas auxiliares como o CriticGPT se torna mais evidente. Enquanto o ChatGPT se aperfeiçoa, é natural que erros mais sutis surjam, o que pode dificultar a detecção por parte dos treinadores. É aí que entra o CriticGPT, oferecendo correções e apontamentos valiosos.
A empresa responsável pelo desenvolvimento do CriticGPT planeja integrar modelos semelhantes ao processo de RLHF, permitindo que os feedbacks humanos sejam enriquecidos com insights da IA. Embora as sugestões do CriticGPT possam não ser infalíveis, elas certamente auxiliam na identificação de problemas que poderiam passar despercebidos.
Assim como o GPT-4, o CriticGPT também evolui com o uso e os feedbacks dos usuários. Sua atuação na detecção de erros do ChatGPT tem sido promissora, conforme divulgado pela OpenAI. Os testes revelaram que, em 63% das vezes, os apontamentos do CriticGPT superaram os do ChatGPT.
Além de corrigir erros, o CriticGPT também se destaca por reduzir alucinações, cenário em que a IA gera informações falsas. No entanto, é importante ressaltar que a ferramenta possui limitações e pode não ser capaz de lidar com tarefas extremamente complexas.
O papel do CriticGPT como um aliado na melhoria contínua dos modelos de IA é fundamental. Com seu auxílio, os treinadores podem aprimorar suas respostas e garantir que a inteligência artificial opere com maior precisão. A evolução constante do CriticGPT promete contribuir significativamente para o desenvolvimento e aprimoramento da IA.
Fonte: © CNN Brasil
Comentários sobre este artigo