Também chamado de: Aprendizado por reforço com feedback humano
RLHF é uma etapa de treinamento em que pessoas avaliam respostas de uma IA e o modelo aprende a dar as preferidas.
Exemplo
Avaliadores escolhem a mais útil entre duas respostas; o modelo aprende com milhares dessas escolhas.
Para profissionais
Com as avaliações, treina-se um modelo de recompensa que otimiza o modelo de linguagem por aprendizado por reforço. Métodos parecidos são o DPO e o treinamento com feedback de IA. O RLHF deixa os modelos mais úteis e educados, mas pode levar a concordar demais com o usuário.
