Melhorando a lógica de bots IA: viés e alucinações
Resumo
No CommunityOne Builders Help, estamos corrigindo a tendência do nosso bot de concordar cegamente com usuários. Queremos que ele avalie a compatibilidade com documentos de referência em vez de inventar informações, garantindo feedbacks mais precisos.
happybeacon-37
OP
A maior limitação é que ele tende a concordar com qualquer ideia apresentada. Alguém pode propor uma ideia filosófica que não está no documento de referência, e o bot fingirá que ela concorda com o texto. O ideal seria ele responder analisando se a ideia é compatível ou não, em vez de concordar cegamente e inventar informações.
