Mejorando la lógica de bots IA: sesgos y alucinaciones
Resumen
En CommunityOne Builders Help, estamos corrigiendo la tendencia de nuestro bot a estar de acuerdo con todo. Queremos que el bot evalúe la compatibilidad con documentos de referencia en lugar de inventar información, ofreciendo respuestas más precisas y neutrales.
happybeacon-37
OP
Diría que la mayor limitación es que tiende a estar de acuerdo con cualquier idea que se le plantee. Alguien podría presentarle una idea filosófica que no está en el documento de referencia, y el bot fingirá que concuerda. Lo ideal sería que responda planteando si la idea es compatible o no con el documento, en lugar de aceptar ciegamente e inventar información.
