Améliorer la logique des bots IA : biais et hallucinations
Résumé
Chez CommunityOne Builders Help, nous corrigeons la tendance de notre bot à valider systématiquement les idées des utilisateurs. Nous voulons qu'il évalue la compatibilité avec nos documents de référence plutôt que d'inventer des faits, pour des retours plus fiables.
happybeacon-37
OP
La plus grosse limite, c'est qu'il a tendance à être d'accord avec tout ce qu'on lui propose. Quelqu'un peut présenter une idée philosophique absente du document de référence, et le bot fera semblant qu'elle est cohérente avec celui-ci. L'idéal serait qu'il analyse la compatibilité avec le document au lieu d'être d'accord aveuglément et d'inventer des infos.
