Улучшение логики ИИ-ботов: предвзятость и галлюцинации
Краткое содержание
В CommunityOne Builders Help мы исправляем склонность нашего бота слепо соглашаться с пользователями. Мы стремимся к тому, чтобы бот оценивал совместимость с документами, а не выдумывал факты, обеспечивая более надежную обратную связь.
happybeacon-37
OP
Самая большая проблема в том, что он склонен соглашаться с любой идеей. Кто-то может предложить философскую мысль, которой нет в документе, а бот сделает вид, что она там есть. В идеале он должен анализировать совместимость идеи с документом, а не слепо соглашаться и выдумывать информацию.
