Галлюцинация ИИ
Выдача моделью ИИ информации, не основанной на фактах, например, несуществующего источника или неверной цифры, в уверенной манере.
- 01
Почему это важно
Языковые модели порождают наиболее правдоподобно выглядящий текст, а не проверенную информацию, поэтому они могут давать гладкие, но неверные ответы. В юридических, медицинских, финансовых или технических материалах такие ошибки могут причинить реальный вред. Каждый важный тезис следует сверять с надёжным источником до публикации или использования.
- 02
Пример
Подготовленная с помощью ИИ статья в блоге ссылается на несуществующую статью нормативного акта. Проверяя источник, редактор не находит эту статью, и материал исправляется до публикации.
- 03
Частая ошибка
Публикация источников, цифр и цитат, которые даёт ИИ, без их проверки. Выдуманный источник подрывает доверие ко всему материалу.
- 04
Связанные термины
- LLM · Большая языковая модель
- RAG · Генерация, дополненная поиском
- E-E-A-T · Опыт, экспертность, авторитетность и достоверность
Связанные услуги и руководства
Обсудим ваш проект.
Расскажите о задаче — объём определим вместе.