Галлюцинация
Галлюцинация — это когда ИИ уверенно выдаёт ложное или выдуманное за факт: поддельную статистику, цитату или ссылку на несуществующий источник.
Определение
Галлюцинация — это гладкий, уверенный ответ, который попросту неверен: выдуманная статистика, придуманная цитата или ссылка на исследование, которого не существует. Модель не лжёт; она предсказывает текст, звучащий правдоподобно, и время от времени правдоподобное оказывается ложным. Например, спросите книгу по узкой теме — и она охотно посоветует название и автора, которые никогда не выходили.
Почему это важно
Галлюцинации — главная причина, по которой нельзя слепо доверять ответу ИИ в важных вопросах: дозе лекарства, сроку, цифре в отчёте. Заземление и проверенные ссылки — практическая защита: когда каждое утверждение должно цитировать реальный источник, выдуманному негде спрятаться. Режим Facts у AskClear сверяет каждую цитату с вашими источниками и помечает всё ненайденное как непроверенное, поэтому выдумки всплывают, а не проскальзывают.