Откуда такое слово

Слово «галлюцинация» исследователи ИИ использовали давно, а в обиход оно вошло в 2023 году, когда чат-ботами начали пользоваться все подряд. Термин неточный: модель ничего не «видит». Но он прижился, потому что хорошо передаёт главное — ответ выглядит убедительно и при этом не опирается ни на что реальное.

Почему нейросеть выдумывает

  1. Она продолжает текст, а не ищет ответЯзыковая модель предсказывает, какой кусок текста вероятнее всего идёт дальше. На вопрос «кто написал книгу X» она выдаёт имя, которое правдоподобно звучит рядом с этим названием. Базы фактов, в которую можно заглянуть, у неё нет.
  2. Её учили угадыватьПри обучении и в тестах уверенный ответ ценится выше честного «не знаю». Модель привыкает отвечать всегда — как студент, который на экзамене пишет хоть что-нибудь.
  3. Редкое она знает хуже частогоСтолицу Франции модель видела миллионы раз и не ошибётся. Год основания маленькой фабрики в Костроме — от силы пару раз, и тут начинается угадывание.