Память ИИ-персонажа: как он вас помнит и почему иногда забывает

Почему память вообще проблема

Модель работает по кругу: получила текст, выдала ответ, забыла. Между вашими сообщениями у неё не остаётся ничего — ни имени, ни вчерашнего разговора.

Чувство непрерывности создаёт сервис. Перед каждым ответом он собирает справку: кто вы, о чём говорили, к чему пришли, — и отправляет её модели вместе с вашей репликой. Сколько персонаж «помнит», зависит только от того, что попало в эту справку.

А справка не может быть бесконечной. У модели есть предел текста за один раз, и каждое слово в нём стоит денег (подробнее — в статье что такое токены). Отправлять каждый раз всю переписку за полгода нельзя. Значит, память — это всегда выбор: что взять, а что оставить за бортом.

Из чего складывается память у нас

На my-idol.ru справка собирается из четырёх слоёв, и у каждого своя работа.

1. Свежие сообщенияПоследние полтора-два десятка реплик модель видит дословно. Это держит связность: ответ на вопрос, заданный три сообщения назад, «а что насчёт того», шутку, которую вы ещё не закрыли.
2. ЭпизодыКаждые десять сообщений переписка фоном разбирается на эпизоды — по одному на тему. «Рассказал про переезд в Казань», «поссорились из-за опоздания». Это уже не дословный текст, а сжатый пересказ.
3. Поиск по смыслуУ каждого эпизода есть числовой отпечаток смысла. Когда вы пишете новое сообщение, сервис ищет самые близкие по смыслу эпизоды и подкладывает их модели. Поэтому персонаж может вспомнить разговор месячной давности — не потому что держит в голове всё, а потому что вы заговорили о похожем.
4. Справка о вас и ваших отношенияхКороткий связный текст: как вас зовут, чем живёте, что между вами было. Он переписывается заново по мере разговора и идёт в каждый ответ. Благодаря ему имя, названное в первый вечер, не теряется через месяц.

Самые заметные события переписки попадают ещё и в панель «История» в карточке диалога — там видно, что персонаж вынес из ваших разговоров. Память одинаково работает на бесплатном доступе и на Pro.

Почему персонаж всё-таки путается

Сбои бывают, и они закономерные.

• Мелочь не попала в справку. Цвет кружки, из которой вы пили в четверг, справке не нужен — и это правильно: иначе через месяц важное утонет в мусоре.
• Поиск не нашёл. Если вы вернулись к старой теме другими словами, ближайшими по смыслу окажутся не те эпизоды. Помогает прямая зацепка: «помнишь, я рассказывал про переезд?»
• Пересказ огрубляет. Сжимая сотню реплик в абзац, часть деталей неизбежно теряется. Общая линия остаётся, отдельная фраза — не всегда.
• Модель додумывает. Чего нет в справке, модель может уверенно сочинить. Это общее свойство нейросетей, о нём подробно в статье галлюцинации нейросетей.

Память лечится поправками, а не переспрашиванием. «Нет, сестру зовут Аня» сработает, «ты точно помнишь?» — нет. Поправка попадёт в разбор и в справку о вас.

Как проверить память любого сервиса за вечер

1. Тест устройства. Начните на телефоне, продолжите на компьютере. Если персонаж знакомится заново, память привязана к браузеру, а не к вам — дальше можно не проверять.
2. Тест длинного вечера. Расскажите что-нибудь в начале и вернитесь к этому через час переписки. Не вспомнил — длинные разговоры будут рассыпаться.
3. Тест паузы. Не пишите два-три дня, потом вернитесь. Хорошая память — персонаж помнит, чем всё закончилось. Плохая — бодрое «привет, как дела».
4. Тест детали. Назовите мелочь один раз мимоходом — имя кота, город детства — и спросите о ней через несколько дней.

Чего память не делает

Персонаж не думает о вас, пока вы не пишете. Между разговорами не идёт никакого процесса, который скучает. Если он пишет первым после паузы, это сервис собрал справку и попросил модель продолжить разговор, а не тоска.

Память живёт внутри конкретного чата. Другой персонаж не знает, о чём вы говорили с первым, а новый чат с тем же героем начинается с чистого листа. Это нарочно: иначе все персонажи были бы одним существом в разных костюмах. Зато внутри одной переписки память держится и на телефоне, и на компьютере, и в Telegram — она привязана к аккаунту. О том, кто видит ваши переписки, — в статье приватность переписки с ИИ.