TL;DR
Когда ты замечаешь, что ИИ мог ошибиться, — не читай готовое объяснение "что не так", а сначала напиши своё. Потом привяжи к этой ошибке короткую личную фразу-напоминание, которая будет только твоей. Это два простых приёма, которые вместе делают твою бдительность к ошибкам ИИ прочнее и дольше живущей.
Люди знают, что ИИ может ошибаться, и хотят проверять его ответы — но всё равно пропускают ошибки. Причина не в знаниях и не в лени: нужная информация просто не всплывает в нужный момент. Классический пример — иллюзия Моисея: все знают, что ковчег строил Ной, но на вопрос "сколько животных взял Моисей на ковчег" многие отвечают, не заметив подмены, потому что вопрос не дал зацепки достать нужный факт из памяти. Гладкий, уверенный текст ИИ работает так же — не подаёт сигнал "тут проверь".
Метод решает это на двух точках: как ты записываешь информацию об ошибке первый раз (лучше — самому сформулировать объяснение, а не прочитать чужое) и что напоминает тебе об этом позже (личная фраза-триггер, а не общее предупреждение). В эксперименте самообъяснение дало +10 процентных пунктов к находимости ошибок, а личный триггер заметно замедлил падение бдительности при повторной работе с ИИ.
Схема метода
ШАГ 1 (в моменте ошибки): Заметил подозрительное в ответе ИИ →
САМ пишешь объяснение, почему это неверно и как проверить →
только потом сверяешь с правильным ответом/фактом
ШАГ 2 (разово, сразу после разбора):
Придумываешь короткую личную фразу-триггер, связанную именно с этим случаем →
сохраняешь её (заметка, напоминание в телефоне)
ШАГ 3 (регулярно, перед каждой новой проверкой ИИ):
Видишь/вспоминаешь свой триггер →
это включает прежнюю логику проверки, даже без повторного объяснения
Шаг 1 и 2 можно сделать за один диалог с LLM. Шаг 3 — это уже привычка, не промпт.
Пример применения
Задача: Ты каждую неделю просишь ChatGPT свести цифры продаж и объяснить динамику. Один раз ИИ красиво объяснил "рост на 23%", хотя по факту рост был 9% — модель перепутала периоды.
Промпт (шаг 1 — самообъяснение вместо готового ответа):
Я подозреваю ошибку в этом ответе ИИ: цифра "рост продаж 23%".
Вот моё объяснение, почему я думаю, что это неверно, и как бы я это проверил:
[твой текст, например: "по данным за месяц рост был 9%, похоже ИИ взял цифру
за другой период или сложил проценты неправильно. Проверить можно
по исходной таблице в Excel"].
Скажи, правильно ли я понял проблему, и дополни, если что-то упустил.
Промпт (шаг 2 — создание личного триггера):
Помоги придумать короткую личную фразу-напоминание (2-4 слова, необязательно
понятную посторонним), которая будет напоминать мне про этот случай
с придуманными 23% роста. Хочу использовать её как ежедневный триггер
перед проверкой отчётов.
Результат: В первом диалоге ИИ не выдаст тебе готовое объяснение — он подтвердит или дополнит твою версию, потому что ты формулируешь её первым. Во втором — предложит несколько коротких личных фраз, из которых ты выберешь свою. Дальше — уже не промпт: перед каждой новой проверкой отчётов вспоминаешь эту фразу, и она возвращает конкретную логику проверки, а не общее "будь внимателен".
Почему это работает
Гладкий и уверенный текст ИИ не подаёт сигналов "здесь может быть ошибка, вспомни свою проверку". Даже если ты знаешь про типичные промахи ИИ, эта информация просто не всплывает в момент, когда она нужна — она есть в голове, но не "достаётся".
Человеческая память устроена так, что то, что ты создал сам, запоминается прочнее и организованнее, чем то, что просто прочитал — потому что при создании включаются те же мыслительные действия, что нужны потом при проверке. А личный триггер, даже бессмысленный для посторонних (вроде "пуговица" или "23% — проверь источник"), может включить именно ту цепочку рассуждений, которая была при первом разборе конкретной ошибки — не общую тревогу, а конкретную логику.
Метод использует обе особенности: заставляет сначала генерировать своё объяснение вместо чтения готового — это создаёт прочную память. И привязывает эту память к личному триггеру — чтобы конкретная логика проверки включалась именно тогда, когда нужна, а не растворялась в общем "будь бдителен".
Рычаги управления: - Подробность своего объяснения → чем конкретнее пишешь (что не так, почему, как проверить), тем прочнее память - Личность триггера → общая фраза типа "будь внимателен" работает слабо, персональная и привязанная к случаю — сильно - Частота напоминания → регулярное использование триггера тормозит угасание бдительности, но не останавливает его совсем
Шаблон промпта
Шаг 1 — самообъяснение:
Я подозреваю ошибку в этом ответе ИИ: {что показалось неправильным}.
Вот моё объяснение, почему это неверно и как я бы это проверил:
{твоё собственное объяснение}.
Скажи, правильно ли я понял проблему, и дополни, если что-то упустил.
Шаг 2 — личный триггер:
Помоги придумать короткую личную фразу-напоминание (2-4 слова), связанную
с этим случаем: {краткое описание ошибки и урока}.
Фраза не обязана быть понятной посторонним — главное, чтобы она напоминала
мне лично об этой конкретной проверке.
Подставь конкретную ошибку, которую заметил в ответе ИИ ({что показалось неправильным}), своё объяснение ({твоё собственное объяснение}) и краткое описание случая для триггера.
🚀 Быстрый старт — вставь в чат:
Вот метод самообъяснения и личного триггера для проверки ответов ИИ.
Адаптируй под мою задачу: {твоя задача — например, проверка отчётов,
код-ревью, проверка юридических текстов}.
Задавай вопросы, чтобы заполнить поля.
[вставить шаблон выше]
LLM спросит, какую конкретно ошибку ты заметил и в каком контексте работаешь — потому что триггер работает только если он связан с твоим реальным случаем, а не абстрактным примером.
Ограничения
⚠️ Требует дисциплины: эффект работает только если ты реально пишешь своё объяснение каждый раз, а не просишь ИИ сразу дать готовый ответ — это медленнее, чем просто принять вывод модели.
⚠️ Угасает, просто медленнее: даже с личным триггером бдительность к ошибкам со временем падает при постоянной работе с ИИ — это способ притормозить угасание, а не остановить его навсегда.
⚠️ Триггер должен быть по-настоящему личным: общее предупреждение вроде "ИИ может ошибаться" работает слабее персональной фразы, привязанной к конкретному случаю. Стандартные предупреждения в интерфейсах ИИ этого эффекта не дают.
⚠️ Проверено на похожих, повторяющихся ошибках: участники тренировались на определённом типе ошибок. Насколько метод переносится на совершенно новый, незнакомый тип промаха ИИ — не проверялось.
Как исследовали
Исследователи провели два натурных эксперимента в реальной компании — производителе корпоративного софта в Китае — с 640 сотрудниками, работающими с клиентами. В первом эксперименте (400 человек) одной группе показали готовое объяснение ошибки ИИ, а другую заставили сначала самостоятельно написать своё объяснение той же ошибки — и только потом показали правильный вариант. Когда обе группы дальше проверяли новые ответы ИИ, те, кто писал объяснение сам, нашли на 10 процентных пунктов больше ошибок.
Во втором эксперименте (240 человек, неделя ежедневной работы) все сначала писали своё объяснение, а дальше каждый день получали персональное напоминание. Но у одной группы оно содержало личный триггер, связанный с их прошлым разбором ошибки, а у другой — просто персонализированную, но пустую по смыслу фразу. У группы с настоящим триггером бдительность падала заметно медленнее.
Любопытная деталь дизайна: авторы специально разделили эффект "просто получаешь личное послание — становится бодрее" от эффекта "конкретный триггер восстанавливает конкретную логику проверки". Разница подтвердилась именно во втором случае — значит, дело не в приятной персонализации, а в реальной ассоциативной связи с прошлым разбором.
Ресурсы
Fu, X., Ramasubbu, N., Galletta, D.F. Knowing Is Not Enough: Information Retrievability as a Precondition to Effective LLM Oversight. Preprint, forthcoming in Journal of Management Information Systems, 2026. Georgia State University, University of Pittsburgh.