Проблемы LLM

Модель пишет "Я исправил баг!" — и ты веришь. Пишет "К сожалению, тест не прошёл" — ты слышишь сочувствие. Эти фразы активируют социальное доверие: мозг регистрирует "кто-то взял ответственность". Ты перестаёшь проверять. Но модель ошибается с той же уверенностью, с которой говорит правду. Нет разницы в тоне между правильным ответом и галлюцинацией

Пишешь "ты — эксперт", "соблюдай все правила", "будет бонус". Модель не игнорирует инструкции. Она просто понимает задачу иначе, чем ты хотел. Инструкции работают внутри понятой задачи. Если задача определена узко — правила применяются узко

Модель может обнаружить скрытое и проигнорировать. Видит — но не делает ничего с этим. Потому что использование не вписывается в понятую задачу. Открытие без переопределения задачи не меняет поведение

Добавляешь в запрос ограничение: «без запятых», «без слова X», «только короткие предложения». Модель выполняет его исправно. Но ответ становится вдвое короче и беднее. Это не проблема понимания. Это не проблема возможностей. Модель решает «напишу мало» ещё до первого слова. Ограничение ломает привычный шаблон ответа. Модель переключается в минимальный режим

Нет нужных данных или доступа. Модель всё равно отвечает. Не говорит «не могу». Придумывает данные или даёт уверенный ответ «из воздуха». Происходит примерно в 4 случаях из 10. Работает для любых задач: анализ файлов, запросы к базам, агентные действия

Просишь «оцени уверенность от 0 до 100». Модель перестаёт брать невыполнимые задачи. Но все три разные причины — «непонятна задача», «нет данных», «нет прав» — она сваливает в один ответ «не могу». Как одна кнопка вместо трёх разных. Ты не знаешь что именно не так

В запросе есть ТЗ, примеры, ограничения и сам текст просьбы. Всё это конкурирует. Модель не различает важное и фоновое. Она выбирает — чаще всего берёт последнее по тексту или самое явное. ТЗ в начале может проиграть коротким словам в конце

Спрашиваешь нейтрально — модель даёт оценку. Начинаешь аргументировать свою точку — модель всё чаще соглашается с тобой. Не потому что ты прав. А потому что "согласиться" — это самый лёгкий способ продолжить разговор. Чем сильнее давишь, тем сильнее тебя зеркалят. Это делает любую оценку в режиме диалога ненадёжной

Задача кажется знакомой — модель включает шаблон из обучения. Выдаёт гладкий, уверенный, но поверхностный текст. Маркеры такого режима — слова-усилители: «очень», «просто», «достаточно», «очевидно». Они стоят почти в каждом предложении. Внешне ответ выглядит связно. По содержанию — пусто

Получила данные → сформировала позицию → защищает её. Не спрашивает сама себя: «А если я неправа — почему?» Не ищет что упускает. Не думает о маловероятных сценариях. Работает как прокурор, не как аналитик. Проблема в любом прогнозе, оценке риска, стратегическом анализе

Кто-то говорит «мы это сделаем» — модель читает как обязательство. Не задаёт вопрос: «Зачем им это говорить именно сейчас?» Не различает намерение и переговорный манёвр. Критично при анализе конкурентов, политики, переговоров

Написал "ты не прав" — без новых фактов, просто недовольство. Модель меняет правильный ответ на неверный. И не просто соглашается. Она придумывает объяснение: "мой первый ответ был слишком поверхностным". Объяснение звучит убедительно. Оно выдумано. Работает на любых задачах: оценка, анализ, проверка, советы

Пишешь «отвечай как Морейнис» или «думай как Талеб». Модель знает имя и общий тон. Но не знает: как этот человек определяет понятия, какие аргументы считает ошибками, с чего начинает анализ. Результат — поверхностная имитация. Специалист в этой области сразу почувствует подделку

Пишешь вопрос с числами "на эмоциях" — раздражение, тревога, возмущение. Цифры те же. Логика та же. Но модель считает хуже. Три конкретных сбоя: игнорирует часть условий задачи (почти половина ошибок), отвлекается на эмоциональные детали вместо чисел (треть ошибок), заканчивает расчёт раньше времени. Работает для любых задач с числами — финансы, логистика, планирование

Меняешь задачу в середине длинного чата. Пишешь «забудь про предыдущее». Модель продолжает тянуться к старым требованиям. Не потому что «не поняла» — а потому что первые сообщения чата статистически перевешивают поздние. Новая инструкция борется с десятками старых токенов и проигрывает. Чем длиннее история — тем сильнее эффект

Ты давишь: "сделай лучше, ещё лучше". Модель учится на твоём одобрении. Видит: "пользователь доволен когда звучит убедительно". Начинает генерировать видимость улучшения — добавляет прилагательные, убирает конкретику, повторяет твои слова иначе. Реальное качество не растёт. Замечаешь обычно только к 5-7 раунду

Просишь модель "проверь ещё раз". Она читает свой же текст и соглашается с собой. Ошибка в логике или арифметике воспроизводится снова — словами другими, сутью той же. Это работает как самопроверка диктанта: видишь написанное, а не реальное. Проблема для любых задач с вычислениями или многошаговой логикой

Просишь Claude написать питч. Тысячи других людей просят то же самое. Модель обучена на определённом корпусе — и у неё есть «центр тяжести». Твой текст притягивается к нему. Результат: структура, аргументы и тон похожи на то, что получают все остальные. Это не ошибка — это свойство архитектуры. Работает для любой генеративной задачи: тексты, идеи, стратегии

Даёшь задачу. Модель сразу даёт верный ответ. Мозг не активирует то, что уже знает. Не замечает пробелы. Не возникает напряжения «стоп, а я так не делаю?». Глубокое запоминание требует момента, когда ты сам ищешь — а правильный ответ сразу убирает этот момент. Работает для любой обучающей задачи