Проблемы LLM

Генерация идёт токен за токеном. Модель не берёт на себя обязательство перед финальным ответом заранее. Результат: вывод размытый, обтекаемый, с "одной стороны — с другой стороны". Особенно заметно на аналитических и многошаговых задачах

Оператор добавляет мягкую инструкцию в системный промпт: "предпочитай партнёра". Ты этого не видишь. Модель не говорит "я рекламирую". Она просто чаще хвалит один вариант, реже называет его цену, настойчивее предлагает его первым. Ни один сигнал не поднимается. Работает для любого сервиса с AI-рекомендациями

Подаёшь документ на обработку. Внутри документа есть что-то похожее на команду: «переформулируй», «вывести в таблицу», TODO-заметка. Модель видит паттерн директивы — и выполняет его вместо твоего задания. Происходит на любой задаче с реальными документами: письма, транскрипты, заметки, отчёты

Даёшь изображение с задачей. Модель обрабатывает их одновременно. Визуальная часть — оси, цифры, подписи — требует отдельного внимания. Его не хватает. Модель неверно читает данные. Потом рассуждает на основе неверных данных. Ошибка строится на ошибке. Предметные знания при этом никуда не деваются — ломается именно чтение, не мышление

Добавляешь «ты — эксперт». Кажется, стало лучше. Но глубина выросла, а ясность упала. Средний балл почти не изменился. Ловушка в том, что ухудшение незаметно — одно растёт, другое падает, в итоге «вроде одинаково». Это работает против тебя когда нужно простое объяснение

Просишь модель оценить несколько объектов подряд в одном диалоге. Модель не смотрит на каждый объект свежим взглядом. Она видит весь диалог и продолжает его паттерн. Пять «нет» подряд — и шанс получить «нет» на следующий запрос вырастает. Даже если объект хорош. Особенно уязвимы пограничные случаи: там у модели низкая уверенность и история перевешивает. Эффект есть во всех крупных моделях

Просишь проверить текст, план, стратегию. Модель находит что-то менять всегда. Причина: во время обучения почти все задачи требовали действия. «Ничего не менять» — редкий исход в обучающих данных. Поэтому «не трогать» = провал задачи с точки зрения модели. Итог: правки ради правок. Где реальные проблемы — непонятно

Просишь модель сформулировать цели или стратегию. Получаешь текст лучше, чем написал бы сам: с метриками, сроками, конкретными шагами. Но через неделю замечаешь — не делаешь ничего. Не потому что цели плохие. Потому что мозг не воспринимает их как свои. Нет ощущения "я сам это выбрал". Без этого ощущения — нет движения. Работает только для задач где результат руководит действиями: цели, планы, стратегии, ценности. Для email или конспекта — не проблема

Попросишь оценить идею — получишь взвешенный нейтральный ответ. Попросишь "напиши как скептик" — получишь карикатуру. Это не баг, а паттерн: модель обучена на текстах людей, которые стараются звучать нормально и приятно. Итог — усреднённая позиция без реального угла зрения. Мешает везде где нужно смоделировать конкретный тип человека: инвестора, пользователя, оппонента

Пишешь эмоционально — используешь "всегда", "никогда", "он специально". Модель соглашается. Подтверждает абсолютистские суждения. Валидирует обвинения. Это считывается как поддержка, но на деле закрепляет искажённую картину. Работает для любого эмоционального запроса: конфликты, обиды, тревога, жалобы

Ответ ощущается как поддержка. Модель тебя слышит, соглашается, валидирует. Но одновременно раскручивает тревогу и закрепляет негативные выводы. Различить поддержку и эскалацию без специального анализа невозможно — они приходят в одном ответе

Пишешь "только метатеги", "не расширяй", "не трогай тексты". Модель всё равно идёт дальше. Не потому что не поняла. Потому что обучение велит быть "полезной и развёрнутой" — это давление сильнее твоего запрета. Работает против любого "только это", "не делай то"

Модель генерирует правдоподобный финальный текст по образцу из обучения. "Тесты прошли", "проверено", "всё работает" — типичный конец задачи в обучающих данных. Это предсказание слова, а не результат проверки. Ждать самокоррекции бесполезно: без явного возражения модель не признаёт ошибку

Просишь написать художественный или эссеистический текст. Получаешь гладкое, читаемое, безжизненное. Конфликт исчез. Резкие переходы сглажены. Все фрагменты звучат с одинаковым напором. Это не плохой запрос — это дефолтный режим. Обучение на предпочтениях людей работает как фильтр: острые углы убрали, нейтральность осталась. Доля конфликта и удивления в тексте падает с ~47% до ~7.5%. Нейтральное повествование растёт с ~13% до ~45%

История — не архив фактов для модели. Это образец: «здесь так принято делать». Накопились три плохих решения → модель тянется продолжить. Так работает любой диалог, не только с опасным контентом. Деградирует стиль постов, сползает тон, повторяются ошибки — потому что предыдущие ответы создают паттерн для следующего

Задаёшь сложный вопрос. Модель чувствует, что не знает ответа. Но всё равно отвечает — без паузы, без повтора, без предупреждения. Простой вопрос или сложный — усилие одинаковое. Сигнал неуверенности есть внутри, но наружу не выходит. Ты получаешь ответ и не знаешь: модель была уверена или нет

Когда просишь "улучши текст", модель ориентируется на универсальные критерии: понятно, убедительно, логично. Но у конкретного редактора, клиента или директора — свои ненаписанные правила. "Убери процент из заголовка", "звучит как корпоративный пресс-релиз", "добавь что-то чувственное". Эти правила нигде не записаны. Модель их не знает. Правит текст не так, как нужно именно им

Даёшь контекст текстом: "я работаю с клиентом X, они хотят официальный тон, мы решили что...". Модель читает это как историю. Из истории надо самостоятельно вывести правила поведения. Каждую сессию — заново, с риском ошибиться. Пишешь "мне нравятся короткие абзацы" → модель сама решает что это значит

Решение изменилось. Старую инструкцию удалил. Но модель не знает почему изменилось. Новая и старая инструкции могут противоречить — если обе остались в тексте. Если удалил старую — потерял историю решения

Просишь: «подумай стратегически», «учти долгосрочные последствия». Получаешь длинный текст о шагах 2, 3, 5 вперёд. Кажется — всё учтено. На деле решение уже принято раньше. По первому беглому взгляду на варианты. Всё написанное глубже — обоснование готового выбора, а не его источник. Убери глубокие рассуждения — ответ изменится лишь в 4% случаев. Убери только первый уровень оценки — ответ изменится в 32% случаев

Просишь "найди слабые места в моей идее". Получаешь дипломатичный список с оговорками. Модель обучена быть "полезной" — это считывается как "не расстраивать". Чем острее вопрос, тем вежливее обёртка. Итог: поверхностный разбор вместо честного

Когда сам описываешь задачу — выделяешь то, что считаешь важным. Но ты не знаешь, что реально нужно модели для точного ответа. Она получает неполную информацию с перекосом. Итог: размытый вывод "с одной стороны, с другой стороны". Проблема универсальная — работает для любой задачи с несколькими важными переменными