System-2 Counting: преодоление архитектурного предела подсчета через разбиение на части

Обнаружено: LLM катастрофически плохи в подсчёте больших списков — не из-за незнания чисел, а из-за архитектуры. Модель не хранит счётчик как переменную count = 17, информация размазана по слоям трансформера. До 10 элементов это работает чётко, после 20 начинается компрессия, после 30-40 — слои физически насыщаются и точность летит в пол. System-2 Counting позволяет считать списки из 50+ элементов с точностью 95% вместо 5% — даже в моделях с 28-32 слоями. Фишка: разбей список на части по 5-10 элементов через разделитель |. Модель считает в каждой части отдельно (это её надёжная зона), промежуточные результаты выводит как текст ('part 1: 4, part 2: 6'), потом суммирует через рассуждение. Один промпт, три этапа внутри.