Каталог ошибок рассуждения

Ошибка рассуждения (fallacy) — нарушение архитектуры рассуждения. Структурный подход меряет ошибки относительно архитектуры верного рассуждения — законов логики и шести доменов — и даёт три результата: ошибки локализуемы (диагноз указывает, где в архитектуре произошёл отказ), объяснимы (каждая восходит к нарушению конкретного принципа) и классификация полна (пять типов соответствуют структурным чертам рассуждения как такового). Каждая ошибка каталога несёт адрес в архитектуре, формулировку, механизм нарушения, пример и диагностический вопрос.

Природа заблуждений

Каталог и его стены. Заблуждения собирали вместе с самой логикой. Первый список дал Аристотель: в трактате «О софистических опровержениях» он разобрал тринадцать видов ложных аргументов.¹ За списком стояла верная интуиция: софизм есть видимость опровержения — поддельное золото, которое неопытный не отличит от настоящего, а знающий природу подлинного распознаёт сразу. Значит, чтобы распознавать ошибки, надо понимать здоровье — устройство правильного рассуждения.

Но такой архитектуры каталог не дал — он лишь копил случаи. Средневековые логики расширяли список. Фрэнсис Бэкон заметил, что искажение входит раньше доказательства, и назвал такие искажения «идолами ума».² Чарльз Хэмблин в XX веке признал учёную традицию заблуждений «корзиной для мусора» — набором примеров без объединяющей теории.³ Даниэль Канеман и Амос Тверски описали систематические отклонения ума — эвристики и искажения.⁴ К концу этого пути списки доходили до сотен наименований — и упирались в три стены.

Таксономия: классификации множатся и спорят, потому что нет единого основания для деления. Поверхность: определения описывают форму ошибки, не её источник — распознан симптом, не болезнь. Изоляция: каждое заблуждение изучается порознь, а за пестротой форм угадывается немного механизмов.

Архитектурный поворот. Все три стены падают, стоит сменить вопрос: не «какие бывают ошибки?», а «что нарушается, когда рассуждение сбивается?». Ответ даёт архитектура шести доменов: мысль идёт к истине через распознавание, прояснение, выбор рамки, сравнение, вывод и рефлексию; порядок этот — Принцип Последовательности, грань Закона Порядка. Заблуждения и есть нарушения этой архитектуры: Переход на личность — не просто «нечестный приём», а сбой первого домена (объект подменён на входе); дрейф значения — сбой второго (термин не закреплён); Ложная аналогия — сбой третьего (рамка натянута на чужое явление). Один принцип классификации — по нарушенному месту архитектуры; один источник — конкретный сбой на конкретном шаге; одно родство — общий механизм. Три стены сняты разом. Все эти ошибки нарушают горизонталь — последовательность доменов; нарушения второй оси, вертикали уровней, порождают не заблуждения, а парадоксы.

Ошибка и софизм. Заблуждение — непреднамеренный сбой: человек хотел рассуждать верно и не сумел. Софизм — намеренный: та же архитектура нарушается расчётливо, ради победы. Механизм один и тот же, и архитектура не судит мотив — она фиксирует структуру; потому каталог не разделяет ошибку и софизм: у них одна анатомия, разнит их лишь воля того, кто нарушает (как понимание архитектуры обезоруживает намеренный софизм — в Архитектуре Рассуждения). И последняя граница: ошибка архитектуры исправляется знанием архитектуры; ошибка входных данных — архитектура соблюдена, но сведения неверны — не лечится формой: безупречное рассуждение на ложной посылке даёт ложный вывод. Различить помогает вопрос: мог ли я при должном внимании избежать ошибки?

Единый метод. Для любого заблуждения, известного или нового: локализация — пройти по доменам и найти, где начался сбой; механизм — как именно домен нарушен: пропущен, пройден небрежно, искажён давлением, подменён суррогатом; коррекция — вернуться к точке сбоя и пройти домен заново (Навигация). Метод не требует помнить сотни названий — он требует видеть структуру. Знание делает ошибку видимой; воля к истине делает её непереносимой. Нужны оба.

Пять типов

Итого каталог насчитывает 158 ошибок. Ядро каталога — тип 2: 105 ошибок распределены по доменам неравномерно, и неравномерность сама говорит о структуре:

Как отказывает каждый домен: Распознавание — искажением воспринятого (деформация и подмена объекта — ad hominem: аргумент заменён аргументирующим; фильтрация данных, проекция); Прояснение — искажением значений (дрейф значения — эквивокация, скрытое действующее лицо, ложная дилемма); Выбор рамки — искажением мерила (нерелевантные критерии — «все так думают», ошибка измеримости); Сравнение — искажением отношений (ложное уравнивание, нестабильные критерии); Вывод — искажением следования (non sequitur, post hoc — причинность из одной временно́й последовательности, переохват); Рефлексия — искажением пределов (иллюзия завершённости, ошибки самооценки).

Максимумы — у Распознавания и Рефлексии, и они структурно связаны: рефлексия даёт «наблюдателя над процессом», без которого ошибки распознавания невидимы; слабость шестого домена — часть невидимости ошибок первого.

Малый счёт типа 3 закономерен: способов идти неверно много, а направлений — мало; три первичных паттерна — рационализация (движение от готового вывода назад к «основаниям»), круговое рассуждение (вывод среди посылок) и перекладывание бремени доказательства.

Синдромы (тип 4) локальными ошибками не являются — это паттерны, пронизывающие весь процесс: всепроникаемость по доменам, самоусиление, невидимость для поражённого (искажение переживается как ясное мышление); шесть синдромов в двух группах — когнитивного диссонанса (предвзятость подтверждения, компартментализация, мотивированное рассуждение) и системного искажения (эхо-камера, когнитивное закрытие, групповое мышление); синдром лечится не исправлением отдельной ошибки, а работой с паттерном — искать опровержение, отделять личность от убеждения, разнообразить источники, вознаграждать несогласие.

Тип 5 — не ошибки по определению, а методы, валидные при своих условиях: экспертная интуиция надёжна в области с быстрой обратной связью; традиция кодирует выжившую мудрость (забор Честертона: прежде чем снести — пойми, зачем поставлен); аргумент от молчания работает, когда молчание ожидаемо-информативно; ошибкой метод становится вне своих условий — задача типа не запрет, а различение условий.

В этике. Тип 1 — этическая граница рассуждения: манипуляция занимает место аргумента, то есть отказ от рассуждения подаётся как рассуждение. Рационализация (тип 3) — подбор оснований под готовый вывод — создаёт ложь (Порядок, этический срез). Синдромы опасны именно невидимостью: искажение переживается как ясность — потому честность требует внешних опор: искать опровержение, слушать несогласных.

Дерево классификации

Пять типов → группы → механизмы нарушения; каждый узел — ссылка. (Генерируется из листа «Каталог ошибок» скриптом catalog2md.ps1.)

• Тип 1 · Нарушения условий — 38
  • 1.A · Ошибки постановки вопроса — 5
    • 1.A.3 · Несколько вопросов слиты в один — 1
    • 1.A.4 · Исключение тем — 1
    • 1.A.5 · Исключение по контексту — 1
    • 1.A.6 · Вопрос со встроенным допущением — 1
    • 1.A.7 · Требование невозможного ответа — 1
  • 1.B · Подмены рассуждения (манипуляции) — 33
    • 1.B.1 · Угроза вместо аргумента — 8
    • 1.B.2 · Жалость вместо аргумента — 3
    • 1.B.3 · Эмоция вместо аргумента — 7
    • 1.B.7 · Создание ложного этоса через жаргон — 1
    • 1.B.8 · Отрицание условий рассуждения — 5
    • 1.B.9 · Непроверяемый авторитет вместо аргумента — 1
    • 1.B.10 · Давление вместо аргумента — 1
    • 1.B.11 · Квази-гипнотическое воздействие вместо аргумента — 2
    • 1.B.12 · Отказ от рассуждения через делегирование — 2
    • 1.B.13 · Выгода вместо аргумента — 1
    • 1.B.14 · Обман вместо аргумента — 1
    • 1.B.15 · Тактическая манипуляция — 1
• Тип 2 · Нарушения доменов — 105
  • 2.1 · Домен 1 — Распознавание — 26
    • 2.1.1 · Деформация объекта — 2
    • 2.1.2 · Замена объекта — 16
    • 2.1.3 · Фильтрация данных — 5
    • 2.1.4 · Проекция — 2
    • 2.1.5 · Искажение источника — 1
  • 2.2 · Домен 2 — Прояснение — 13
    • 2.2.1 · Дрейф значения — 7
    • 2.2.2 · Сокрытие агента — 1
    • 2.2.3 · Неполнота анализа — 3
    • 2.2.4 · Избыточное прояснение — 2
  • 2.3 · Домен 3 — Выбор рамки — 16
    • 2.3.1 · Категориальное несоответствие — 3
    • 2.3.5 · Нерелевантный критерий — 9
    • 2.3.6 · Рамка под результат — 4
  • 2.4 · Домен 4 — Сравнение — 8
    • 2.4.1 · Ложное уравнивание — 4
    • 2.4.3 · Нестабильность критериев — 3
    • 2.4.5 · Сравнение с несуществующим — 1
  • 2.5 · Домен 5 — Вывод — 20
    • 2.5.1 · Логический разрыв — 1
    • 2.5.2 · Причинная ошибка — 7
    • 2.5.3 · Цепочечная ошибка — 2
    • 2.5.4 · Масштабная ошибка — 10
  • 2.6 · Домен 6 — Рефлексия — 22
    • 2.6.1 · Иллюзия завершённости — 6
    • 2.6.2 · Искажение самооценки — 2
    • 2.6.3 · Влияние прошлых инвестиций — 2
    • 2.6.4 · Иммунизация от проверки — 12
• Тип 3 · Нарушения последовательности — 3
  • 3.2 · Обратное движение — 2
  • 3.3 · Инверсия бремени — 1
• Тип 4 · Синдромы — 6
  • 4.1 · Когнитивный диссонанс — 3
    • 4.1.2 · Стабильный диссонанс — 1
    • 4.1.3 · Системная рационализация — 1
  • 4.2 · Системное искажение — 3
• Тип 5 · Контекстно-зависимые методы — 6
  • 5.1 · Интуитивное познание — 2
    • 5.1.1 · Доверяй интуиции
    • 5.1.2 · Аффективная ошибка
  • 5.2 · Традиционное познание — 2
    • 5.2.1 · Апелляция к традиции
    • 5.2.2 · Апелляция к природе
  • 5.3 · Косвенное познание — 2
    • 5.3.1 · Аргумент от молчания
    • 5.3.2 · Аргумент от последствий

---

---

Домены: Домены рассуждения · Парадоксы: Каталог парадоксов · Раздел: Архитектура Рассуждения

Footnotes

1. Аристотель. О софистических опровержениях, гл. 4–5: тринадцать видов — шесть «от речи» (омонимия, амфиболия и др.) и семь «вне речи». Рус. пер.: Аристотель. Сочинения: В 4 т. — М.: Мысль, 1978. — Т. 2. ↩

2. Бэкон Ф. Новый Органон (1620), кн. I, афоризмы 38–68: «идолы» ума — рода, пещеры, площади и театра — систематические искажения восприятия и суждения, предшествующие доказательству. Рус. пер.: Бэкон Ф. Сочинения: В 2 т. — М.: Мысль, 1977–1978. — Т. 2. ↩

3. Hamblin C. L. Fallacies. — London: Methuen, 1970. Диагноз традиции: учебниковый раздел о заблуждениях — «корзина для мусора», набор разрозненных примеров без объединяющей теории. ↩

4. Программа «эвристик и искажений»: Tversky A., Kahneman D. Judgment under Uncertainty: Heuristics and Biases // Science. 1974. Vol. 185. P. 1124–1131; обобщение — Канеман Д. «Думай медленно… решай быстро» (2011). ↩