Статьи

Иллюзия знания. Что мешает здраво мыслить?

О том, как ошибается человек в своих рассуждениях, о его заблуждениях и когнитивных искажениях говорят много: начиная с Аристотеля, продолжая Ф. Бэконом, Дж. Локком, И. Кантом, Дж. Дьюи и заканчивая современными перечнями ошибок из сотен пунктов. Но во всем многообразии этих материалов не хватает главного: какие именно дефекты в воспитании нашего мышления порождают эти заблуждения и ошибки; а также решение каких педагогических задач и воспитание каких интеллектуальных качеств их исключит.

Дмитрий Матвеев – научный редактор издательства концентрированных знаний «LIVREZON». Автор и составитель книг, посвященных интеллектуальному труду. 

г. Москва, Россия ВКонтакте: vk.com/dmathveev @ dmathveev@livrezon.com

Нередко причины социальных проблем видят в ошибках мышления: неправильно понял, глупо поступил, не разобрался. Но несмотря на то, что описаны сотни подобных ошибок, в обществе их меньше не становится. Особенно ярко мы видим это в своих коллективах, занятых сложными интеллектуальными разработками. 

Интересно, что наличие перечней из этих ошибок автоматически их не исключает. И причина в том, что они имеют разные источники: культурные нормы, неизученные интеллектуальные операции, неразвитые психические функции, индивидуальные заблуждения и стереотипы и т.д. Каждый из источников требует своих подходов к устранению.

Чтобы проиллюстрировать ошибки мышления, мы проводим параллели с социальными проблемами, которые могут из-за них возникать. Безусловно, причиной проблем всегда является комплекс факторов, и ошибка мышления не всегда будет ключевым. Тем не менее, приведенные примеры ставят перед нами исследовательские задачи: насколько они зависят от ошибок мышления, как именно устроена эта связь и, если она существенна, то как можно на нее воздействовать.

Кроме того, оговоримся, что не вполне корректно называть это ошибками. Скорее, автоматически срабатывающие эффекты. И они могут быть полезны в бытовом контексте. Сложности возникают, когда старые привычки или эффекты мышления переносятся в дело.

Эффект #1. Человек не обращается к рассудку и знаниям, а бездействует

Параллель с социальной проблемой

Человек отключает здравомыслие в условиях эмоциональной «накачки» или находясь в толпе. Так устроены погромы футбольных болельщиков или митинги, перерастающие в беспорядки. 

Педагогические задачи, которые стоят перед исследователями

  • Поставить психическую функцию – обращаться к рассудку и к собственным знаниям, навыкам, опыту и включать мышление.
  • Научить отключать эмоции.

Эффект #2. Человек не проверяет информацию, принимает навязанную картину мира

Параллель с социальной проблемой

Разнообразные мошенничества, игры на доверчивости. Так, благодаря подобным механикам существуют «мыльные пузыри» и финансовые пирамиды: «МММ», Тюльпаномания 1630-х годов, биткоин, доткомы и др.

Педагогические задачи, которые стоят перед исследователями

  • Поставить навык проверки входящей информации.

Эффект #3. Чтобы вынести суждение, человек использует стереотипы и штампы

Параллель с социальной проблемой

Сложности всех процессов эмансипации. «Освобождение» и темнокожих, и женщин встречало большое сопротивление, в том числе и со стороны самих представителей этих социальных групп. Живучесть стереотипов о роли женщины видна на примере постсоветской России, где, к примеру, советский образ волевой и квалифицированной руководительницы (вспомним х/ф «Служебный роман» или «Москва слезам не верит») быстро сменился стереотипным представлением. 

Педагогические задачи, которые стоят перед исследователями

Необходимая функция – понять и удержать в восприятии сложные явления и связи.

  • Научить распознавать PR-воздействия, различать объективное и субъективное.
  • Научить преодолевать однобокую или полярную позицию с помощью введения шкал, мер и весов.
  • Научить преодолевать однобокую или полярную позицию с помощью через введение многофакторности.

Эффект #4. Непознаваемое объявляется тайной, и это становится финальным объяснением

Параллель с социальной проблемой

1. Доказательная медицина магически подменяется гомеопатией, шаманизмом и т.п. Пример из 2009 года – врачи из Великобритании и африканских стран направляют письмо во Всемирную организацию здравоохранения: «Мы призываем ВОЗ выступить с осуждением пропаганды гомеопатии как средства лечения туберкулеза, диареи у детей, гриппа, малярии и ВИЧ». [1]

2. «У одного индийского министра были политические неприятности, и ему дали совет, для того, чтобы покончить с ними, входить в свой кабинет через дверь, ориентированную на восток. Но этот вход был заблокирован трущобами, через которые не могла проехать его машина; тогда он дал приказ снести их». [2]

Педагогические задачи, которые стоят перед исследователями

  • Развивать привычку подвергать все исследованию.
  • Научить принципу последовательных приближений к истине и дать понимание, что недостигнутая истина — это нормально.

Эффект #5. Человек останавливается после первой правдоподобной идеи

Параллель с социальной проблемой

Одноходовые решения усугубляют сложные социальные проблемы.

1. Антиалкогольные кампании, построенные на принципе «Запретить!»

«…мы получили целый букет проблем: астрономический скачок теневых доходов и накопление первоначального частного капитала, бурный рост коррупции, исчезновение из продажи сахара в целях самогоноварения». [3]

2. Китайский опыт: воробьи едят зерно → чтобы сберечь урожай, нужно их истребить → из-за этого остаются в живых вредители, которые еще больше усугубляют положение.

Педагогические задачи, которые стоят перед исследователями

  • Преодолеть неумение выделить множество причин проблемы, порывы решить задачу в один ход, в одно действие.
  • Научить решать задачи, где ответ – это комплекс разнообразных взаимосвязанных действий. (Отдельный вопрос: много ли таких задач предоставляют в школе?)
  • Научить спокойно работать и принимать решения в условиях длительной неопределенности или отсутствия ответа.

Эффект #6. Человек рассматривает только субъективные факторы

Параллель с социальной проблемой

Развиваются анти-качества и появляется анти-личность. В предельном контексте она становится диктатором. Подробнее о механизмах личностной деградации читайте книгу А.В. Миськевича «”ЗЛЫЕ ГЕНИИ”: Жизненная стратегия АНТИ-личности».

Другие примеры подмен: научная дискуссия подменяется политическими репрессиями, лечение пациентов подменяется зарабатыванием денег на них. 

Педагогические задачи, которые стоят перед исследователями

  • Поставить навык рассмотрения ситуации с разных позиций.
  • Научить различать мнения и данные, субъективное и объективное.

Эффект #7. Декларативность и неопределенность используемых слов и понятий

Параллель с социальной проблемой

Как показывает практика, в долгосрочной перспективе только 10% стартапов можно назвать успешными. 90% разоряется, убытки несут инвесторы, основатели и даже работники. Одна из главных причин – культура деклараций – использование поверхностных и невоспроизводимых лозунгов: «Знайте клиента», «Соберите подходящую команду», «Делайте упор на свои сильные стороны» и т.п. Из-за таких формулировок, которые воспринимаются субъективно, потребности клиента, план работ и организация процессов не продумываются всерьез.

См. также: «идолы пещеры» по Фрэнсису Бэкону.

Педагогические задачи, которые стоят перед исследователями

  • Научить различать декларативные и воспроизводимые знания. Психофизиологическая основа умения: дифференциальное развитие мышления.

Эффект #8. Логические ошибки: подмена тезиса, круговое рассуждение, ошибка следования, апелляция к незнанию и т.д.

Параллель с социальной проблемой

Если говорить не о бытовых, а о серьезных проблемах, то например, в законодательстве об оружии есть пробелы – просто не прописанные логически необходимые фрагменты. Есть правила – при каких обстоятельствах человек может владеть оружием, есть регламенты ежегодных проверок состояния оружия. Но обстоятельства ежегодно не проверяются, поэтому не изымается оружие у тех, кто уже совершил какое-то правонарушение с посягательством на общественную безопасность или в связи с употреблением наркотических и психотропных веществ. Из-за этого растут общественные риски и уровень нелегального оборота оружия.

Педагогические задачи, которые стоят перед исследователями

  • Научить применять формальную логику на практике: умение обнаруживать логические ошибки в практических кейсах.

Эффект #9. В рассуждении смешиваются мораль и факты

Параллель с социальной проблемой

Из фактических утверждений «как есть» логически не обязательно вытекают утверждения этические, утверждения долженствования «так должно быть».

В крайних случаях доходит до «научного» оправдания жесткой и жестокой политики. Политические апелляции к евгенике усиливали позиции нацистов и открывали путь к геноциду.

Педагогические задачи, которые стоят перед исследователями

  • Научить различать моральные и фактические суждения.

Эффект #10. Ложные оценки вероятностей (когнитивные искажения)

Параллель с социальной проблемой

Известно, что летчики склонны недооценивать опасность, если слышали, что другой пилот уже успешно совершал полет в подобных условиях на этом маршруте. Рост рисков очевиден.

Педагогические задачи, которые стоят перед исследователями

  • Научить работать с вероятностью на типовых практических («жизненных») задачах.
  • Научить различать ситуации оценки и ситуации прогноза.
  • Научить формальной перепроверке вероятностных суждений.

Эффект #11. «Это особый случай…»

Параллель с социальной проблемой

Да – есть законы, да – есть логика, да – нужно учитывать когнитивные искажения. Но это особый случай… 

1. Когда в США падал ипотечный рынок, многие думали: «Меня это не коснется», – и продолжали скупать необеспеченные долговые обязательства. Результат: 2008 год. 

2. На этом эффекте работает такое социальное явление, как казино. 

3. Катастрофа шаттла «Челленджер». В течение восьми лет все уже знали, что уплотнители реактивного кольца дефективны, особенно в холодную погоду. Но понадеялись на удачу и погубили экипаж.

Педагогические задачи, которые стоят перед исследователями

  • Научить рационализации принимаемых решений.
  • Встроить осознанные рациональные проверки в момент принятия решений в любых контекстах.

Эффект #12. Догматизм, узость и ограниченность кругозора: отрицание иных точек зрения и позиций как заведомо неверных

Параллель с социальной проблемой

1. Франция чуть не пала в Первой мировой войне, потому что сменилась сама парадигма войны: появилась маскирующая форма, а французы оставались в цветных костюмах как открытые мишени.

2. Ответственные организации отказывают или задерживают в регистрации инновационных изобретений. Это оборачивается многомиллиардными потерями – доходы, которых не случилось.

Педагогические задачи, которые стоят перед исследователями

  • Обучить принципу многомодельности – возможность использовать в жизни множество точек зрения, анализировать ситуации из разных картин мира.
  • Дать понимание, что а) любое знание несовершенно (фаллибилизм), б) указания на ошибки усиливают работу.

Эффект #13. Конкретизм: сведение всего к ощущению, к конкретике, чтобы сделать яснее для себя

Параллель с социальной проблемой

Понимание и доверие только чувственным данным, конкретному и самоочевидному. Пример – существование резерваций и/или особо выделяющихся отстающих групп. В индейских резервациях в США смертность от алкоголя кратно выше, чем в США в целом, больше ДТП и выше уровень преступности. Связь с конкретизмом мышления достаточно сложная. Это лишь один из барьеров, который может мешать развивать более сложные социальные институты. 

Педагогические задачи, которые стоят перед исследователями

  • Постановка операции «идеализация» – умение переходить от конкретного явления к идеальной модели и обратно.
  • В частности, умение различать конкретные действия и обобщенные действия (функции).

Эффект #14. Умозрительные игры с идеями, терминами и теориями без соотнесения с опытом, некорректные переносы моделей между областями

Параллель с социальной проблемой

Античные теории о четырех жидкостях в организме, соответствующих временам года, природным стихиям, знакам Зодиака и т.п. На основе этих и аналогичных теорий вводили такие практики, как кровопускание, лечение мышьяком и пр. 

Педагогические задачи, которые стоят перед исследователями

  • Постановка операции «идеализация» – умение переходить от конкретного явления к идеальной модели и обратно.

Эффект #15. Редукционизм, игнорирование системных эффектов, сведение целого к простой сумме частей

Параллель с социальной проблемой

Экологические и техногенные катастрофы часто возникают из-за игнорирования этих эффектов: ускоренное испарение Аральского моря, разрушения мостов в результате резонансов и т.п.

Педагогические задачи, которые стоят перед исследователями

  • Научить работать с системами, изучать их, обнаруживать и учитывать системные эффекты.

Эффект #16. Примитивные обобщения: post hoc — ergo propter hoc

Параллель с социальной проблемой

Поспешные обобщения, иллюзии корреляции, ложные аналогии, мнимая логическая связь, некорректные переносы между областями и т.д. 

Пример: «Все беды от вакцины». Статья о появлении симптомов аутизма после вакцинации MMR была основана на ложной корреляции, но породила социальный миф. В итоге родители существенно меньше прививали детей, и через несколько лет возникли вспышки коклюша и кори.

Педагогические задачи, которые стоят перед исследователями

  • Постановка операции «обобщение» – корректное выявление закономерностей на большом массиве данных, умение делать недекларативные выводы из большого количества примеров.

Эффект #17. Объективация

Параллель с социальной проблемой

Средство решения проблемы изымается из контекста деятельности и превращается просто в вещь. К примеру, «таблица Менделеева» не как средство выразить комплекс химических закономерностей, а как цветной вкладыш в учебнике.

Это граница профессионализма. 

Последствия данной ошибки можно рассматривать на разных уровнях. В простых случаях мы видим, как по невежеству не соблюдаются элементарные правила техники безопасности. К примеру, человек отравился, потому что нарушил условия хранения еды. В более сложных случаях происходит деградация целых интеллектуальных направлений. Так, множество постмодернистских «заумных» текстов некорректно используют математические (и не только) понятия как объекты и метафоры, без понимания их как средства решения проблем. В итоге само направление превозносит анти-содержательность, запутанность и субъективность. Когда речь идет о теориях, все как будто бы в порядке. Но когда возникает вопрос, какое лекарство стоит использовать, «теоретическая расслабленность» становится недопустимой. 

Педагогические задачи, которые стоят перед исследователями

  • Научить видеть следующие сущности и закономерности между ними: Проблема – Средство – Решение.
  • Научить обнаруживать функцию того или иного средства (функциональный подход).
  • В частности, уметь читать нехудожественные книги: видеть вклад автора книги в контексте.

Заключение

В силу социальной направленности конференции мы рассмотрели потенциально связанные с эффектами мышления социальные проблемы. Выяснить детали этих связей и попытаться на них повлиять – задачи для дальнейших исследований. А вот последствия для интеллектуальной деятельности очевидны и многократно наблюдались нами как в упрощенном виде у авторов книг, которые мы прорабатываем в огромном количестве, так и в более тонких формах у участников наших курсов и коллективов. Именно эти дефекты приводят к фантастически низкому качеству литературы и КПД поиска полезной информации около 1%.

Вторая группа исследовательских вопросов связана с выяснением причин каждой из ошибок мышления. Какие они? Культурные, психологические, интеллектуальные или иные?

Третья группа вопросов: а как с этими причинами бороться? Побороть хотя бы половину из них – не «rocket science», а нормальная здоровая педагогика, многие решения описаны классиками. Но и этой здоровой педагогики, увы, в массе своей нет: школьные программы направлены на передачу детям фактов и не заботятся о постановке переносимых на реальность умственных навыков. Хотя формально такие разделы в программах есть, но в них вы легко найдете, например, что математика учит способности находить нужную информацию и любви к родине. 

Некоторые ошибки (в основном, интеллектуального характера) мы преодолеваем на своих обучающих курсах для авторов-исследователей: 

Могут ли и должны ли заниматься подобным в школе? Как должна выглядеть школа XXI века? Как должно выглядеть воспитание, образование и вообще детство ребенка XXI века? Вопросы ждут своих исследователей и практиков.

Поддержите проект «АПОРОН», приобретая сборник материалов первой конференции – в электронном или в печатном виде. 

Примечания к статье

[1] Цитируется по Русской службе BBC News. (Роскомнадзор закрыл доступ к сайту на территории РФ.)

[2] Ж. Брикмон, А. Сокал. Интеллектуальные уловки. Критика современной философии постмодерна. М.: Дом интеллектуальной книги, 2002. Раздел 7. «Интермеццо: когнитивный релятивизм в философии науки».

[3] В.Ф. Грушко. Судьба разведчика. Книга воспоминаний. М.: Международные отношения, 1997. Глава 18. «Горбачев».

Полезные материалы