Природа чуши. Как понять, что вам вешают лапшу на уши
В издательстве «Манн, Иванов и Фербер» вышла книга «Полный бред! Скептицизм в мире больших данных» биолога-эволюциониста Карла Бергстрома и сооснователя лаборатории DataLab Джевина Уэста, где изучают сетевое мышление, паттерны предубеждения в науке и влияние технологий на общество. Авторы рассказывают, как распознавать чушь (например, фейк-ньюс) и не попадаться на удочку красивых графиков, убедительной статистики и наукообразных терминов. Публикуем фрагмент из главы, посвященной определению чуши и тому, чем она отличается от лжи.
Так что же такое чушь на самом деле? Иногда люди используют это понятие в том же смысле, который маленькие дети вкладывают в слово «нечестно», — чтобы описать то, что им не нравится. В таком случае чушью можно назвать даже штраф за парковку, выписанный спустя две минуты после того, как ваше время истекло, или спорное, но корректное касание базы в бейсболе. Иногда чушью называют несправедливость: коррумпированный процесс получения государственных подрядов, необоснованное оправдание преступника, законы, лишающие людей базовых гражданских свобод.
Язык дает нам возможность смягчить дурные новости и в целом смазать шестерни социальных взаимодействий. «Мне так понравилась твоя лазанья с репой. Пожалуйста, поделись рецептом». «Какой прелестный ребенок!» «Ну что ты, это я виновата». «Твои волосы выглядят просто отлично». «Ваш звонок очень важен для нас». «Я замечательно провела вечер». Часто всё это чушь, но не та, что стала темой этой книги.
Неискренние обещания и откровенная ложь — уже чуть ближе к цели. «Дорогая, сегодня мне придется снова задержаться на работе». «Я не затягивался». «Я бы предложила вам условия получше, если бы могла». «Я прочитал и принял условия лицензионного соглашения». «Читайте по губам: никаких новых налогов». И тем не менее мы склонны считать, что всё это скорее ложь, чем чушь.
Ложь часто становится более убедительной, когда ее приукрашают чрезмерными подробностями. Вот эти мелочи уже ближе к тому, что мы имеем в виду под чушью. Например, друг вынудил вас прождать в кафе лишние двадцать минут, потому что увлекся, смотря видео на YouTube, и вышел из дома на полчаса позже. «Извини, что опоздал. Такие ужасные пробки. Знаешь этот мост на Пятнадцатой, где дорога сужается? Автобус застрял прямо под ним, какой-то идиот влетел в него сзади и заблокировал обе полосы. Так что пока я выбрался из этой каши…» Первое предложение — ложь, но дальше уже начинается чушь.
Гарри Франкфурт, философ, которого мы цитировали в предисловии, еще больше развил эту идею. Он описал чушь как то, что люди создают, когда пытаются впечатлить или убедить вас, но при этом им не важно, правда или ложь то, что они говорят, верно или не верно. Вспомните школьное сочинение по литературе, которое вы написали, не открывая книгу, концепцию творческого видения доморощенного художника-модерниста или выступление на TED Talk, которое умник из Кремниевой долины использует, чтобы запустить очередной бизнес-стартап. Иногда человек ставит себе целью ввести кого-то в заблуждение, но не обязательно. Порой от нас просто ждут каких-то слов, а нам нечего сказать. Чушь, которую мы выдаем в таких условиях, не более чем «заполнение пустоты бессмыслицей».
Чушь может быть совершенно нелепой. Еще один философ, занимающийся этой темой, Джеральд Коэн, отмечает, что многие примеры чуши — особенно в научной среде — настолько нелогичны, настолько замаскированы риторическими выпадами и словесными хитросплетениями, что их невозможно критиковать.
С точки зрения Коэна, чушь — это «непрояснимая неясность». Словесная чушь не просто неясна — сами идеи, которые лежат в ее основе, настолько слабы, что их невозможно прояснить. Коэн предлагает способ проверки текста на ясность. Если вы можете удалить предложение, но смысл не меняется, то это чушь. «У Шекспира Просперо однозначно является точкой опоры эпистемологической трагедии именно в силу его неспособности оценить герменевтику безграничного».
Общее между этими взглядами на чушь заключается в том, что говорящий хочет убедить или впечатлить, а не подвести слушателя к правде. Говорящий может активно искажать действительность или просто болтать чепуху, чтобы скрыть тот факт, что он на самом деле ничего не знает о рассматриваемом предмете. Некоторые авторы разграничивают навязчивую чушь и увертливую чушь. Навязчивость нужна, чтобы убедить в раздутой компетенции или авторитете, а изворотливость позволяет избежать прямого ответа на вопрос, на который говорящий не хотел бы отвечать.
Человек, несущий чушь перед аудиторией, не союзничает со слушателями в процессе коммуникации. Он пытается манипулировать ими с помощью риторических приемов, избыточных деталей или фальшивой статистики.
Чушь — это слова, статистические данные, графики и другие формы презентации, цель которых — убедить или впечатлить слушателей, отвлекая, ошеломляя или подавляя их откровенным презрением к истине, логической связанности или сути той информации, которая передается в действительности.
Ключевые элементы этого определения подсказывают, что чушь не обязана быть правдой и что человек, заведомо несущий чушь, пытается скрыть этот факт за некой риторической вуалью. Зигмунд Фрейд самым замечательным образом проиллюстрировал данную концепцию в письме своей невесте Марте Бернейс в 1884 году:
«Итак, вчера я прочитал лекцию. Несмотря на неподготовленность, я выступал очень неплохо и без колебаний […]. Я рассказал о моих открытиях в области анатомии мозга, об очень сложных вещах, в которых публика, конечно, не смыслила, но самое важное, что у них всех сложилось впечатление, что я в этом разбираюсь».
Социолог науки Бруно Латур хотя и не писал непосредственно о чуши, но дал нам представление о том, как люди дурят свою аудиторию. Книги Латура рассматривают динамику власти между автором и читателем. В мировоззрении Латура первичная цель нехудожественной литературы — восприниматься авторитетной. Для этого необходима правота, но она недостаточна и необязательна. Прав автор или нет, он способен использовать ряд тактик, которые сделают его утверждения непоколебимыми. Но читатели, в свою очередь, не хотят, чтобы их одурачили. Например, автор может призвать армию союзников, цитируя других авторов, поддерживающих ту же точку зрения, или тех, на чьи работы он опирается. Если вы не верите мне, как бы подразумевает он, поспорьте-ка со всеми нами. Он может также использовать сложный профессиональный сленг. Такой сленг облегчает коммуникацию между специалистами, но также позволяет исключать тех, кто не допущен в ближний круг определенной дисциплины.
Чушь и черные ящики
Согласно Латуру, утверждения ученых, как правило, основываются на результатах, полученных из метафорического черного ящика, в который читателю сложно, если не невозможно проникнуть. К черным ящикам часто относится использование специализированного и нередко дорогого оборудования и методик, которые требуют много времени, либо вообще недоступны читателю, либо же настолько общеприняты, что ставить их под сомнение — своего рода еретичество в сфере науки. Если бы я написал статью о том, что определенные генетические особенности связаны со склонностью верить в чушь, скептик мог бы обоснованно оспорить мою выборку, то, как я измеряю доверчивость, или статистический метод, который я использовал, чтобы оценить взаимосвязь. Но биотехнологии секвенирования ДНК из образцов крови, скорее всего, будут черным ящиком. В принципе, скептик мог бы засомневаться и в них. Однако тогда ему придется поставить под вопрос всю научную базу и, что более важно в нашем случае, ему понадобятся доступ к продвинутому оборудованию и обширные технические познания в области молекулярной генетики.
Латур не говорит, что эти особенности фундаментальных наук превращают все исследования в чушь, да и мы так не считаем. Он просто объясняет, что наука — это нечто большее, чем бесстрастный поиск истины. Мы еще вернемся к этой теме в девятой главе. В идее черного ящика Латура заключен очень важный момент, который позволяет провести аналогию с поведением ораторов, эффективно морочащих голову слушателям. Откровенную ложь часто легко уловить и обезвредить. Но эффективную чушь трудно проверить. Она выступает в роли одного из черных ящиков Латура и защищает утверждения от дальнейшей проверки.
Допустим, друг сказал вам: «Знаешь, в целом кошатники зарабатывают больше, чем собачники». В ответ на такое заявление легко сказать, что это чушь. И если вы так сделаете, то, скорее всего, ваш друг просто рассмеется и признается: «Ну да, я всё выдумал».
Но представьте себе, что вместо этого ваш приятель заартачился и начал дополнять свое заявление выдуманными подробностями: «Нет, серьезно, это правда. Об этом говорили на TED Talk. Там объяснили, что кошатники больше ценят независимость, а собачники — лояльность. У людей, которые ценят независимость, скорее всего, тип личности NVT… нет… NVS… не помню, в общем, какой-то тип личности. И благодаря этому они лучше делают карьеру».
Вот это уже полноценная чушь, и она работает как один из черных ящиков Латура. Если вы захотите опровергнуть слова друга, вам придется поработать. Ложь и чушь сходятся воедино. Мы полагаем, что ложь становится чушью, когда говорящий пытается скрыть ее, используя различные риторические приемы.
Представьте себе, что друг ссылается на исследование, откуда и взялось это утверждение. Допустим, вы его нашли и прочли нечто подобное:
«Мы обнаружили статистически значимое расхождение между заработком любителей кошек и собак, проведя ковариационный анализ (ANCOVA) с использованием логарифмически преобразованных данных о доходах (F = 3,86)».
Если вы не имеете профессиональной подготовки в области статистики, то с размаху угодите в особенно непроницаемый черный ящик. Скорее всего, вы не в курсе, что такое ANCOVA, что значит F или что такое логарифмическое преобразование и зачем его применять. А если и знаете, то вряд ли помните во всех деталях. Мы, авторы этой книги, каждый день пользуемся статистикой, но и нам время от времени приходится что-нибудь уточнять. В итоге вы не можете раскрыть черный ящик. Вы не можете разобраться в вычислениях и таким образом выявить возможные проблемы. Если вы не специалист по статистике и, пожалуй, даже если вы специалист, у вас всё равно возникнут те же затруднения, когда вы прочитаете об исследовании, в котором, например, использовался новейший алгоритм ResNet для определения отличий между чертами лиц владельцев кошек и собак. Неважно, специально ли это делает автор, но черный ящик защищает его утверждения от критики.
Однако вам не обязательно быть специалистом. Одна из главных вещей, которые мы хотим рассказать в нашей книге, — обычно вам и не нужно вскрывать аналитический черный ящик, чтобы доказать, что с его помощью была получена полная чушь. Любой черный ящик, который используется для производства чуши, должен принимать данные и выдавать результаты, как показано на следующей диаграмме.
Чаще всего чушь возникает либо потому, что черному ящику скармливают предвзятые данные, либо потому, что с полученными из него результатами связаны какие-то очевидные проблемы. Время от времени важно разбираться и в том, как работает сам ящик, но наш опыт показывает, что такие случаи редки. Это хорошо, потому вам не нужно быть специалистом, чтобы заметить проблемы с данными или результатами. Вам нужно всего лишь ясно мыслить и тренироваться в поисках отклонений. Далее мы покажем, как это делают.
Вернемся к примеру с кошатниками и собачниками. Вы можете отбросить в сторону тонкости статистического анализа и задаться вместо этого вопросом, как были собраны данные. Возможно, исследователи изучили владельцев животных и смешали данные о людях, живущих в центре Нью-Йорка, где доходы высоки, а содержать собак сложно, с данными северного Нью-Йорка, где зарплаты ниже, но собаку завести имеет смысл. Возможно, зарплаты любителей собак приняли за среднее по США, а зарплаты владельцев кошек вычислялись на основе данных о посетителях сайта для основателей стартапов, у которых есть кошки.
Если данные, использовавшиеся для анализа, некорректны, то уже не важно, как именно будет проводиться их анализ с технической точки зрения. Получить идиотские результаты на основе дурацких данных можно и без статистических уловок. Часто именно так и создается чушь, хотим мы того или нет. Чтобы выявить чушь такого рода, вам не надо раскрывать черный ящик. Надо только внимательно посмотреть на данные, которые поступают в него, и на результат, который он выдает. Точно ли данные не искажены, разумны и имеют отношение к проблеме? Проходит ли результат проверку на правдоподобие? Подтверждает ли он сделанные выводы?
Способность вычислять чушь, выведенную из данных, — дефицитное умение. Десятилетия назад шарлатана могли спасти псевдонаучный сленг и цветистые детали. Сегодня мы привыкли получать информацию в количественных показателях и не уверены, что смеем подвергать ее сомнению. Количественные аргументы кажутся нам более вескими, чем качественные. Эта репутация в целом безосновательна, ведь нужны очень скромные способности, чтобы сфабриковать обманчиво правдоподобные цифры. Но мы всё равно им доверяем, поэтому цифры выполняют любые капризы за деньги лжецов.