«Неразумная обезьяна. Почему мы верим в дезинформацию, теории заговора и пропаганду»

Несколько лет назад ученые выяснили, что фейковые новости разлетаются по сети значительно быстрее информации из надежных источников. При этом чаще всего недостоверные факты распространяли не боты, а живые люди. В книге «Неразумная обезьяна. Почему мы верим в дезинформацию, теории заговора и пропаганду» (издательство «Corpus»), переведенной на русский язык Александром Анваером, ирландский физик Дэвид Роберт Граймс объясняет, почему человек столь уязвим в мире современных медиа, каким образом чепуха и неправда обходят механизмы критического мышления и как можно защитить себя от опасных заблуждений. N + 1 предлагает своим читателям ознакомиться с отрывком, в котором рассказывается, почему главный редактор Nature принял решение опубликовать работу, постулирующую эффективность гомеопатии, как ученые в конце концов доказали ее несостоятельность и что эта история может поведать о природе науки.

Грань науки

Nature — самый престижный в мире научный журнал. Именно это делает его освященные традицией страницы столь притягательными для представителей ученого сообщества. И вот в 1988 году в этом журнале появилось совершенно поразительное заявление одного французского иммунолога. Жак Бенвенист сообщил, что разводил растворы человеческих антител до практического их отсутствия в данном объеме растворителя. И что иммунные реакции все равно сохранялись — правда, при одном условии: раствор надо сильно встряхнуть. По мнению Бенвениста, это было доказательством того, что структура воды помнит о своем прежнем содержимом. Как он сам выразился, «это то же самое, что поболтать автомобильный ключ в реке, пройти по ней несколько миль, потом взять из реки несколько капель и с их помощью завести машину». Некоторые назвали этот феномен «памятью воды», но на самом деле у него есть намного более старое название: гомеопатия.

Предложенная Самуэлем Ганеманом в 1807 году центральная догма гомеопатии гласит, что в чем большей степени разведено некое средство, тем сильнее оно действует; это была антитеза научному наблюдению, согласно которому сила действия раствора прямо пропорциональна концентрации активного вещества. Гомеопатические растворы являются в высшей степени разбавленными, например при разведении C30 одна активная частица приходится на 1 миллион миллиардов миллиардов миллиардов миллиардов миллиардов миллиардов молекул воды. Получить такое разведение на Земле невозможно¹, поэтому ясно, что гомеопатические растворы просто не могут содержать активные ингредиенты. Сторонники гомеопатии возражают, что это неважно, поскольку вода «запоминает» все, что было в ней растворено. Но длительность памяти воды составляет всего около 50 фемтосекунд — то есть несколько миллиардных долей секунды².

Итак, законы физики делают данный феномен невозможным. Но что же с клиническими данными, подтверждающими эффективность гомеопатии? А с ними все очень просто: они полностью отсутствуют! Самого Ганемана, автора этой причудливой идеи, можно простить: существование атомов было окончательно доказано лишь век спустя. Но, учитывая наше знание современных химии и физики, до сих пор придерживаться позиций, столь далеких от реальности, по меньшей мере странно. Смертный приговор гомеопатии следовало подписать еще несколько десятилетий назад, однако новые наблюдения Бенвениста выдвинули науке настоящий ультиматум: либо его гипотеза неверна, либо все, что мы знаем о физике, придется переписывать с чистого листа.

Сложившаяся ситуация поставила главного редактора Nature сэра Джона Мэддокса перед нелегким выбором. Будучи физиком по образованию, он знал, что дать правдоподобное объяснение механизму действия гомеопатии невозможно. Но научные принципы не допускают отбрасывания каких-то данных только потому, что они не вписываются в традиционное мышление. Работу Бенвениста отдали на рецензию нескольким специалистам, и, несмотря на скептический настрой, ни один из рецензентов не нашел в ней ни очевидных методологических изъянов, ни признаков лженауки. Если Бенвенист был прав, значит он открыл нечто революционное, нечто, требовавшее внимательного изучения. Мэддокс решил пойти на компромисс: он опубликовал статью, сопроводив ее от имени редакции специальной «Оговоркой», где было сказано об обязательном воспроизведении опытов Бенвениста независимыми исследователями. Однако предосторожность не помогла: публикация породила сенсацию, о которой кричали газетные заголовки по всему миру. Для адептов альтернативной медицины такое признание со стороны авторитетного научного издания выглядело как месть большой науке, которая всегда стремилась принизить их убеждения и веру.

Купавшийся во внимании прессы харизматичный Бенвенист в одночасье стал всемирной знаменитостью. Мэддокс же тем временем принялся собирать группу исследователей, которые помогли бы ему проверить данные Бенвениста. Химик Уолтер Стюарт уже имел за плечами опыт разоблачения научного мошенничества, и Мэддокс, естественно, вспомнил о нем в первую очередь. Еще одним членом группы должен был стать человек, профессионально разбиравшийся в разнообразных трюках. И выбор Мэддокса пал не на ученого, а на фокусника Джеймса Рэнди.

«Удивительный Рэнди» был превосходнейшим шоуменом, опытным иллюзионистом, десятки лет выступавшим на сцене; в семидесятые годы он даже совершил тур с легендарным Элисом Купером. Рэнди превзошел самого Гудини, когда на глазах у изумленной публики выбрался из зарытого в землю гроба. Подобно Гудини, Рэнди питал страсть к разоблачению шарлатанов и приобрел блестящую репутацию человека, способного раскрыть и объяснить любой фокус. Включение его в группу имело особый смысл — редакционные примечания, касающиеся опубликованных в Nature статей, появляются в журнале крайне редко. До этого подобное случилось лишь однажды, когда в 1974 году была опубликована статья о доказательствах экстрасенсорных способностей израильского иллюзиониста Ури Геллера. В тот раз именно Рэнди наглядно продемонстрировал, что для повторения подвигов Геллера не надо обладать никакими сверхъестественными способностями — важны только ловкость рук и… доверчивость ученых³.

Взбудораженная пресса окрестила отбывшую в Париж троицу «охотниками за призраками». Бенвенист настоял на том, чтобы опыт провела его ассистентка Элизабет Давена, так как эксперимент лучше всего получался у нее. Для работы были взяты два набора пробирок. В одних содержалась чистая вода — это был «контроль», а в других — гомеопатические растворы антител. Как и ожидалось, гомеопатические растворы оказались необъяснимо активными. Но в эксперименте выявилось несколько недочетов. Один из них заключался в том, что он не был «слепым»: Давена всегда знала, имеет она дело с контролем или с раствором антител. Это означало, что на результат — вольно или невольно — могла повлиять предвзятость экспериментатора. Чтобы обойти это затруднение, Мэддокс распорядился «ослепить» эксперимент. С пробирок были удалены наклейки, и Стюарт придумал секретный код, позволявший отличить контрольные пробирки от пробирок с активными пробами. Код положили в конверт, а конверт, после того как Рэнди опечатал помещение, чтобы в него никто не смог войти, завернули в фольгу и, ради пущей сохранности, приклеили скотчем к потолку.

Приняв эти меры предосторожности, эксперимент повторили, но уже с необозначенными пробирками. Пытаясь разрядить напряженную атмосферу, Рэнди показал присутствующим несколько фокусов; этим, впрочем, он не смог расположить к себе Бенвениста, который с самого начала возражал против присутствия иллюзиониста. Результат должны были огласить в присутствии прессы ближе к обеду, и Бенвенист приготовил по этому случаю множество бутылок шампанского, которое ожидало своего часа. После завершения эксперимента этикетки вернули на пробирки, чтобы расшифровать результат. По залу, где собрались ученые и корреспонденты, пробе жал взволнованный шум. Но, к великому огорчению французских ученых, результат оказался обескураживающим. В условиях слепого проведения опыта никакого чуда не произошло. Статья была основана на заблуждении; некоторые из присутствующих от досады даже расплакались.

В докладе, представленном позднее группой Мэддокса, были перечислены и другие изъяны эксперимента; в частности, в лабораторном журнале ученые обнаружили серьезные статистические погрешности и невероятно поверхностную интерпретацию результатов. В своем докладе ученые воздержались от обвинения Бенвениста в мошенничестве, однако отметили потенциально вредное влияние источника финансирования — им оказался гигантский гомеопатический концерн «Буарон». Печальная реальность заключалась в том, что члены группы Бенвениста настолько истово верили в гомеопатию, что с легкостью дали ввести себя в заблуждение, «сначала подготовив, а затем и создав иллюзию объективной интерпретации данных».

Перед нами образцовый пример патологической науки, когда ученые, зачарованные пением сирен, выдающих желаемое за действительное, поддаются соблазну ложного, но заманчивого результата, — это, так сказать, научный вариант мотивированного суждения. Достаточно показательно, что Бенвенист пустился в риторические инвективы, вместо того чтобы честно признать ошибку: он назвал расследование Мэддокса «процессом Салемских ведьм», а самого Мэддокса уподобил Маккарти. В полемическом раже он сравнил себя с Галилеем, забыв, что кардинальная разница между ними заключалась именно в том, что правота Галилея была подтверждена экспериментально, а результаты самого Бенвениста так и не были воспроизведены ни одной из многочисленных лабораторий. В настоящее время гомеопатия признана лженаукой, но до сих пор не перевелись поборники «научно обоснованной гомеопатии» — блистательный пример оксюморона, с упором на второй корень этого слова⁴.

От фиаско Бенвениста уберегло бы применение бритвы Оккама. Этот практический прием позволяет, когда возможны множественные объяснения результатов наблюдения, выбрать вариант, который требует минимума дополнительных допущений; как правило, этот вариант оказывается верным. Для объяснения результата можно принять, что: (а) все известные физические и химические законы неверны или (б) эксперимент был проведен с погрешностями и некорректно. Хотя (а) и не является невозможным, его принятие означает необходимость объяснить, почему неверны все доказанные данные и подтвержденные теории. Напротив, вариант (б) требует признания лишь одного факта: эксперимент некорректен. Бритва Оккама — эвристический принцип и потому не абсолютен. Тем не менее при столкновении с множеством гипотез он дает достаточно надежный ориентир, указывая, где следует начинать поиск. Тот же принцип применяют в медицинской диагностике, где самое распространенное объяснение симптомов, как правило, оказывается более вероятным, чем некое экзотическое заболевание. Теодор Вудворд говорил своим интернам: «Когда вы слышите топот копыт, думайте в первую очередь о лошадях, а не о зебрах». С его легкой руки «зебрами» на медицинском сленге стали называть необычные и редкие заболевания.

Скандал с памятью воды высвечивает нечто очень важное в самой природе науки. Наука и человеческая любознательность постепенно привели к тому, что невежество и страх перед окружающим нас миром были вытеснены знанием и восхищением красотой Земли и Вселенной. Современная медицина позволила нам вести более долгую и более здоровую жизнь, а наука дала возможность познать тайны природы. Но хотя без плодов учености человечество бы попросту погибло, существует опасный разрыв между нашей надеждой на науку и нашим пониманием того, что она из себя в действительности представляет. Для многих людей научный метод — это некая туманная концепция, на которую можно проецировать любые предрассудки; к примеру, апологеты религии часто настаивают, что наука зиждется на вере ровно в той же мере, как и их догматы. Субкультуры вроде движения против вакцинации вообще не в состоянии увидеть разницу между случайным сообщением и строгим доказательством. Медийные источники настолько однобоко восприняли постулат о необходимости представлять «обе стороны», что нередко не отличают эмоционально окрашенные утверждения от надежных доказательств. Политики и законодатели постоянно попадают в затруднительное положение из-за неумения разобраться в тонкостях причин и следствий, что, к великому сожалению, часто приносит нам огромный вред.

Великий Карл Саган сокрушался: «Мы построили глобальную цивилизацию, самые важные элементы которой сильнейшим образом зависят от науки и технологии. Но мы также повели дело так, что почти никто не понимает, что такое наука и технология. Это рецепт катастрофы». Горькое замечание Сагана — не гипербола, но и не безнадежная констатация неизбежного. Если общество обучится пониманию науки и критическому мышлению, это наверняка принесет огромную пользу всем и каждому. Однако заблуждений относительно науки существует великое множество: ведь едва ли не для большинства людей наука — это просто собрание фактов и чисел, компендиум банальных истин, что навязывали нам в школьные годы жрецы тайного культа, облаченные в лабораторные халаты. Но, как показывает история с Бенвенистом, ученые не безгрешны. Они могут впасть в заблуждение из-за мелких ошибок, соблазниться ложным результатом и даже поддаться на подкуп. Мы также видели, что не все исследования проводятся одинаково: какие-то работы выполняются с безупречным дизайном, с проверкой влияния посторонних факторов, а какие-то поражают своей небрежностью и применением неверной методологии.

Если вам кажется, будто это невозможно — знать, какому именно результату можно доверять, то помните: у науки есть одно прекрасное качество — она доверяет только методике. Само по себе исследование — это всего лишь отдельная точка данных. В идеале результат исследования должен быть верным, но (по многим причинам) это может оказаться не так. Единственное, что имеет значение, — это полная картина, слияние трендов при анализе всех результатов. Именно поэтому, на пример, так убедительны свидетельства в пользу влияния технологий на климат или данные о безопасности вакцин: результаты тысяч исследований и теоретических моделей неизменно приводят к одному и тому же заключению. Напротив, отрицатели климатических изменений или противники вакцинации, цепляющиеся за единичные или откровенно слабые исследования, демонстрируют сообразительность и вкусовщину, а не настоящий ум: специально отобранные изолированные исследования не могут противостоять всему массиву убеди тельных доказательств.

Наука — это не собрание неизменных фактов и священных догм; наука — это систематический метод познания. Ученые — не жрецы тайного знания, которым они нехотя делятся с непосвященными. Авторитет и почетные звания в конечном счете не имеют никакого значения; теории прославленных нобелевских лауреатов могут в одночасье быть опрокинуты опытом какого-нибудь скромного студента. Реальность ни на йоту не интересуется нашими предубеждениями или нашим эго. Научное знание всегда является временным, преходящим, а наше согласие с данными должно быть пропорционально силе и убедительности представленных доказательств. Новые открытия непрерывно совершенствуют наше понимание, а теоретические прозрения служат компасом для открытий, и это — и только это! — позволяет науке самой исправлять свои ошибки.

Подробнее читайте:
Граймс, Д. Р.. Неразумная обезьяна. Почему мы верим в дезинформацию, теории заговора и пропаганду / Дэвид Роберт Граймс; пер. с англ. Александра Анваера. — Москва: Издательство АСТ: CORPUS, 2021. — 480 с. (Анатомия современного общества).