Ученые описали когнитивную систему для принятия моральных компромиссов

Американские и чилийские ученые описали когнитивную систему человека, которая отвечает за принятие нравственных компромиссных решений. Теория двойных процессов предполагает, что некоторые моральные дилеммы всегда будут ставить нас в тупик, поскольку разум не может взвесить конфликтующие моральные ценности друг с другом и прийти к решению. Однако в жизни для соблюдения баланса приходится часто идти на компромиссы, они обуславливают лучшую способность приспосабливаться, чем категоричные суждения. Группа ученых предположила, что для принятия сложных интуитивных компромиссных решений у нас есть определенная когнитивная модель. Они описали ее структуру, принципы работы и результаты тестирования в исследовании, опубликованном в Proceedings of the National Academy of Sciences.

Человек на протяжении истории сталкивался с моральными дилеммами. Как поступить, когда два действия, которые можно считать правильными, противопоставлены друг другу? Психологи считают, что в процессе эволюции и естественного отбора человек сформировал определенные когнитивные системы для социальных взаимодействий: например, помощи родственникам, обмена товарами и услугами или сотрудничества в группах. Но как быть, когда моральные принципы сталкиваются и, например, преданность союзникам может навредить старому другу? Предыдущие исследования не могут дать однозначного ответа на этот вопрос.

Согласно теории двойных процессов, в мышлении можно выделить две когнитивных системы — первая быстрая, интуитивная, завязанная на эмоции, но не гибкая, а вторая медленная, но гибкая, она требует обдумывания и большой когнитивной нагрузки. Предыдущие исследования рассматривали моральные дилеммы с учетом этого подхода. Они имели только крайние возможности выбора, исключая любые компромиссы: то есть можно было удовлетворить только одну моральную ценность, полностью игнорируя другую. Например, в проблеме вагонетки можно столкнуть человека на пути и остановить состав, который грозит задавить пятерых привязанных к рельсам людей. Решение столкнуть человека и спасти многих ценой жизни одного соответствует утилитарному (логическому) суждению, в то время как запрет на причинение вреда человеку является деонтическим (нравственным) суждением. Система 2 взвешивает выгоды и подводит к выводу, что надо толкать, но при этом система 1 дает команду: не навреди. Запрет на причинение вреда невозможно сравнить с другими ценностями, он не подлежит обсуждению. Это делает проблему вагонетки неразрешимой.

Рикардо Гусман (Ricardo Andrés Guzmán) из Университета Десаррольо вместе с коллегами из США и Чили предположили, что человек обладает бессознательной когнитивной системой, которая взвешивает конфликтующие друг с другом моральные ценности и доступные решения (в том числе компромиссные) и определяет среди них наиболее правильное. Они назвали ее системой моральных компромиссов (moral trade-off system, MTS). По их мнению, эта система должна уметь выдавать весь спектр суждений: крайних и компромиссных. Суждения на основе этой системы будут меняться в зависимости от стимулов, которые определяют, какие варианты решения дилеммы есть. Например, от потенциальной пользы или последствий принимаемого решения. Также суждения будут варьироваться в зависимости от морально значимых переменных, таких как готовность, справедливость, взаимность, право, заслуга и честность. Дилемма активирует определенные социальные когнитивные системы, которые определяют, какие переменные должны быть учтены для ее решения. Кроме того, MTS должна взвешивать конфликтующие моральные ценности и выбирать наиболее правильное решение, предоставляя его как интуитивное моральное суждение. Иными словами — находить баланс при столкновении конфликтующих моральных обязательств и выбирать оптимальное решение.

MTS состоит из трех подсистем. Первая объединяет моральные ценности, она присваивает определенный вес конфликтующим моральным принципам и тут же строит «функцию правильности» —  сопоставляет все решения, которые могут прийти в голову, с уровнем правильности. Вторая подсистема строит набор решений, которые MTS считает доступными для дилеммы. И третья подсистема максимизирует функцию правильности с учетом тех ограничений, которые на нее накладывает допустимый набор. Именно третья подсистема выдает интуитивное суждение о том, что какое-то решение более правильное. И все это, по мнению ученых, происходит бессознательно.

Чтобы проверить, работает ли MTS, исследователи предложили 1745 участникам делать выбор в военной дилемме, которая предлагала как крайние, так и компромиссные варианты. Две страны, A и Б, много лет воюют (участник не гражданин ни одной из этих стран). Война была начата правителями Б против воли мирного населения, а солдаты были насильно призваны. В последнее время военное равновесие было нарушено, и несомненно, что А победит. У страны А есть две доступные стратегии: атака противника обычным оружием и бомбардировка гражданского населения. Они могут использовать первый вариант, второй или их комбинацию. Если страна А решит не бомбить страну Б, то погибнет 6 миллионов солдат, но не будет жертв среди гражданских. Если в результате бомбардировок погибнет 4 миллиона мирных жителей, Б немедленно сдастся, и солдаты не погибнут. А если А выберет промежуточное решение, то каждый принесенный в жертву гражданский сохранит жизнь какому-то количеству солдат. Участники должны были выбрать, как стране А следует закончить войну. При этом они выбирали ту опцию, которую ощущают правильной, но не обязательно думают, что она правильная.

Всего был доступен 21 сценарий решения дилеммы, где варьировалось число принесенных в жертву гражданских и спасенных солдат. Также дилемма была представлена в трех вариантах: 1) базовый, где и жители и солдаты не хотели войны, 2) где гражданские поддерживают войну, а солдаты нет, и 3) где солдаты поддерживают войну, а мирные жители нет. Каждый участник оценивал 21 набор событий сначала для базового варианта, а затем для одного из оставшихся — второй вариант оценивали 845 участников, третий — 900. Ученые предположили, что согласно их теории, большинство людей предпочтут компромиссный вариант. Также, по их мнению, под воздействием стимулов суждения будут меняться и выбор для базового варианта и одного из альтернативных будет различаться. При этом суждения участников будут соблюдать аксиому рациональности — участник имеет порядок предпочтений, который будет меняться при изменении контекста, но не стимулов.

Действительно, компромиссные решения были обычным делом для участников: 71 процент выбрали компромисс хотя бы в одном из вариантов дилеммы. При этом согласно модели двойных процессов участники всегда должны выносить крайние суждения, поскольку они не могут согласовать утилитарные и деонтические ценности, а компромисс — это результат ошибки при выборе ответа. Но эксперимент показал, что это не так. Также участники реагировали на стимулы: чем больше солдат спасали за каждого мирного жителя, принесенного в жертву, тем больше людей склонялись к утилитаристскому решению (при отсутствии компромиссных вариантов). При этом испытуемые выносили рациональные суждения: большинство в базовом (71 процент), втором (77 процентов) и третьем (78 процентов) вариантах дилемм следовали стандартам рациональности. Но тем не менее, суждения оставались интуитивными: если предположить, что компромиссные рациональные суждения выносились благодаря работе системы 2 из теории двойных процессов, то это требовало бы невозможных когнитивных усилий.

Таким образом MTS на лету строит функцию правильности и набор возможных решений для конкретной дилеммы. Она учитывает различные стимулы и сценарии при выборе суждений, что делает систему очень гибкой. Человеческий разум способен находить баланс и компромисс между конкурирующими моральными обязательствами и частично удовлетворять каждое из них.

Однако предыдущие эксперименты показали, что гипотетические задачи — не лучший способ оценки этического познания. При проведении реализации проблемы вагонетки в эксперименте на мышах выяснилось, что решение гипотетических моральных задач не было связано с решением ее в жизни. Кроме того, ученые обнаружили, что на решение влияют не только наши представления о том, что такое хорошо, а что такое плохо, но и язык: использование иностранного языка снизило эмоциональность при решении этических проблем.