Совесть на аутсорсе

27 октября Anthropic выпустила исследование о том, как ИИ влияет на решения людей, которые с ним работают. вместе с ИИ-агентом решали, стоит ли фермерскому кооперативу расширять программу помощи хозяйствам. По ходу работы им то и дело приходилось выбирать между двумя разумными вариантами, и в 86 процентах случаев они соглашались с агентом. Большинство аналитиков — 77 процентов — хотя бы раз объяснили свой выбор его доводами, но признали это лишь 15 процентов.

Хоть эксперимент и касался статистики, его главный вопрос намного шире: действительно ли человек принимает решения сам, даже если формально последнее слово остается за ним? И что происходит с ответственностью, когда машина помогает не только выбрать, но и обосновать решение? Два других недавних исследования показывают, что алгоритм бывает не только советчиком, но и посредником, которому удобно передать морально неприятную часть выбора.

Экономисты Никола Хюхольт (Nicola Hüholt) и Нора Шех (Nora Szech) из Технологического института Карлсруэ в двух экспериментах с общей выборкой 5,6 тысячи человек показали: люди чаще делегируют моральный выбор алгоритму, чем другому человеку. А юристы Стефан Тонтруп (Stephan Tontrup) и Кристофер Шпригман (Christopher Sprigman) из Центра Энгельберга при Школе права Нью-Йоркского университета обнаружили, что люди, которым психологически труднее нарушать моральные нормы, чаще привлекают ИИ как посредника. Иными словами, алгоритм оказался удобнейшим устройством для морального самооправдания.

Плохие поступки хороших людей

Психологи давно изучают, как подчинение авторитету влияет на чувство личной ответственности. В 1961 году Стэнли Милгрэм начал опыты, в которых участники по указанию экспериментатора должны были ударить человека током. Испытуемые верили, что причиняют другому боль, хотя разрядов не было. Милгрэм объяснял такое подчинение «агентным состоянием»: человек считает себя лишь исполнителем, а ответственным — того, кто отдает приказы.

Стивен Райхер (Stephen Reicher) и Александр Хаслам (Alexander Haslam) предложили другое объяснение. Проанализировав материалы Йельского архива, они обратили внимание на удовлетворенность, которую участники выражали после эксперимента: многие писали, что «счастливы были оказаться полезными». Согласно предложенной исследователями модели , участники верили, что помогают науке, и потому считали свои действия допустимыми. Такая интерпретация ставит дополнительный этический вопрос: как представление о благой цели помогает оправдать причинение вреда?

Стэнфордский тюремный эксперимент Филипа Зимбардо десятилетиями представляли как доказательство того, что «роль пожирает личность». Однако его методология подверглась серьезной критике. Тибо Ле Тексье, изучив архивы эксперимента, показал, что игравшие охранников участники знали, какого поведения от них ждут. На инструктаже 14 августа 1971 года Зимбардо прямо говорил им, что задача — «создать скуку», «создать чувство фрустрации», «создать страх» и ощущение произвола, «который управляет их жизнями, полностью контролируемыми нами — системой, вами, мной, Джаффе». По данным Ле Тексье, из 17 правил «тюрьмы» 11 были дословно скопированы из студенческого учебного эксперимента, проведенного тремя месяцами ранее в общежитии Тойон-холл. За 47 лет Зимбардо упомянул об этом лишь дважды.

В современных трактовках опыты Милгрэма и Зимбардо говорят не об автоматическом растворении личности в ситуации, а о более прозаичном и опасном механизме: внешний авторитет помогает людям оправдать поступки, на которые сами они бы не решились. Авторитетом может быть наука, система, роль, начальник — а теперь и алгоритм.

Наиболее полную карту таких «внешних инстанций» составил Альберт Бандура (Albert Bandura). Его теория описывает восемь механизмов, которые позволяют человеку отключить самосанкции и при этом продолжать думать о себе хорошо. Они распределены по четырем локусам: поведение, собственная роль человека в нем, последствия этого поведения и его жертва.

Передача решений алгоритму может облегчать сразу несколько таких способов самооправдания. За нейтральными терминами вроде «оценка риска» легче не замечать последствий для людей. Ответственность можно переложить на непрозрачную техническую систему или распределить между разработчиком, поставщиком, специалистом по внедрению и оператором. Наконец, за набором метрик все сложнее увидеть живого человека.

Как люди делегируют моральный выбор

В исследовании, опубликованном в 2026 году, Хюхольт и Шех проверили, кому люди охотнее поручают моральный выбор — ИИ или другому человеку. Участникам предлагали решить, в каком объеме и куда исследователи направят пожертвование: пять долларов в Against Malaria Foundation — на противомалярийную сетку для одного ребенка или семь долларов в Helen Keller International — на витамин A для семерых детей. Первый вариант был выбран по умолчанию. Деньги выделяли исследователи, а вознаграждение участников от их решений не зависело.

Сделать выбор можно было самостоятельно или делегировать посреднику. Какому именно — определялось случайно: кому-то разрешали передать выбор ИИ, а кому-то — другому участнику. В одном из экспериментов дополнительно сравнивали две ситуации: в первой выбор был воображаемым — деньги никуда не переводили, и испытуемые об этом знали; во второй исследователи действительно перечисляли пожертвование за каждого десятого участника.

Реальные последствия по-разному влияли на готовность делегировать. В группах с ИИ принять решение ему поручали около 26 процентов участников при воображаемом пожертвовании и 30 процентов — при реальном. В группах с человеком соотношение было обратным: около 21 и 16 процентов соответственно.

Те, кто снимал с себя необходимость делать выбор, сообщали о меньшем чувстве ответственности, особенно если посредником был ИИ. Однако исследование не позволяет установить, что было причиной, а что — следствием: делегирование ослабляло чувство ответственности или люди, которые изначально чувствовали ее меньше, чаще передавали решение другим.

Еще один результат этого исследования связан с самооправданием и вписывается в теорию Альберта Бандуры. При реальных пожертвованиях участники выше оценивали способность ИИ принимать моральные решения — но только в группах, где могли поручить ему выбор. Авторы назвали это «мотивированной адаптацией убеждений»: человеку проще передать решение машине, если он считает, что она справится лучше. При этом участникам не сообщали, насколько хорошо ИИ решает подобные задачи — неопределенность оставляла место для удобной интерпретации его способностей.

Авторы связывают это с «моральным люфтом» (moral wiggle room), который изучали экономисты Джейсон Дана, Роберто Вебер и Джейсон Куанг. В их экспериментах неопределенность последствий позволяла людям действовать менее щедро, сохраняя при этом представление о собственной справедливости.

Подобная закономерность наблюдалась в двух культурных контекстах: и в немецкой, и в американской выборке участники чаще поручали моральный выбор ИИ, чем другому человеку. Это расходится с прежними исследованиями, в которых люди неохотно доверяли машинам моральные решения. Хюхольт и Шех предполагают, что отношение к ИИ может меняться, когда человеку самому приходится выбирать и отвечать за последствия.

Кто выбирает посредника

Второй ответ на вопрос о моральном самооправдании дали юристы Стефан Тонтруп и Кристофер Шпригман. Они предлагали испытуемым сыграть в : участник получал десять долларов и решал, какую часть отдать получателю. Чтобы получатель мог забрать доставшуюся ему сумму, требовался код. Участников делили на две группы. В экспериментальной группе распределитель мог поручить ChatGPT сообщить этот код получателю — сумму при этом определял сам участник. В контрольной группе ту же роль исполняла обычная компьютерная программа, не представленная как самостоятельный агент. 

Привлечение ИИ заметно удлиняло процедуру. Несмотря на это, около 35 процентов участников все равно предпочли воспользоваться ИИ — они же переводили получателю статистически значимо меньше денег. Из этого авторы делают вывод, что посредничество ИИ может снижать психологические издержки эгоистичного решения.

Интересно и то, какие игроки выбирали обратиться к посреднику. Просоциальные испытуемые привлекали ИИ статистически значимо чаще, чем те, кто ориентировался прежде всего на собственную выгоду. По объяснению авторов, для первых нарушение нормы справедливости психологически дороже, поэтому возможность разделить ответственность может быть для них привлекательнее. Кроме того, чем больше ответственности участник приписывал ИИ, тем чаще прибегал к его помощи. Авторы предполагают, что ИИ может стать удобным средством морального самооправдания благодаря доступности, низкой стоимости и тому, что такое использование трудно контролировать извне.

Получается замкнутый контур: человек охотнее просит машину сделать то, чего сам бы не сделал, а машина, в отличие от него, не отказывается. В одном из экспериментов Института развития человека Макса Планка участники поручали человеку или GPT-4 сообщать результаты бросков кубика, от которых зависела денежная выплата. Просьбы всегда указывать максимальное число — независимо от реального результата — люди выполняли в 42 процентах случаев, а GPT-4 — в 93 процентах.

Где ответственность исчезает

За пределами лаборатории тоже возникают ситуации, в которых человек формально принимает решение, но во многом опирается на алгоритм. Сами по себе такие случаи еще не доказывают, что люди используют ИИ для морального самооправдания. Но они демонстрируют, почему одного только присутствия человека в процессе принятия решений может быть недостаточно.

Так, в опросе тысячи американских руководителей, использовавших ИИ на работе, 59 процентов сообщили, что обращаются к нему при выборе сотрудников для сокращения, а 58 процентов — при решении об увольнении. Каждый четвертый часто или постоянно использовал ИИ для выбора сотрудников под сокращение, а 43 процента хотя бы иногда оставляли этот процесс без контроля. При этом 38 процентов не проходили обучения этичному использованию ИИ в кадровых решениях; среди факторов, которые руководители просили учитывать при сокращениях, были частые больничные или отпуска по медицинским причинам (31 процент) и возраст (14 процентов).

Правовые ограничения такого использования алгоритмов уже становились предметом судебных разбирательств: 

• в деле немецкого кредитного бюро SCHUFA суд ЕС признал: если алгоритмическая оценка предопределяет ответ банка, ее расчет подпадает под общий запрет автоматизированных решений в GDPR, хотя закон предусматривает исключения; 
• в США суд разрешил учитывать прогноз системы COMPAS о риске повторного преступления, но не использовать его для определения суровости наказания; 
• в Нидерландах суд остановил применение системы SyRI, которая выявляла риски мошенничества с пособиями, из-за непрозрачности системы и недостаточной защиты частной жизни; 
• в Австралии автоматизированная система оценки долгов, получившая неофициальное название Robodebt, требовала возвращать якобы излишне выплаченные пособия, принимая усредненный заработок людей за реальный доход в каждом двухнедельном периоде. Долги, основанные только на таком расчете, впоследствии аннулировали, а взысканные суммы стали возвращать.

От решений с участием алгоритмов могут зависеть не только деньги и свобода человека, но и его здоровье. При этом даже профильная квалификация не гарантирует, что специалист распознает ошибочную рекомендацию. В эксперименте исследователей из Германии и Нидерландов рентгенологи оценивали снимки молочных желез с подсказками, представленными как рекомендации ИИ. Когда подсказки были неверны, даже опытные врачи чаще ошибались. При этом в медицине ИИ формально остается вспомогательным инструментом: например, британский регулятор GMC прямо указывает, что ответственность за решения, принятые с его помощью, несет врач. О том, почему люди доверяют машинам больше, чем себе, мы рассказывали в материале «На автомате».

Кроме того, люди могут охотнее доверять алгоритму, если знают, что у них будет возможность исправить его ответ. В одном швейцарском эксперименте добровольцам показывали анкеты школьников — им нужно было предположить, как каждый ребенок сдал тест по математике. Самим проанализировать работу было нельзя: готовую оценку каждый участник получал от одного из двух источников — программы или другого человека, чьи ответы исследователи собрали заранее. Одним участникам разрешали изменить полученную оценку, а другим — нет. Оказалось, что такие изменения в среднем делали оценки менее точными. Возможность контроля повысила доверие к программе, хотя на деле люди плохо справились с проверкой ее рекомендации.

Почему проблема не в алгоритме

Здесь напрашивается возражение: если модель принимает решение не хуже человека, а издержки получаются ниже, то какая разница, кто чувствует себя ответственным? 

Философский ответ предлагает Кристин Сусиенка (Christine Susienka) в работе «Нести моральный вес: что теряется, когда решает ИИ». По ее мнению, передача ИИ решений с серьезными последствиями может подрывать человеческое достоинство даже тогда, когда алгоритм точен, непредвзят и прозрачен, а его решения совпадают с выводами экспертов и остаются предметом юридической ответственности. Она рассматривает прежде всего ситуации, в которых у человека уже есть обязанности перед другими — например, у врача перед пациентом или у судьи перед участниками процесса.

Отдельный вопрос — как помощь ИИ влияет на ощущение личной ответственности. В контролируемом эксперименте с 138 участниками, о котором рассказали на конференции ECIS 2026, люди выполняли письменное задание самостоятельно или с генеративным ИИ. Во втором случае они слабее ощущали контроль над работой и собственный вклад, ниже оценивали знание ее содержания и в меньшей степени воспринимали результат как отражение себя. По всей видимости, так проявилось ослабление психологического чувства собственности — ощущения, что результат принадлежит человеку. Именно этим исследователи объясняют снижение чувства ответственности за написанное: если текст не полностью «свой», то и ответственность за него не вполне «своя».

Похожий эффект зафиксирован и в оценках чужого поведения. Копирование текста, созданного ИИ, опрошенные американские студенты посчитали более этичным, менее похожим на плагиат и вызывающим меньше вины, чем копирование текста, написанного человеком. В другом онлайн-опросе 705 человек оценивали, кто отвечает за вред, причиненный при участии ИИ. Когда ответственного было трудно определить, респонденты снисходительнее относились к причастной организации — при этом они активнее выступали за регулирование всей отрасли.

***

Исследования прошлого века о моральном самооправдании показали: люди могут оправдывать дурные поступки благой целью, распоряжением авторитета или словами, которые скрывают последствия. Новые работы об ИИ указывают на еще один возможный способ самооправдания — передачу принятия решения или его исполнения алгоритму. Он доступен, сравнительно дешево обходится и воспринимается как посредник, с которым можно разделить ответственность.

Поэтому риски алгоритмизации моральных решений не исчерпываются ошибками модели и не начинаются только там, где ей официально передали право выбора. Иногда человек сохраняет последнее слово, но ИИ уже определил, какие варианты он рассмотрит, какие доводы сочтет убедительными и какой результат назовет своим. Техническую ошибку можно обнаружить, решение — обжаловать. Гораздо труднее заметить момент, когда человек перестает быть автором собственного суждения, хотя по-прежнему подписывает его своим именем.