Роботические личности: любовники и солдаты

Все помнят про три закона робототехники, сформулированные Айзеком Азимовым еще в 1940-е годы. Тогда будущее, населенное роботами, казалось фантастикой, но в наши дни роботы стали реальностью. И оказалось, что трех законов для регулирования отношений между роботами и людьми мало. О том, какими этическими проблемами чревато вторжение роботов в нашу жизнь, мы попросили рассказать культуролога, доцента РАНХиГС и МВШСЭН Оксану Мороз.

Робототехника развивается столь бурными темпами, что, кажется, в ближайшее время машины станут постоянными партнерами человека практически во всех сферах деятельности. Уже сейчас эксперты ожидают нарастания скорости распространения социальных роботов, а к 2020 году предрекают повсеместное развитие «умных» предприятий. Машина не как участник восстания против человечества, а как помощник, необходимый и полезный элемент технократического общества — вот тот образ, что возникает при взгляде на диалог между искусственным интеллектом и его создателями.

Это сближение порождает борьбу за регуляцию отношений между личностями человеческой и нечеловеческой природы. За последний год легитимация прав роботов, движение за признание машины в качестве субъекта права стали неотъемлемой частью политической повестки — достаточно вспомнить истории про гиноида Софию, получавшую гражданство, а также публикацию резолюции Европарламента, в котором оказались изложены нормы гражданского права о робототехнике и заложен фундамент будущей Хартии робототехники.

Создание всех этих документов может выглядеть как политическая игра в футурологию. Однако подобные конвенции нужны уже сейчас — хотя бы потому, что человечество вовлекает машины в отношения, требующие юридической регуляции и определения обоюдных обязательств. И три закона робототехники Айзека Азимова уже вряд ли можно считать достаточной — и с этической, и уж тем более с формальной точки зрения — опорой подобных взаимодействий.

Например, инженеры ведут гонку за разработку нового типа роботов-помощников, которые смогут не только скрасить одиночество, но и удовлетворить естественную потребность человека в получении сексуального удовольствия. И пока таблоиды тиражируют новости о создании андроидов с бионическими пенисами, активисты всерьез опасаются негативного влияния машин на людские интимные практики. На фоне постоянно множащихся харассмент-скандалов будущее, в котором потенциально любые сексуальные привычки удовлетворяются безропотной секс-куклой, лишь кажется безоблачным.

Люди до сих пор, судя по всему, далеко не всегда умеют договариваться о границах допустимого, приемлемом и нежелательном секс-поведении, вообще не часто склонны в режиме диалога между партнерами обсуждать эту сторону отношений. Когда в такую с трудом формализуемую, но требующую какой-то регламентации зону попадают машины — запрограммированные безропотно выполнять все желания владельца и снабженные алгоритмами для изучения его/ее вкусов, — они только на первый взгляд выглядят как спасение.

На деле же они дегуманизируют секс, превращают его в процесс пользования объектом, лишенным какого-либо права голоса и воли. И, по мнению правозащитников, в результате провоцируют развитие мизогинии и мизандрии. Человек способен испытывать симпатию по отношению к даже не самым антропоморфным роботам, сопереживать им. Крайне же антропоморфные машины гораздо проще становятся объектом эмоций, имплицитно основанных на признании наличия у запрограммированного предмета определенной идентичности. Привычка к пользованию секс-роботами, чья идентичность складывается из внешней привлекательности и деятельностного смирения, поддержки и выполнения любых требований хозяина, может привести к признанию в качестве нормы лишь такого поведения визави. И даже — к переносу на живых людей именно такой формы взаимоотношений, либо вообще к отказу от общения к «органическими» партнерами.

Кстати, роботы хороши не только в постели, но и на войне. Как минимум одно из небезызвестных четвероногих существ компании Boston Dynamics произведено при непосредственном финансировании Управления перспективных исследовательских проектов Министерства обороны США в соответствии с программой Maximum Mobility and Manipulation. Использование дронов в рамках борьбы с международным терроризмом и вообще военных операций, проводимых на территории Ближнего Востока в рамках так называемых конфликтов малой интенсивности, — история, которую только в 2010-е годы можно было назвать секретной.

Некоторые эксперты вообще полагают дигитализацию войны следствием пузыря доткомов — использование новых технологий тогда послужило целям повышения эффективности традиционного бизнеса. А что может быть более традиционным и классическим занятием по извлечению прибыли, чем война?

Другие специалисты считают, что цена, которую государства и граждане платят за цифровизацию войны, слишком высока. Невозможность полностью элиминировать человеческий фактор из процесса удаленного уничтожения жертв приводит к возникновению новых форм ПТСР у операторов дронов. И в полной мере адекватных способов лечения этого состояния до сих пор не найдено. Тем более что официально признать такой вид несения службы потенциально травматичным означает нанести урон тому благостному образу, что всеми силами создается вокруг удаленных военных операций.

С другой стороны, развитие робототехники и особенно искусственного интеллекта, решения которого не всегда понятны даже разработчикам, — это не просто очередной шаг в решении проблемы автоматизации войны как весьма ресурсо- и энергозатратного вида человеческой деятельности. Это фундаментальное вторжение в существующие этические конвенции, которые веками включались в законы войны, а в современности послужили основанием для целого комплекса правовых норм и принципов — Международного гуманитарного права. Это включение в уравнение, частями которого раньше выступало «человеческое, слишком человеческое», математической логики и алгоритмов. Вместе создающих нечто, способное обучаться, но точно не умеющее совершать нравственный выбор — то есть не обладающее навыком, весьма важным для обсуждения вопросов жизни и смерти.

За бесконечностью этических парадоксов, которыми сопровождается только зарождающееся сотрудничество между роботическими системами, претендующими на обладание какими-то идентичностями, и человечеством, крайне интересно наблюдать. Однако по-настоящему любопытными перспективы коллаборации людей и машин станут тогда, когда мы будем знакомиться не с фантастическими предположениями писателей или IT-евангелистов относительно того, что же заботит роботов, сколько с мнением самих живых существ нечеловеческой природы.