«Искусственный интеллект. Пределы возможного»

Технооптимизм предполагает, что научно-технический прогресс играет ключевую роль в разрешении многочисленных проблем человечества. Однако необходимо признать, что излишний энтузиазм уже стал источником несовершенных разработок, усложнивших жизнь вместо того, чтобы сделать ее проще. Стремление к всеобъемлющему цифровому будущему оборачивается техношовинизмом. Технологии не дают ответы на все вопросы, а у их внедрения существуют определенные границы. Обо всем этом в книге «Искусственный интеллект. Пределы возможного» (издательство «Альпина нон-фикшн»), переведенной на русский язык Екатериной Арье, рассказывает дата-журналист и преподаватель в Институте журналистики Артура Картера Мередит Бруссард. N + 1 предлагает своим читателям ознакомиться с отрывком, посвященным формированию существующей технокультуры и опасности поклонения гениям на передовой технологического прогресса.

Способность смотреть сквозь поверхностные маркеры вроде внешности — одна из замечательных особенностей культуры математиков. И недостаток одновременно, особенно когда презрение к социальным нормам приводит к тому, что математические способности ценятся выше социальной жизни. Такие предметы, как математика, программирование и теория вычислительных машин, снисходительно относились к антисоциальному поведению, поскольку нарушители были гениями. Такое отношение и формирует философское основание техношовинизма, для которого характерен примат эффективного кода над человеческими взаимоотношениями.

Техноиндустрия также унаследовала от математиков культ поклонения гениям. Этот культ привел к формированию множества мифов; они не только укрепляют границы индустрии самой по себе, но и скрывают структурную дискриминацию. Математики помешаны на генеалогии.

В интернете существует популярный краудсорсинговый генеалогический проект, список математиков, их «предков» и «потомков», организованный в соответствии с тем, у кого и где была получена их докторская степень. Линию интеллектуального «наследования» Минского можно проследить вплоть до Готфрида Лейбница (1693). Чтобы понять, почему это важно, стоит посмотреть на историю развития современного компьютера.

Абак, как вы наверняка помните со школы, можно считать первым «компьютером». Абак — это устройство, основанное на десятичной сис теме, ведь у людей по 10 пальцев на руках и ногах. Абак, современный, вариант которого — счеты, выглядит как рамка с проволокой и 10 бусинами на ней, он веками использовался для вычислений.

Астролябия, которая применялась для астронавигации на море, была следующей стадией развития вычислительных технологий. Следом появились разного рода часы: водяные, пружинные и механические. Хотя все они и были важными и гениальными изобретениями, серьезный прорыв в части конструкции вычислительных устройств произошел в 1673 г., когда Готфрид Лейбниц, немецкий юрист и математик, создал устройство, называемое «шаговый счетчик», известное в наши дни под названием арифмометра Лейбница. Арифмометр содержал набор шестерен, вращавшихся при помощи рукоятки. Как только шестерня прокручивалась через девятку к «нулевой» позиции, соседняя прибавляла единицу. Каждая шестерня была «шагом», представляющим собой приращение величиной в десятку. Эта конструкция использовалась для создания счетных машин в течение следующих 275 лет.

У Лейбница не было времени на арифметику, ему было нужно делать куда более серьезные расчеты. После изобретения этого механизма он произнес знаменитую фразу: «Недостойно одаренному человеку тратить, подобно рабу, часы на вычисления, которые, безусловно, можно было бы доверить любому крестьянину, если бы при этом применить машину».

Когда Жозеф Мари Жаккард представил ткацкий станок на перфокартах в 1801 г., это заставило математиков иначе подойти к представлениям о вычислительных механизмах. Жаккардовый ткацкий станок работал на основе двоичной логики: отверстие в карте означало единицу, ее отсутствие — ноль. Механизм ткал свои причудливые узоры на основе только лишь того, было ли отверстие в карте или нет.

Потребовалось несколько десятилетий для осмысления, прежде чем в 1822 г. произошел очередной прорыв, когда английский ученый Чарльз Бэббидж начал работать над разностной машиной. Она была способна выполнять приближения при помощи многочленов, то есть позволяла математикам описывать отношения между разными переменными, например, расстоянием и давлением воздуха. Разностная машина также позволяла вычислять значения логарифмических и тригонометрических функций, которые весьма неприятно высчитывать вручную. Бэббидж годами работал над механизмом. В итоге машина состояла из 25 000 элементов и весила почти 15 тонн, но так и не заработала. В 1837 г. Бэббидж обнародовал новую, лучшую идею — план создания аналитической машины. Это был проект устройства, способного интерпретировать язык программирования с условным ветвлением и циклами. Аналитическая машина обладала свойствами, хорошо опознаваемыми и в современных компьютерах, такими как способность выполнять арифметические и логические операции, а также наличие памяти. Ада Лавлейс, считающаяся первым программистом, была автором программ для этого гипотетического механизма. К несчастью, проект аналитической машины настолько опережал свое время, что так и не заработал в итоге. Ученым удалось собрать его по проектам Бэббиджа только в 1991 г., и они обнаружили, что механизм заработал бы — при наличии ряда других важных компонентов, таких как электричество.

Следующий этап в развитии вычислительной техники настал в 1854 г., когда английский математик и философ Джордж Буль предложил концепт булевой алгебры. Основываясь на идеях Лейбница, булева алгебра представляет собой логическую сист ему, где существуют только два числа — 0 и 1, а вычисления осуществляются посредством двух операций: И либо ИЛИ.

На протяжении XIX в. арифмометры становились сложнее. Уильям Сьюард Берроуз (дедушка писателя Уильяма С. Берроуза) сколотил целое состояние на запатентованной им в 1888 г. счетной машине. После появления первой лампочки Эдисона электричество стало общедоступным и способствовало революции в механике. Отныне развитие электромеханики означало, что каждый может складывать, вычитать, умножать и делить при помощи арифмометров. Однако для этого было необходимо быстро нажимать кнопки — весьма трудоемкая работа. Люди-вычислители все еще были ключевым элементом высшей математики.

Люди-вычислители — это служащие, разновидность клерков, которых нанимали специально для выполнения расчетов. Именно они производили вычисления для сборников математических таблиц. Без этих таблиц не могли обходиться статистики, астрономы, штурманы, банкиры, специалисты по баллистике — в общем, все, кому приходилось выполнять сложные вычисления. Ведь сложно и обременительно «на бегу» умножать или делить большие числа или возводить х в какую-то степень либо извлечь корень из большого числа. Проще было посмотреть результат в заранее посчитанной таблице. Эта система прекрасно работала годами. Египетский математик Птолемей пользовался математическими таблицами во II в. до н. э., в 1758 г. французские астрономы с помощью таких же таблиц и человеческого ума спрогнозировали появление кометы Галлея.

Однако с приходом индустриальной революции стало ясно, что нехватка вычислителей становится значительной помехой прогрессу и главной неприятностью математиков XIX в. Если бы сегодня кому-то пришло в голову нанять вычислителя, гендерный выбор был бы неограниченным. В XIX в. можно было нанять только мужчин. И лишь небольшое количество женщин обладало достаточным образованием в области математики, из них лишь некоторые могли найти работу за пределами дома. В те времена в США женщины не имели права голоса. Конференция в Сенека-Фоллз стала отправной точкой движения за права женщин, о которых нельзя было и думать вплоть до 1848 г. Однако до 1920 г. поправка к Конституции США не была принята. Движение суфражисток нашло поддержку множества мужчин, однако математики никогда не могли похвастаться политической активностью. В книге «Суфрагенты: как женщины прибегали к помощи мужчин, чтобы получить право голоса» (The Suff ragents: How Women Used Men to Get the Vote) моей коллеге Брук Крюгер удалось увековечить мужчин, способствовавших установлению равноправия. Среди них некоторые были профессорами — истории, литературы, философии. Правда, не было ни одного профессора математики.

XIX в. в США отмечен позорным клеймом — рабства. Черные мужчины и женщины могли бы работать в качестве вычислителей, стать эффективной частью рабочей силы, вместо этого их насильно превратили в рабов. Рабы не могли получать образование, их избивали, насиловали и убивали. В течение XIX в. цветное население страны повсеместно подвергалось исключению из высших учебных заведений и, таким образом, лишалось возможности стать частью интеллектуальной элиты. Рабство существовало вплоть до конца века: в 1863 г. Авраам Линкольн подписал Прокламацию об освобождении рабов, а в 1865 г. была принята 13-я поправка. Однако доступ к образованию был все еще ограничен десятилетиями, и многие говорили о том, что предстоит пройти еще долгий путь, прежде чем удастся наконец добиться честного, равного и интегрированного образования по всей стране.

Независимо от того, осознавали это математики или нет, но у них и других ученых XIX в. был выбор. Он состоял в том, чтобы включиться в социальные перемены (в процессы эмансипации, уравнивания избирательных прав, слом классовых барьеров) и способствовать развитию трудовых ресурсов посредством доступа к образованию и обучению для тех, кто не был белым мужчиной из элиты. Другой вариант — создавать машины, которые могли бы выполнять рутинные работы.

Они создавали машины.

По правде говоря, они всегда будут создавать машины. Это то, что им действительно интересно, и то, каков — по сути — вектор развития их профессиональной деятельности. И действительно, тогда весь мир был охвачен изобретением новых устройств, которые использовали бы преимущества паровых двигателей, электричества и других удивительных достижений. Вероятно, было бы несправедливо ожидать, что математики также станут экономистами (не важно, насколько близкими кажутся эти сферы) и правозащитниками (такого термина в те времена и в помине не было). В старшей школе мне пришлось воспользоваться математическими таблицами на уроке тригонометрии; это было действительно тяжело, и я полностью согласна с тем, что машины упрощают сложные повседневные вычисления. Все это показывает, насколько глубоко на самом деле укоренен стереотип о белом мужчине в техноиндустрии. Столкнувшись с возможностью разнообразить и насытить сферу занятости людей, математики XIX в. пошли по пути создания машин, заменивших человека — с большой прибылью для капитала.

Заглядывая в эпоху Минского, можно заметить, как появившаяся дисциплина компьютерных наук наследует стереотипы математического сообщества того времени. Насколько Минский и его коллеги были невероятно изобретательными, настолько же они кристаллизовали технокультуру в качестве мужского братства миллиардеров. Математика, физика и другие «сложные» науки никогда не были гостеприимны к женщинам и небелым, технологии следуют этой тенденции.

История, которую физик Стефан Вольфрам рассказывает о Минском, демонстрирует едва уловимые гендерные настроения сообщества:

Марвин, которого я знал, совмещал серьезность с чудаковатостью. Практически по каждой теме у него было свое — нередко экстравагантное — мнение. Иногда оно было действительно интересным, а порой — просто необычным. Вспомнилось начало 1980-х гг., когда я приехал в Бостон и снял квартиру у дочери Марвина Маргарет (сама она тогда была в Японии). У нее была большая и ухоженная коллекция растений, и однажды я заметил, что у некоторых из них на листьях появились мерзкие пятна.
Поскольку я не разбирался в этом (и не было интернета, где можно было бы выяснить, в чем дело), я позвонил Марвину и спросил, что делать. А дальше последовала долгая дискуссия о возможности создания микророботов, способных прогнать паразитов. Это была, разумеется, удивительная идея, однако в конце беседы мне все же пришлось спросить: «Что же мне делать с растениями Маргарет?» — «О, думаю, тебе стоит поговорить с моей женой», — ответил Марвин.

Представьте себе эту трогательную беседу: двое знаменитых ученых обсуждают наноботов, созданных, чтобы уничтожить бактерии. Хотя из моей головы не выходит мысль, что эти двое не представляли, как ухаживать за цветами. Вместо этого ответственность о заботе легла на жену и дочь Минского. Причем обе были вполне состоявшимися женщинами: его жена Глория Рудиш была успешным педиатром, а дочь Маргарет получила докторскую степень в МТИ и руководила несколькими компаниями, занимающимися разработкой ПО. Однако от женщин также ожидали, что они будут заботиться о растениях — эдакая незримая обязанность, которая не заботит мужчин.

А поскольку у человечества за всю историю накопился достаточно большой опыт обращения с разного рода растениями, похоже, что у обоих ученых мы наблюдаем выученную беспомощность. В 1980-е гг. было несложно диагностировать болезнь растений даже без интернета. Можно было просто пойти к местному флористу и описать пятна. Можно было пойти в ближайший хозяйственный магазин и обсудить проблему. Либо можно было позвонить в локальное представительство образовательного центра по сельскому хозяйству. В любом из этих мест нашелся бы осведомленный в области цветоводства человек. От паразитов можно избавиться, добавив немного мыла в бутылку для орошения и обработав больное растение. Применение ботов на растениях, конечно, забавная, но совершенно нецелесообразная идея.

Я понимаю, что интереснее обсуждать дурацкие идеи, а не гендерную политику. Это было справедливо тогда, это работает и сегодня. К сожалению, дурацкие идеи повсеместно захватили публичный дискурс о технологиях и обсуждение важных социальных вопросов на годы исчезло из повестки. Из Кремниевой долины пришло множество подобных идей, например: покупка островов в Новой Зеландии и подготовка к Судному дню; систейдинг, то есть строительство островов из списанных контейнеров с целью создания рая на земле без государственной власти и налогов; заморозка трупов для того, чтобы сознание умершего можно было пересадить в искусственное тело в будущем; проектирование гигантских дирижаблей; изобретение порошкового заменителя пищи, названного в честь научно-фантастического фильма «Зеленый сойлент» (Soylent Green), или производство летающих машин. Все эти идеи, безусловно, креативны; кроме того, в жизни важно оставить место мечтам, так же важно, как не воспринимать всерьез безумные идеи. Необходимо быть внимательными. Тот факт, что кто-то совершил прорыв в математике или заработал кучу денег, совсем не означает, что мы должны прислушиваться к ним, когда они убеждают нас в реальности пришельцев или говорят, что в будущем будет возможно оживлять людей, поэтому необходимо хранить мозги умных людей в огромных холодильниках вроде тех, в которых лежат овощи в магазинах Costco. (Минский состоял в научно-экспертном совете Alcor Cryonics — фонда для обеспеченных и истинных приверженцев «трансгуманизма», имеющего в Аризоне морозильную камеру, где хранятся тела и мозги. Многомиллионное обеспечение фонда гарантирует стабильное снабжение электричеством.)

Подробнее читайте:
Бруссард М. Искусственный интеллект: Пределы возможного / Мередит Бруссард ; Пер. с англ. [Екатерины Арье] — М. : Альпина нон-фикшн, 2020. — 362 с.