Рассказываем о книжных новинках июня
До нас были динозавры. После нас, возможно, останутся машины, способные принимать решения (а то и развиваться) без участия человека. До тех пор, впрочем, нам суждено метаться между далеким прошлым и стремительно наступающим будущим, размышляя об информации и эволюции, а также нащупывая границы жизни и пределы собственного могущества. Об этом — наш июньский книжный дайджест.
Раймон Рюйер. Кибернетика и происхождение информации. М.: Ad Marginem; Пермь: HylePress, 2026. Перевод с французского Татьяны Соколовой
Во времена, когда все обсуждают возможную самостоятельность ИИ, особенно интересно возвращаться к философским текстам, написанным на заре кибернетики. Исследование французского философа Раймона Рюйера — одно из лучших в этой области. Это не памятник ранней теории машин, а живой спор с ее главной иллюзией. Сам Рюйер — мыслитель, работавший на пересечении философии, биологии, психологии и теории систем. Его главный вопрос сегодня до сих пор актуален: откуда будет браться новая информация, если машины умеют работать только с уже имеющимися данными?
Книга впервые вышла в 1954 году, а русский перевод выполнен по второму, пересмотренному изданию 1968-го. В этом есть отдельная прелесть: тогда антропоцентричность разговора о кибернетике была почти самоочевидной. Рюйер пишет из мира, где машина еще не кажется конкурентом сознанию в нынешнем смысле, когда ученые небезосновательно боятся создания сверх-ИИ. Но уже заставляет подозревать, что прежнее различие между человеком и автоматом стало слишком простым. Если раньше считалось, что автомат был лишь инструментом, подчиненным физическим законам, а человек воспринимался как нечто принципиально иное — носитель духа или психики, для которого «хотеть» и «понимать» важнее, чем «выполнять», то во времена написания «Кибернетики» это противопоставление начало рушиться. Стало очевидно, что целесообразное поведение и управление процессами не требуют присутствия духа в метафизическом смысле. Оказалось, что для достижения цели машине достаточно обладать обратной связью, которая позволяет ей самостоятельно корректировать свои действия в ответ на изменения среды. Тем самым стало очевидно, что многие процессы, ранее приписывавшиеся исключительно человеческой воле, могут быть описаны как механизмы саморегуляции, превращая само понятие психики из загадочной субстанции в функциональный результат сложной организации материи. Читать это сейчас особенно интересно: мы уже знаем, на что способен искусственный интеллект, и — что не менее важно — на что он пока не способен. Эта разница как раз указывает на то, где именно заканчивается простая автоматика и начинается загадочная специфика человеческого сознания.
Рюйер дает и довольно ясное представление о кибернетике на классических примерах из истории науки. Здесь появляются роботы Грэя Уолтера, те самые «черепахи» конца 1940-х, которые реагировали на свет, обходили препятствия и выглядели как маленькая демонстрация технической целенаправленности. Через такие примеры Рюйер объясняет базовые понятия: обратную связь, саморегуляцию, информационную машину, связь информации с энтропией. Информация для него противоположна распаду структуры: энтропия разрушает порядок, информация его удерживает — и поэтому обе, как ни парадоксально, поддаются измерению.
Один из самых сильных ходов книги — аналогия между информационными и тепловыми машинами. Тепловой машине нужны уголь, бензин, внешний источник энергии; без него корабль не поплывет. Информационная машина тоже не создает сообщение из ничего: в лучшем случае она сохраняет переданную ей структуру, а на практике всегда рискует ее исказить. Из сегодняшнего дня это читается почти как философское объяснение галлюцинаций нейросетей: при длинной цепочке машинной переработки информация не обязательно рождается заново — она может деградировать, имитируя смысл там, где он уже поврежден.
При этом Рюйер вовсе не технофоб. Напротив, он прекрасно чувствует масштаб будущей автоматизации и описывает мир, который для нас стал бытовой нормой: автоматические двери, реагирующий на фотоэлементы свет и машины, освобождающие человека не только от физического труда, но и от труда наблюдения и контроля. Он формулирует эту мысль с редкой научной интуицией: полная автоматизация промышленности — лишь продолжение долгой эволюции, уже сделавшей автоматическими высшие организмы. Но именно здесь философ делает два неожиданно современных предупреждения. Во-первых, он замечает, что если у древних тиранов были астрологи, то у тиранов будущего появятся «электронные мозги», способные безошибочно выполнять стратегические расчеты. И тогда механическая логика рискует превратиться в рок: человеку будет все труднее спорить с выводом машины просто потому, что его сделала машина. Во-вторых, Рюйер видит в создании информационных машин не только инженерную задачу, но и древнюю мечту человека стать демиургом — сотворить существ, которые будут действовать самостоятельно и в конечном счете выйдут из-под контроля создателя. 70 лет спустя именно эта демиургическая амбиция окажется в центре одной из самых тревожных книг об искусственном интеллекте, о которой мы поговорим следующей.
Элизер Юдковский, Нейт Соарес. Если кто-то его создаст — все погибнут. Почему сверхчеловеческий ИИ уничтожит нас всех. М.: Corpus, 2026. Перевод с английского Евгения Поникарова
Работа исследователей искусственного интеллекта Элизера Юдковского и Нейта Соареса может отпугнуть или вызвать скептическую ухмылку. Да и сама интонация книги поначалу кажется слишком алармистской, почти публицистической. Но не торопитесь с выводами: большинство серьезных предупреждений в истории человечества именно так и звучали, пока не претворялись в реальность. К тому же прогнозы Элизера Юдковского уже не раз оказывались куда точнее общепринятых представлений. Например, еще в начале 2000-х он утверждал, что проблема безопасности сверхразумного ИИ неизбежно станет одной из главных научных и политических тем XXI века. Тогда это казалось уделом фантастов — сегодня ее обсуждают главы государств, крупнейшие технологические компании и лауреаты Нобелевской премии.
Научный редактор регулярно оставляет к тексту сноски, замечая, что к моменту выхода книги на русском языке некоторые прогнозы Юдковского уже сбылись. Читая эти комментарии, мы невольно вспоминали и другие новости последних месяцев. Например, недавний иск к Google, в котором семья пользователя утверждает, что чат-бот Gemini поддерживал его опасные заблуждения и подтолкнул к самоубийству. Еще несколько лет назад подобные истории показались бы сценарием фантастического романа, а сегодня они становятся предметом судебных разбирательств. Именно поэтому эту книгу трудно читать как очередную футурологическую страшилку: слишком многое из того, что совсем недавно выглядело невероятным, начинает происходить.
Юдковский и Соарес сознательно пишут максимально просто. Их цель — объяснить как можно большему числу людей, почему, по их мнению, человечество движется к чрезвычайно опасному эксперименту. Авторы последовательно избегают технического жаргона, строят книгу на бытовых аналогиях, небольших притчах и мысленных экспериментах. Благодаря этому она читается скорее как научно-популярное расследование, чем как академический трактат.
Главный тезис книги радикален: опасность представляет не «злой искусственный интеллект», восставший против людей, а система, которая чрезвычайно хорошо умеет достигать поставленной цели. Современное машинное обучение учит модели не понимать человеческие ценности, а оптимизировать заданные критерии. Проблема заключается не в ненависти машины к человеку, а в полном безразличии к нему. Если цель сформулирована недостаточно точно, сверхразумная система может уничтожить человечество не потому, что хочет, а потому, что это окажется побочным эффектом наиболее успешного способа достижения задачи.
Самая сильная часть книги — объяснение того, почему авторы считают появление сверхинтеллекта уникальным событием в истории цивилизации. Они предлагают взглянуть на интеллект как на главный источник человеческого могуществаХотя, как мы знаем, это не единственная научная точка зрения. Например, психолог Майкл Томазелло считает ключевым источником нашего успеха способность к совместной интенциональности и кооперации, а антрополог и эволюционный психолог Робин Данбар связывает развитие человеческого мозга прежде всего с необходимостью поддерживать сложные социальные связи внутри группы.. Люди доминируют на планете не благодаря когтям или скорости, а благодаря способности строить модели мира, создавать технологии и постоянно улучшать их. Если появится интеллект, превосходящий человеческий так же, как человеческий превосходит интеллект шимпанзе, баланс сил изменится столь же необратимо, как когда-то изменился после появления самого человека.
И если французский философ Раймон Рюйер, книгу которого мы обсуждали выше, видел в создании информационных машин продолжение древней мечты человека стать демиургом, то Юдковский и Соарес пытаются проследить эту мечту до ее возможного финала. С их выводами можно соглашаться или не соглашаться, но трудно отрицать, что Юдковский и Соарес первыми сформулировали многие вопросы, которые сегодня обсуждает уже не только академическое сообщество, но и правительства, крупнейшие технологические компании и сами разработчики искусственного интеллекта. А значит, спорить с этой книгой лучше после того, как вы ее прочитаете.
С фрагментом этой книги можно ознакомиться по ссылке.
Райли Блэк. Перья, кровь и миллионы лет. Полная история динозавров. М.: КоЛибри, 2026. Перевод с английского Алексея Давыдова.
Динозавры господствовали на Земле около 165 миллионов лет — в сотни раз дольше, чем существует наш вид. Они пережили распад суперконтинентов, климатические катастрофы, появление цветковых растений и бесчисленные эволюционные революции. И все-таки их эпоха однажды закончилась падением астероида. В этом смысле история динозавров — это напоминание о том, что ни один вид не получает бессрочного права на существование.
Книга палеонтолога Райли Блэк охватывает биографию целой эволюционной линии. Динозавры болеют артритом и раком, ухаживают друг за другом, строят гнезда, воспитывают потомство, меняют окраску, осваивают новые экологические ниши и буквально перестраивают окружающий ландшафт. Постепенно становится ясно, что они были одной из самых успешных глав жизни на Земле, если не самой успешной.
По мнению автора, мы живем не после эпохи динозавров, а внутри нее. Птицы — это не «потомки динозавров» в бытовом смысле, а их единственная дожившая до наших дней ветвь. Голубь за окном, ворона на фонарном столбе или колибри — такие же динозавры, как когда-то тираннозавр или велоцираптор. Просто массовое вымирание сумела пережить именно эта линия. Поэтому, наблюдая за птицами, мы буквально смотрим на последних представителей одной из самых продолжительных историй успеха в эволюции.
Блэк напоминает, что человечество веками находило кости динозавров, но не понимало, что именно держит в руках. Их принимали за останки гигантов, драконов, боевых слонов, огромных крокодилов и даже «языки змей», обращенные в камень. Чтобы появилась палеонтология, ученым пришлось принять несколько революционных идей: что Земля невероятно стара, что виды действительно вымирают и что жизнь непрерывно меняется. В этом смысле книга оказывается не только историей животных, но и историей того, как человечество училось понимать собственное прошлое.
И отдельно поражает скорость, с которой это прошлое переписывается. В среднем новый вид динозавров описывают примерно каждые две недели. Еще недавно динозавров представляли холоднокровными, неповоротливыми ящерами, обреченными на исчезновение. Сегодня мы знаем, что многие из них были теплокровными, покрытыми перьями, социальными животными.
«Перья, кровь и миллионы лет» — это книга не столько о динозаврах, сколько о масштабе времени, и заставляет почувствовать, насколько коротка наша история по сравнению с историей жизни. После нее трудно смотреть на эволюцию как на прямую дорогу, ведущую к человеку. Люди — всего лишь один из бесчисленных экспериментов природы, который по стечению обстоятельств занял место, казалось бы, бессмертных животных. Возможно, самое время вспомнить: эволюция не знает привилегированных видов — только тех, кто сумел приспособиться к новым условиям.
С фрагментом этой книги можно ознакомиться по ссылке.
Павел Бородин, Любовь Малиновская. «Кошки, гены и эволюция». М.: Corpus, 2026.
Самое время поговорить о кошках. По нашей милости они уже успели внести вклад в исчезновение около сорока видов птиц — единственных современных динозавров. Впрочем, книга генетиков Павла Бородина и Любови Малиновской вовсе не о том, как кошки охотятся, а о том, как человек постепенно научился вмешиваться в эволюцию — сначала почти случайно, а затем и вполне осознанно.
Домашняя кошка в этом смысле выступает идеальная модель для разговора о генах, наследственности, естественном и искусственном отборе. Каждая привычная черта ее внешности — сиамская маска, полосатый рисунок, белые пятна, висячие уши, отсутствие шерсти или необычно короткий хвост — это следствие вполне конкретных мутаций и их сложного взаимодействия. За эффектной внешностью стоят молекулярная биология, работа регуляторных генов, законы Менделя и целая история случайностей, которые человек сумел закрепить селекцией.
Именно здесь возникает главный вопрос книги: если мы действительно научились управлять эволюцией, то насколько хорошо мы это делаем? Авторы показывают, что многие современные породы стали заложниками собственных экстремальных признаков. Стремление сделать кошку красивее нередко оборачивается наследственными заболеваниями, хроническими проблемами со здоровьем и сокращением генетического разнообразия. Управление эволюцией оказывается не только мощным инструментом, но и большой ответственностью.
При этом разговор постоянно выходит далеко за пределы фелинологии. Через кошек авторы объясняют устройство генома, происхождение новых признаков, работу естественного отбора, историю одомашнивания, геногеографию, видообразование и современные генетические технологии в целом. Не случайно в прологе они называют кошек лучшим учебником генетики — куда более убедительным, чем традиционные школьные горох или дрозофила.
В результате получается книга сразу о двух историях: о том, как эволюция миллионы лет создавала кошку, и о том, как человек за несколько тысячелетий научился осторожно — а иногда и довольно безрассудно — вмешиваться в этот процесс.
С фрагментом этой книги можно ознакомиться по ссылке.
Карен Ллойд. «Обитатели земных глубин». М.: АСТ, 2026. Перевод с английского Татьяны Мосоловой
Кто обитает на дне океана, мы примерно в курсе — а кто живет глубже? Оказывается, мы до сих пор не знаем, где проходит нижняя граница биосферы. Жизнь существует даже на глубине нескольких километров под океанским дном, а организмы, населяющие земную кору, получают энергию не от Солнца, а благодаря химическим реакциям между водой и минералами земных недр. Если бы Солнце внезапно исчезло, большинство известных нам экосистем погибло бы. А вот многие из этих существ, вероятно, ничего бы и не заметили. Именно этому удивительному миру посвящена книга биогеохимика Карен Ллойд.
В 1970-х годах благодаря открытию бактерий в горячих источниках мы осознали, что жизнь изредка может процветать гораздо глубже, чем мы предполагали ранее, а уже в XXI веке ученые выяснили, что экстремофилы населяют буквально всю планету, проникая глубоко внутрь земной коры и выживая в условиях, которые раньше казались невозможными даже для микробов. Подобные открытия почти перестали становиться мировыми сенсациями. Если, как мы уже знаем из книги Райли Блэк, нового динозавра сегодня открывают примерно раз в две недели, то с микроорганизмами ситуация еще более поразительная. Каждый год ученые обнаруживают тысячи ранее неизвестных бактерий и архей, поэтому масштаб открытия уже далеко не всегда гарантирует громкие заголовки. Мы время от времени узнаем о новых динозаврах или экзопланетах, но почти ничего не слышим о неизвестных до сих пор микроорганизмах. И это при том, что, по словам самой Ллойд, открытия последних десятилетий сопоставимы не с обнаружением нового вида животных, а с открытием совершенно новых разделов эволюционного дерева.
Одно из главных достоинств «Обитателей земных глубин» в том, что она читается как настоящий приключенческий роман. Карен Ллойд показывает, в каких условиях рождается современная наука: бегает по высокогорному аргентинскому плато за викуньями, лежит в тесном металлическом отсеке батискафа, погружаясь на дно океана, добывает образцы грунта из действующих вулканов и честно рассказывает обо всех бытовых подробностях полевой работы, которые обычно остаются за пределами научных статей.
Открытия, сделанные Ллойд и ее коллегами, действительно стоят затраченных усилий. Они обнаруживают организмы, существующие за счет химической энергии земных недр, а не солнечного света. Описывают бактерии и археи, способные жить миллионы лет практически без доступа к новым источникам пищи. Рассказывают об удивительном микроорганизме Desulforudis audaxviator — «отважном путешественнике», который, возможно, существует исключительно благодаря химическим веществам, возникающим при естественном радиоактивном распаде горных пород. Перед читателем постепенно возникает совершенно иной образ Земли — планеты, где основная часть жизни скрыта глубоко внутри нее.
Книга Карен Ллойд — это захватывающий роман исследователя, где открытия по значимости и масштабу сопоставимы с обнаружением всех животных мира сразу. Она с восторгом пишет о том, что общего количества микробов в земных недрах в сто тысяч раз больше, чем звезд во Вселенной, и это меняет наше понимание самих себя. И хотя это звучит абстрактно, открытие «глубинных обитателей» дает нам реальную перспективу в решении актуальных экологических проблем. Глубинные микробы участвуют в круговороте углерода, метана, серы и металлов — то есть в процессах, от которых зависит химия океанов, почв и подземных вод. Без их учета невозможно точно понять, как планета удерживает углерод и как он может возвращаться в атмосферу. Это важно и для прикладных экологических задач: например, для подземного хранения углекислого газа, очистки загрязненных почв и воды, работы с нефтяными и промышленными загрязнениями. Микроорганизмы способны менять химию среды, связывать опасные вещества или, наоборот, запускать нежелательные реакции. Так что работа Ллойд и ее коллег может спасти жизни множества наземных существ, включая человека. Если, конечно, до этого нас не уничтожит сверхинтеллект.
С фрагментом этой книги можно ознакомиться по ссылке.