Доктор Андрей Курпатов

Четвёртая мировая война. Будущее уже рядом!

С надеждой автор посвящает эту книгу всем студентам «Академии смысла».

Не нужно быть сверхразумным искусственным интеллектом, чтобы понять: двигаться навстречу величайшему событию в истории человечества и не готовиться к этому — просто глупо.

МАКС ТЕГМАРК, Массачусетский технологический институт

Книга для интеллектуального меньшинства


абсолютно не рекомендована тем, кто готов по любому поводу оскорбиться


Наша главная слабость — в глупости, лености и самодовольстве.

В 2016 году я начал публиковать на портале «Сноб» цикл статей под общим названием «Четвёртая мировая». Они были посвящены нашему скорому и отнюдь не безоблачному будущему.

На рубеже веков человечество оказалось перед лицом новой реальности: «третья информационная волна» (Элвин Тоффлер), «четвёртая технологическая революция» (Клаус Шваб), «технологическая сингулярность» (Рэй Курцвейл).

То есть наша цивилизация трансформируется, причём фундаментальным образом. Но что мы знаем о рисках, о возможных последствиях этих перемен? Задумываемся ли мы о них всерьёз?

Мои статьи приняли тогда, в целом, положительно — сотни тысяч просмотров, много доброжелательных отзывов. Однако был и весьма характерный фон, я бы даже сказал — «душок». Мол, всех тут «доктор из телевизора» запугивает, а никакой угрозы нет: технологии, информационный бум и искусственный интеллект — это всё прекрасно, и нечего паниковать.

Кто-то говорил, что мои «пророчества» — дело столь отдалённого будущего, что даже нелепо об этом думать. Кто-то утверждал, что в реальном мире программеров и специалистов по искусственному интеллекту «всё вообще по-другому» и нечего тут «психологам» лезть с футуристическими прогнозами. Кто-то утверждал, что я и вовсе ретроград, луддит, противник прогресса и цивилизации.

Но считать меня луддитом столь же нелепо, как и называть тем самым «психологом» (я всё-таки врач-психиатр, что далеко не одно и то же). Новые технологии — это замечательно, я и правда так считаю. Однако предельно глупо, на мой взгляд, развивать технологии, которые в корне меняют среду нашего обитания, не учитывая возможные последствия для продукта этой самой среды — то есть для нас с вами.


Мы — плоть от плоти — та среда, которая нас окружает: и не только физико-химическая, но и языковая, культурная, психологическая, идеологическая — то есть собственно информационная.


В нас нет ничего «своего», мы полностью сделаны из окружающей нас среды. Допускаю, что это тяжело принять тем, кто верит в «духовный рост», «божественный замысел» и проповедует «любовь к себе», но такова правда.

• На физическом уровне мы то, что мы физически потребляем: химические вещества, находящиеся в пище, воде, вдыхаемом воздухе (грубо говоря, мы то, что мы едим, что пьём, чем дышим).

• На информационном уровне мы являемся производными той информационной среды, в которой живём, — воспитание и образование, поведенческие стереотипы в обществе, массмедиа.

Но в чём тут, вы скажете, новость?.. Если взглянуть на историю человечества, то информационная среда менялась регулярно, зачастую радикально — и никаких проблем! С чего бы им теперь вдруг возникнуть?

Да, менялась, но раньше эти изменения касались только содержания — трансформировались представления людей о мире, эволюционировали культурные паттерны и т. д. Сейчас же изменяется сама структура информационной среды.

Причём подобные структурные «фазовые переходы» человечество уже переживало — изобретение письменности, печатного станка, телеграфа, радио, синематографа. И за подобными «переходами» всегда следовала, по сути, новая эра в истории человечества.

Но посмотрите, как эти эпохи ужимаются: от момента появления письменности до печатного станка — тысячи лет, от станка до телеграфа — сотни, дальше — десятки.

Сейчас новые способы распространения информации появляются чуть ли не каждый год: интернет, электронная почта, интернет-поисковики, мобильный интернет, социальные сети и т. д., и т. п.

Можно с полной уверенностью утверждать, что ещё никогда за всю историю человечества структурные изменения в информационном поле не были столь грандиозными и значительными, как сейчас.

Информационные технологии, роботизация и уберизация, а также собственно искусственный интеллект превращаются в своеобразный экзоскелет нашего мозга, а это естественным образом приводит к неизбежной атрофии интеллектуальной функции.


С мозгами как с мышцами: если их функцию выполняет какой-то сторонний агрегат, то они медленно, но верно усыхают.


Из-за социальных сетей, эффекта постоянной подключённости («всегда на связи»), агрессивной конкуренции между производителями контента, цифровой зависимости и других новых «зол» изменилось не только количество, но и качество потребляемой нами информации.

Эта фундаментальная трансформация среды с неизбежностью приводит к нашим собственным изменениям. Но из-за когнитивных искажений мы субъективно занижаем значение происходящего: к переменам мы стали привыкать быстро, а собственных изменений не видим, потому что не с чем сравнить — всё человечество меняется разом.

Многие, впрочем, чувствуют: «что-то пошло не так». Изменения вроде бы и положительные, но вот фон — нет, какой-то странный: всё сложнее определиться с целями, жизненные перспективы выглядят какими-то туманными (если вообще просматриваются), нарастает чувство безысходности, отношения между людьми становятся всё более и более поверхностными и формальными.

...

«Технологии будут систематически менять наше понимание того, что значит быть человеком, что значит быть в социуме и что значит заниматься политикой. […] Мы действительно проходим через сдвиг парадигмы. Она замечательная всем тем, что нам даёт, но одновременно ведёт и к ненадёжности существующих структур, которые теряют свою ценность и значение. Следовательно, этот новый режим бытия требует нового мирового порядка».

НИШАН ШАХ, Центр цифровой культуры Люнебургского университета

Отражают ли эти смутные ощущения действительный масштаб перемен? Сомневаюсь. Да и вопросов больше, чем ответов… Мы до сих пор не понимаем, в чём, собственно, эти изменения заключаются, что будет с нами дальше, как изменится наше общество.

В любом случае просчёт возможных рисков, связанных с технологическим и цифровым «улучшением жизни», — это важная задача.

...

МЕДИЦИНСКИЙ ПРИМЕР

В своё время мы вмешались в естественный отбор, спасая жизни людей при помощи антибиотиков и обезболивающих при хирургических операциях. Мы хорошо лечим рак, активно развиваются протезирование и трансплантология.

Невероятные успехи достигнуты в экстракорпоральном оплодотворении, сохранении беременности и неонатальной медицине, детская смертность стала минимальной.

Современные нейролептики и антидепрессанты позволяют лицам, страдающим психическими расстройствами, вести полноценную жизнь.

Успех просто невероятный: на планете сейчас живёт больше людей, чем за всю её историю, а средняя продолжительность жизни человека лишь за один прошлый век увеличилась более чем в два раза.

Но само это благоденствие вызывает проблемы, которые пока непонятно как решать: супербактерии, рост патогенности вирусов и появление новых [Вот лишь небольшой их список: ВИЧ, заражение людей птичьим гриппом, геморрагические лихорадки (Эбола и др.), новые разновидности вирусного гепатита и т. д.], рост психических расстройств и врождённых патологий. И это, конечно, далеко не полный список…

Тех из нас, кого эволюция раньше бы выбраковала, современная медицина спасает. В геноме человечества происходит накопление предрасположенностей к самому широкому кругу болезней. И потому уже сейчас рождение ребёнка без патологий и более-менее устойчивого к болезням — что-то за гранью фантастики.

Да, достижения медицины — это замечательно (меня они особенно радуют, ведь я бы уж точно давно оказался в числе выбракованных эволюцией особей). Но есть у этой медали и обратная сторона.

Врачи думают о последствиях своего вмешательства в естественный отбор. Они осознают риски и с удвоенной силой занимаются вопросами вирусологии, иммунологии и генной терапии. Но я не видел никого, кто был бы настолько же всерьёз озабочен последствиями фундаментальной трансформации информационной среды.

Есть единичные исследователи, которые открыто говорят о возможных рисках, но их голоса, к сожалению, или игнорируются, или не выглядят достаточно убедительными. А общая реакция общества и различных его институтов вполне укладывается в формулу, с которой я начал: глупость, леность и самодовольство.

Прошло не так много времени с публикации того моего «снобовского» цикла статей, а количество «критиков» уже существенно поубавилось.

То, что казалось каким-то совершенно отдалённым будущим: машины-беспилотники,

3D-принтеры, позволяющие работать практически с любыми материалами, чипы в человеческих головах, детальная персонализация человека по его поведению в сети и т. д., — всё это уже, так сказать, в дверях.

Речь идёт не о каких-то «нюансах», а о системной проблеме: перед нами не только собственно технологические риски, но и экономические, общественно-политические, экзистенциальные.