Технологии против человека Герд Леонгард читать онлайн бесплатно

Герд Леонгард

Технологии против человека

Предисловие

Книга «Технологии против человека» приподнимает завесу над важнейшими вызовами, которые сегодня стоят на пути развития нашей цивилизации. В ней обсуждаются неотложные вопросы о роли человека в мире экспоненциально развивающихся технологий: искусственного интеллекта, больших данных, виртуальной и дополненной реальности, редактирования генома, интернета вещей, роботизации, автоматизированного производства. Ее автор Герд Леонгард — известный футуролог и ведущий эксперт по потребительским трендам будущего. На страницах книги он подробно описывает возможные этические, экономические и социальные последствия широкого внедрения экспоненциальных технологий на нашей планете.

Появление первых электронных компьютеров в середине XX века стимулировало писателей-фантастов к моделированию гипотетического будущего. Спустя всего лишь несколько десятков лет многие казавшиеся нереальными идеи либо уже реализованы (интернет, беспилотные дроны, мобильная связь и прочее), либо проглядываются в проектах, над которыми в настоящий момент работают крупные технологические компании и ведущие научно-исследовательские учреждения по всему миру (чтение мыслей с помощью когнитивных технологий, цифровой двойник человека, нейрообучение) [См. также статью Григория Анатольевича Кабатянского в журнале «Наука и жизнь» (2017, № 8), в которой обсуждаются эволюции идей в свете истории развития цифровых технологий.].

Занявшись описанием будущего на страницах своих произведений, известные писатели вскоре поняли опасности новых технологий. Для многих угрозы, связанные с техническим прогрессом, послужили дополнительным стимулом к творчеству. Так, Станислав Лем в циклах фантастических рассказов «Из воспоминаний Иона Тихого» и «Звездные дневники Иона Тихого» более полувека назад в полушутливой форме обозначил большинство обсуждаемых в настоящей книге проблем (преобладание искусственно созданного разума над человеческим; законодательные вопросы, которые связаны с развитием искусственного интеллекта; клонирование человеческого разума в цифровой форме и др.). Другой великий фантаст, Айзек Азимов, одним из первых начал широкое обсуждение этических вопросов, вызванных роботизацией, суперкомпьютерами и искусственным интеллектом. Этическим аспектам внедрения технологий автор настоящей книги уделяет особое внимание, зачастую ссылаясь на произведения Азимова.

Само по себе слово «робот» отнюдь не новое. Впервые оно появилось в 1920 году в пьесе Карела Чапека («Россумские универсальные роботы»), основной сюжет которой заключался в описании восстания искусственно созданных андроидов против человечества (в конце пьесы людской род оказался полностью уничтожен восставшими машинами). Вопрос о возможном выходе технологий из-под контроля и их конфликте с человечеством будоражил умы многих людей на протяжении столетий, что отражалось не только в научно-фантастической литературе. Рассуждения на эту тему неоднократно приводили мыслителей к апокалиптическим прогнозам, к беспокойству о трагическом финале человечества вследствие технологического прогресса.

В книге «Технологии против человека» автор поднимает все выше упомянутые темы уже на новый уровень обсуждения — в контексте современной эпохи, когда многие смелые идеи фантастов прошлого стали повседневной реальностью миллиардов людей (мобильная беспроводная связь, видеоконференции, интернет и т. д.). Отсюда крайне убедительно утверждение Леонгарда, что «наконец мы достигли точки, когда ориентированные на человека политика и стандарты, цифровая этика, социальные контракты и глобальные соглашения о гуманизации этих экспоненциальных технологий будут столь же важны, как и договоры о нераспространении ядерного оружия» (глава 12).

В своей работе автор предупреждает не только о явных опасностях, сопряженных, например, с потенциальной возможностью массированных кибератак на финансовую или энергетическую систему. На мой взгляд, одним из самых важных пунктов в книге Леонгарда является предупреждение о менее заметных и тем самым более опасных проблемах, которые связаны с тем, что «мы скоро можем стать совершенно бесполезными без технологий — медленными, несовершенными, тупыми, убогими, ленивыми и страдающими ожирением» (глава 12). Действительно, история показывает, что с технологическими угрозами человечество, как правило, справлялось и справляется до сих пор. Хорошие примеры тому приводил в своих интервью академик Сергей Петрович Капица [См. например, одно из его последних интервью для журнала «Сноб» (2012): https://snob.ru/magazine/entry/49621.]. Стоит отметить, что Сергей Петрович и его коллеги (Сергей Павлович Курдюмов, Григорий Геннадьевич Малинецкий и др.) очень многое сделали для создания теории научного прогнозирования поведения сложных социальных систем, в том числе и таких масштабных, как человечество, на основе базовых принципов синергетики — науки о самоорганизации в сложных системах. Подробнее с данной темой можно ознакомиться, прочитав книгу «Синергетика и прогнозы будущего» [С. П. Капица, С. П. Курдюмов, Г. Г. Малинецкий. Синергетика и прогнозы будущего. М.: Эдиториал УРСС, 2003.] и последующие работы ее авторов, где с позиций синергетики и нелинейной динамики рассматриваются модели устойчивого развития как отдельных стран, так и человечества в целом. Исходя из этих исследований, можно сделать вывод, что при условии сохранения некоего критического количества людей на планете, владеющих логическим мышлением и достаточным знанием в комбинации с доброй волей, человечество справится с любыми угрозами технологической природы.

Однако если люди потеряют свои «главные человеческие качества, такие как конфиденциальность, тайна, анонимность, эмоции, спонтанность, удивление, интуицию, воображение и духовность» (глава 12) и, таким образом, перестанут быть людьми, то человечество может скоро исчезнуть с лица Земли в первую очередь как социальный феномен, а вскоре и вовсе как биологический вид. В этом-то и кроется основная опасность тех новых технологий, которые приходят практически каждый день в нашу повседневность. За тот комфорт, который они приносят, мы можем заплатить высокую цену. Будет уместно вспомнить сказку Карло Коллоди «Приключения Пиноккио», где описывается Страна развлечений — место, в котором можно «довольствоваться только игрой» и увеселениями. Однако невеселый итог пребывания длительное время в праздности — это превращение в осла. Поэтому сложно не согласиться с Леонгардом в его положении: «Если мы хотим оставаться „естественными людьми“, несмотря на мощные приманки волшебных технологий; если мы хотим сохранить то, что действительно делает нас счастливыми, а не только то, что заставляет нас функционировать, мы должны принять меры, пока еще есть пространство для маневра» (глава 12).

В своей работе автора формулирует ряд основных принципов для «обсуждения наилучших путей продвижения вперед», которые, на его взгляд, помогут вывести человечество на путь устойчивого и гармоничного развития без отказа от благ технологического прогресса.

Во многом идеи, изложенные в данной книге, перекликаются с идеями, обсуждаемыми в рамках глобальной инициативы IEEE Global Initiative по этическим рекомендациям для искусственного интеллекта и автономных систем [См.: http://standards.ieee.org/develop/indconn/ec/autonomous_systems.html.]. Эта инициатива является программой Института электротехники и электроники (IEEE), крупнейшей в мире технической профессиональной организации, насчитывающей более 400 000 членов в более чем 160 странах. Деятельность IEEE посвящена продвижению технологий на благо человечества [https://ethicsinaction.ieee.org.].

В результате напряженной работы международного коллектива из более 100 специалистов разных областей науки появился проект документа под названием «Рекомендации для этически обоснованного проектирования. Концепция взаимодействия людей с искусственными интеллектом и автономными системами с приоритетом человеческих ценностей» [См. русскоязычный вариант документа по ссылке: http://standards.ieee.org/develop/indconn/ec/ead_executive_summary_russian_v1.pdf.]. Со стороны Российской Федерации в этом проекте участвовала рабочая группа, координируемая Павлом Михайловичем Готовцевым, заведующим лабораторией в НИЦ «Курчатовский институт» [См. его статью об этике искусственного интеллекта на сайте N+1: https://etika.nplus1.ru/programmer/ai-ethics.]. Программа IEEE по этическим рекомендациям для искусственного интеллекта и автономных систем уже привлекла большое внимание со стороны видных мировых политических и культурных организаций. Создание этого документа служит хорошим примером того, что предлагаемый Леонгардом подход по вынесению социальных и этических проблем, связанных с экспоненциальными технологиями, на общепланетарный уровень обсуждения может действительно привести к положительным сдвигам в обществе. Поэтому я вслед за автором книги призываю читателей вступить в «Команду людей» и «не поддаваться искушению предпочесть технологическое волшебство, т. е. великолепное моделирование реальности, самой реальности».

С глубокой благодарностью Григорию Анатольевичу Кабатянскому за обсуждение предисловия и Ксении Дмитриевне Поляковой за редактирование текста.

Максим Валериевич Федоров, профессор Сколтеха, директор Центра науки, образования и инноваций Сколтеха по научным и вычислительным технологиям для задач с большими массивами данных, директор Образовательной программы Сколтеха по наукам о данных, Сколковский институт науки и технологий (Сколтех)