Ханна Фрай
Hello World. Как быть человеком в эпоху машин
Посвящается Марии Фрай.
Спасибо тебе за то, что ты никогда не говоришь “нет”.
Комментарий к названию книги
Когда мне было семь лет, папа принес нам с сестрами подарок. Миниатюрный восьмиразрядный ZX Spectrum — это был наш первый собственный компьютер. Он попал к нам в дом подержанным и уже тогда устарел, наверное, лет на пять, но мне с первого взгляда стало ясно, что эта непритязательного вида машинка способна творить чудеса. Spectrum мало чем отличался от Commodore 64, при том что этой игрушкой в нашей округе могли похвастаться только детки богачей, но для меня, безусловно, наш был гораздо круче. Гладкий черный корпус удобно лежал в руках, радужная полоска, отсекающая уголок, и серые резиновые кнопочки выглядели очень симпатично.
ZX Spectrum, словно памятная вешка, обозначил начало незабываемого лета, которое мы с сестрой провели на чердаке, играя на компьютере в виселицу — загадывая друг другу слова и рисуя немудреные картинки с помощью кода. Впрочем, на столь “продвинутый” уровень мы вышли позже. Сперва надо было освоить азы.
Сейчас я не могу вспомнить, когда именно я написала свою первую программу, но точно знаю, что это была за программа. Очевидно, это была та же простая задача, которую я теперь задаю всем своим студентам в Университетском колледже Лондона, — вы наверняка найдете ее на первых страницах любого учебника по программированию для начинающих. Ибо для всех, кто хоть как-то учился программированию, это уже стало традицией, можно сказать, обрядом инициации. Любой новичок получит задание написать на экране знаменитое приветствие:
HELLO WORLD
Впервые это упражнение предложил в своей знаменитой книге [Brian W. Kernighan and Dennis M. Ritchie. The C Programming Language (Upper Saddle River, NJ: Prentice-Hall, 1978). (Керниган Б., Ритчи Д. Язык программирования С. М.: “Вильямс”, 2017). // Слово «питчинг» (от англ. pitch — выставлять на продажу, делать подачу, закидывать удочку) в российскую реальность вошло достаточно недавно, в середине нулевых годов. Питчингом называют короткую презентацию кинопроекта, которую сценарист/режиссер/продюсер устраивают потенциальному инвестору, желая заинтересовать его своей идеей и получить финансирование. — Прим. ред. ] Брайан Керниган еще в семидесятых годах прошлого века, и с тех пор оно вошло в традицию. Эта книга — и, следовательно, фраза — указывает на переломный момент в истории компьютеров. Только что появились микропроцессоры, ознаменовавшие переход от прежних ЭВМ с перфокартами и перфолентами — гигантских профессиональных машин — к чему-то более похожему на привычные нам персональные компьютеры с монитором, клавиатурой и мигающим курсором. Как только мы научились обмениваться репликами с компьютером, на экране вспыхнуло приветствие HELLO WORLD.
Позже в интервью журналу Forbes Брайан Керниган рассказал, почему он выбрал именно эту фразу. В одном мультфильме он увидал сценку, где только что вылупившийся из яйца — цыпленок пропищал: “Hello world!”, и эти слова засели у него в голове.
Не вполне ясно, что здесь должен символизировать цыпленок — энергичного юнца, радостно возвестившего о своем решительном старте в программировании? Или сам компьютер, словно в полусне обрабатывавший таблицы и текстовые документы и теперь получивший новый заряд бодрости, чтобы подключить свой разум к живому миру и приступить к выполнению приказов нового хозяина? Возможно, и то и другое. Одно ясно: эти слова объединяют всех программистов и устанавливают контакт между человеком и запрограммированной — машиной.
Эта фраза нравится мне еще и по другой причине, в наши дни особенно веской и значимой. Поскольку наше будущее все больше зависит от компьютеров и компьютерных программ, дружеское приветствие напоминает нам о важности диалога человека и машины. О том моменте, когда между оператором и подконтрольной ему системой возникает неощутимая связь. Эти слова говорят о том, что мы начинаем налаживать партнерские отношения и пускаемся в совместное странствие по жизни, в котором друг без друга не обойтись.
В эру компьютеров упускать из виду этот тезис нельзя.
Введение
Все, кто хоть раз в жизни посетил Джонс-Бич на Лонг-Айленде, по пути к океану должны были проследовать под целой серией мостов. Предназначенные для съезда с автомагистрали и въезда на нее, эти мосты имеют одну удивительную особенность. Их элегантные арки очень низко нависают над машинами — кое-где просвет между сводом и дорожным полотном меньше трех метров.
Для столь странного конструкторского решения были основания. В 1920-х годах влиятельный нью-йоркский чиновник Роберт Мозес имел твердые намерения сохранить для богатых белых американцев свой новый, только что обустроенный, отмеченный наградами парк Джонс-Бич. Мозес понимал, что его целевая аудитория отправится к морю на личных автомобилях, в то время как темнокожая беднота воспользуется автобусом, поэтому он нарочно ограничил въезд, построив на протяжении всего шоссе сотни низеньких мостов. Слишком низких для того, чтобы под ними прошел четырехметровый автобус [Robert A. Caro, The Power Broker: Robert Moses and the Fall of New York (London: Bodley Head, 2015), p. 318.].
Но расистские мосты — не единственные бездушные, немые контролеры, способные тайно управлять людьми. История знает множество случаев, когда предметы и технические инновации обретали власть, которой им на самом деле никто не давал [На эту тему написаны изумительные эссе, советую почитать. Например: Langdon Winner, Do artifacts have politics? Daedalus, vol. 109, no. 1, 1980, pp. 121–136, https://jstor.org/stable/20024652, где описаны мосты Мозеса. И ближе к современности: Kate Crawford, Can an algorithm be agonistic? Ten scenes from life in calculated publics, Science, Technology and Human Values, vol. 41, no. 1, 2016, pp. 77–92.]. Бывало, что конструкторы вынашивали какие-то недобрые планы и умышленно добавляли такие свойства, но случался и простой недосмотр — вспомните хотя бы о нехватке в городе удобных пандусов для инвалидных колясок. Последствия могли быть самыми неожиданными, как в случае с ткацкими станками девятнадцатого столетия. Эти машины создали для того, чтобы упростить производство тканей со сложным рисунком, а в итоге заработки, условия труда и занятость рабочих изменились так, что станки превратились в гораздо более жестоких эксплуататоров, чем любой капиталист в викторианской Англии.
Не лучше обстоят дела и с современными изобретениями. Спросите жителей английского городка Сканторпа, которым крупнейший интернет-провайдер AOL заблокировал аккаунты, потому что название города не удовлетворяло новому фильтру ненормативной лексики [Scunthorpe Evening Telegraph, 9 April 1996.] [В английском названии города Scunthorpe выделяется нецензурное слово cunt. (Прим. перев.)]. Или нигерийца по имени Чуквуэмека Афигбо, обнаружившего, что автоматический диспенсер жидкого мыла не реагирует на темную кожу, хотя аккуратно выдает положенную порцию на подставленные руки его белого друга. Или Марка Цукерберга, которому в 2004 году, когда он писал код новой соцсети Facebook в кампусе Гарвардского университета, и в голову не могло прийти, что его детище обвинят в содействии манипулированию выборами по всему миру [Чуквуэмека Афигбо (@nke_ise) опубликовал в Twitter короткое видео с этим эффектом. Если вы еще не видели его, стоит посмотреть. Можно и в YouTube: https://youtube.com/watch?v=87QwWpzVy7I.] [Из интервью Марка Цукерберга CNN: I’m really sorry that this happened, YouTube, 21 марта 2018, https://youtube.com/watch?v=G6DOhioBfyY.].
В основе каждого такого изобретения лежит тот или иной алгоритм. Ленты соцсетей и поисковики, спутниковая навигация, программы подбора музыки — все это и многое другое держится на алгоритмах, невидимых фрагментах кода, винтиках и шестеренках современных технологий, и в наши дни алгоритмы — это такая же неотъемлемая часть инфраструктуры, как и привычные мосты, дома и фабрики. Алгоритмы работают в больницах, залах судебных заседаний и автомобилях. Они используются в полиции, супермаркетах и на киностудиях. Они знают, что мы любим и что ненавидим, диктуют нам, что смотреть, что читать и с кем встречаться. И при этом они обладают тайной властью, вынуждая нас исподволь, почти незаметно для себя менять представления о том, что значит быть человеком.
В этой книге мы откроем для себя самые разнообразные алгоритмы, которым мы всё больше доверяем, хотя порой и безотчетно. Мы самым внимательным образом изучим их предназначение, посмотрим, какой еще властью они наделены и какие они ставят новые проблемы. Мы увидим, по каким алгоритмам полицейские решают, кого следует арестовать, и нам придется выбирать, что для нас дороже — защита жертв преступлений или невиновность обвиняемых. Мы узнаем, на какие алгоритмы опираются судьи при вынесении приговоров преступникам — и всерьез задумаемся о том, каким должно быть правосудие. Познакомимся с алгоритмами, которые управляют беспилотными автомобилями (и заставляют нас внятно прописывать нравственные нормы), помогают медикам проверять диагнозы, влияют на наши чувства и несут в себе угрозу — демократии.
Я вовсе не утверждаю, что зло заложено в самих алгоритмах. На этих страницах вы найдете массу причин для оптимизма. Ни одна вещь и ни одна программа сами по себе ни плохие, ни хорошие. Важно, как их применяют. GPS придумали для наведения ядерных ракет, а теперь этой системой пользуются разносчики пиццы. Поп-музыка на бесконечном повторе стала орудием пытки. И даже самой прекрасной цветочной гирляндой при большом желании можно задушить человека. Чтобы составить мнение об алгоритме, необходимо разобраться во взаимоотношениях человека с компьютером. Каждый компьютер связан неразрывными узами со своими создателями и пользователями.
В сущности, отсюда следует, что эта книга — о людях. О том, кто мы, куда мы движемся, что для нас важнее всего и как на все это влияют новые технологии. О наших отношениях с вездесущими алгоритмами, которые работают вместе с нами, повышают наши возможности, исправляют наши ошибки, решают наши проблемы и заодно создают нам новые.
Это книга о том, насколько вообще полезны для общества компьютерные программы. О том, когда стоит согласиться с верховенством машины в принятии решения, а когда лучше побороть в себе соблазн свалить ответственность на нее. О том, как проникнуть в тайны работы алгоритма и узнать, где заканчиваются его возможности, о том, что мы должны внимательно посмотреть на себя и разобраться в себе. О том, как отделить добро от зла и решить, в каком мире мы хотим жить.
