Эндрю Макафи, Эрик Бриньолфсон

Машина, платформа, толпа. Наше цифровое будущее

Семье Макафи из Бетесды, Мэриленд. Дэвид, Шеннон, Амелия, Аврора и Эйвери Мэй, спасибо, что позволяли мне какое-то время оставлять часть денег на покерном столе

Энди

Моей матери Маргерит, улыбки, любовь и неизменная вера которой поддерживают меня

Эрик

Глава 1. Тройная революция

Эти параллели достаточно близки и очевидны, чтобы быть почти уверенным в том, что, как и в случае предыдущих промышленных революций, основное воздействие информационной революции на общество будущего все еще впереди.

Питер Друкер [Питер Друкер (1909–2005) — американский экономист и публицист. В статье «Путь вперед» он писал о «запаздывании» воздействия: как промышленная революция, вызванная паровым двигателем Уатта, не привела к большим социальным изменениям, пока не были созданы железные дороги, так и изобретение компьютера не обеспечило информационной революции, пока спустя сорок лет не появился интернет. Прим. перев. // Здесь и далее все постраничные сноски даются в квадратных скобках [№]. Примечания, написанные переводчиком, даны с пометой перев.; примечания, сделанные редактором, — с пометой ред.; авторские примечания — без какой-либо пометы.], 2001 г.

Компьютеры и го

Людям всегда было трудно научиться хорошо играть в го, а научить этому компьютер казалось и вовсе невозможным.

Игра го построена на чистой стратегии, в ней нет места везению [Специалист по теории игр назвал бы го детерминированной игрой с полной информацией.]. Она была создана в Китае минимум 2500 лет назад [Alan Levinovitz, “The Mystery of Go, the Ancient Game That Computers Still Can’t Win,” Wired, May 12, 2014, https://www.wired.com/2014/05/the-world-of-computer-go.]. Играют в нее два человека: один белыми камнями, другой черными, — по очереди выставляя их на пересечения линий решетки размером 19 × 19 (пунктов). Если группа камней или один камень лишаются всех точек свободы, то есть незанятых соседних пунктов по горизонтали и вертикали — а такое, как правило, происходит, когда они оказываются окружены камнями противоположного цвета, — то считаются захваченными и снимаются с доски. Побеждает [Игра заканчивается, когда оба игрока согласны, что у них больше нет эффективных ходов.] игрок, который захватил большую территорию.

Те, кому нравится стратегия, любят и го. Конфуций говорил, что «благородные мужи не должны тратить время на простые игры — они должны изучать го» [American Go Association, “Notable Quotes about Go,” accessed January 11, 2017, http://www.usgo.org/notable-quotes-about-go.]. Во многих кругах го ставят выше, чем шахматы — сложную стратегическую игру для двух человек, победа в которой не зависит от удачи. Гроссмейстер Эдуард Ласкер [Эдуард Ласкер (1885–1981) — немецкий, а позже американский шахматист, международный мастер. Пропагандист го, один из основателей Американской ассоциации го. Прим. перев.] заметил: «Тогда как вычурные правила шахмат могли быть созданы только людьми, правила го настолько элегантны, органичны и строго логичны, что иные разумные формы жизни, если они существуют где-то во Вселенной, почти наверняка играют в эту игру» [American Go Association, “Notable Quotes about Go,” accessed January 11, 2017, http://www.usgo.org/notable-quotes-about-go.].

Очевидная простота игры скрывает сложность, которую даже трудно осознать. Большая доска и широкий выбор мест, куда можно ставить камни, приводят к числу 2 × 10170 (к двойке со 170 нулями) [Mike James, “Number of Legal Go Positions Finally Worked Out,” I Programmer, February 3, 2016, http://www.i-programmer.info/news/112-theory/9384-number-of-legal-go-positions-finally-worked-out.html.] — столько в го позиций. Насколько велико это число? Вот вам очень приблизительный ориентир. Наблюдаемая Вселенная содержит примерно 1082 атомов [John Carl Villanueva, “How Many Atoms Are There in the Universe?” Universe Today, December 24, 2015, https://www.universetoday.com/36302/atoms-in-the-universe/.]. Если бы каждый из них стал Вселенной размером с нашу, то число возможных позиций в го по-прежнему было бы больше, чем количество атомов во всех этих вселенных.

ИГРА, КОТОРУЮ НИКТО НЕ В СИЛАХ ОБЪЯСНИТЬ

Каким образом лучшие мастера го ориентируются в безумной сложности игры и делают хорошие ходы? Никто не знает, даже сами игроки. Они изучили некоторый набор эвристических приемов и стараются их придерживаться [Многие эвристические приемы в го весьма расплывчаты — например, «не используйте плотность для занятия территории».]. Но этим все и ограничивается — даже мастера часто затрудняются объяснить свою стратегию. Майкл Редмонд, один из немногих игроков неазиатского происхождения, достигших высшего ранга в игре, поясняет: «Я вижу ход и уверен в его правильности, но я не могу сказать вам точно, как я это узнаю. Я просто вижу» [Levinovitz, “Mystery of Go.”].

Дело не в том, что игроки в го косноязычны. Просто у всех нас нет полного доступа к собственным знаниям. Когда мы распознаем чье-то лицо или едем на велосипеде, мы не способны четко объяснить, как и почему делаем то или другое. Трудно изложить скрытое знание. Такое состояние прекрасно описал Майкл Полани [Майкл Полани (1891–1976) — британский физик, химик и философ венгерского происхождения. Процитированные слова связаны с его концепцией «личностного знания». Прим. перев.]: «Мы знаем больше, чем способны рассказать».

Парадокс Полани, назовем его так, был серьезным препятствием для всех, кто попытался построить компьютер, играющий в го. Как написать программу, основанную на оптимальных стратегиях игры, когда никто из людей не в силах сформулировать стратегии? Можно запрограммировать некоторые эвристические правила, но это не обеспечит победу над сильными игроками, выходящими за их рамки, но не способными объяснить, как они это делают.

Чтобы ориентироваться в сложных средах, например во всех возможных позициях игры го, разработчики часто опираются на моделирование. Они пишут программы, которые делают ход, выглядящий хорошим, затем исследуют все разумные ответы противника на него, все разумные ответы на каждый такой ответ и так далее. В конечном счете обычно выбирается тот ход, что обеспечивает больше всего хороших вариантов и меньше всего плохих. Однако из-за того, что существует такое огромное количество возможных партий в го — так много вселенных, ими полных, — у вас получится смоделировать ничтожно малую их долю, будь у вас хоть цех, полный суперкомпьютеров.

Вследствие недоступности ключевых знаний и неэффективного моделирования прогресс у программистов, занимавшихся го, шел медленно. Давая характеристику нынешней ситуации с компьютерами, играющими в го, и ожидаемым перспективам, профессор философии Алан Левиновиц заключил в мае 2014 года в журнале Wired: «Может оказаться, что появление в течение десяти лет компьютера-чемпиона — слишком оптимистичный прогноз» [Levinovitz, “Mystery of Go.”]. Статья в Wall Street Journal, написанная в декабре 2015 года профессором психологии Крисом Чабрисом, ведущим в журнале колонку об играх, называлась «Почему го по-прежнему не дается компьютерам».

ПРЕОДОЛЕНИЕ ПАРАДОКСА ПОЛАНИ

В научной статье, опубликованной буквально в следующем номере Wall Street Journal (в январе 2016 года), рассказывалось о компьютере, который уже нельзя одурачить. Группа из лондонской компании DeepMind, принадлежащей Google и специализирующейся на машинном обучении (эту область искусственного интеллекта мы обсудим в главе 3), опубликовала статью «Освоение игры го с помощью нейронных сетей и поиска по дереву» [David Silver et al., “Mastering the Game of Go with Deep Neural Networks and Search Trees,” Nature 529 (2016): 484–89, http://www.nature.com/nature/journal/v529/n7587/full/nature16961.html.], и престижный журнал Nature сделал ее темой номера. Статья описывала программу AlphaGo, которую создатели научили играть в го, обойдя парадокс Полани.

Они не пытались напичкать программу лучшими стратегиями и эвристическими правилами. Вместо этого они создали систему, самообучающуюся в ходе анализа игровых позиций во множестве партий. AlphaGo должна была замечать в большом количестве данных мельчайшие паттерны и связывать действия игроков, например постановку камня на конкретное место, с результатами, скажем с выигрышем [В этой книге, говоря о технологиях, мы будем употреблять слова, которые обычно обозначают человеческие действия: «замечать», «изучать», «видеть» и т. п. Мы считаем, что это правильный способ передать происходящее, хоть компьютеры и не мыслят как люди. Мы отдаем себе отчет, что этот прием непопулярен в определенных кругах, где принято считать: «Не надо очеловечивать компьютеры — им это очень не нравится».].

Дав программе доступ к тридцати миллионам позиций, записанных в онлайновом хранилище, ей, по сути, сказали: «Используй их и выясни, как выигрывать». AlphaGo также сыграла множество партий против самой себя, сгенерировав еще 30 миллионов позиций, которые затем проанализировала. Во время игры система вела моделирование, однако весьма узкое: она использовала знания, полученные от изучения миллионов позиций, чтобы моделировать только те ходы, которые, по ее мнению, вели к победе с наибольшей вероятностью.

Работа над AlphaGo началась в 2014 году [John Ribeiro, “AlphaGo’s Unusual Moves Prove Its AI Prowess, Experts Say,” PC World, March 14, 2016, http://www.pcworld.com/article/3043668/analytics/alphagos-unusual-moves-prove-its-ai-prowess-experts-say.html.]. К октябрю 2015 года она была готова к тестированию. AlphaGo — какое-то время это держалось в тайне [Матч был сыгран в октябре 2015 года, а результаты объявлены в январе 2016 года после вышеуказанной статьи в Nature. Прим. перев.] — сыграла матч из пяти партий с Фань Хуэем, который тогда был чемпионом Европы, и выиграла со счетом 5:0.

Победа компьютера в го на таком высоком уровне, оказавшаяся для всех неожиданной, произвела впечатление на сообщество ученых и разработчиков в области искусственного интеллекта. Практически все аналитики и комментаторы назвали достижение AlphaGo настоящим прорывом. Однако начались споры о масштабе победы. Нейробиолог Гэри Маркус заметил: «В Европе го едва ли является спортом, и этот чемпион занимает в мировом рейтинге всего 633-е место. Победу робота над 633-м в рейтинге профессиональным теннисистом тоже назвали бы впечатляющим достижением, однако неверно было бы говорить, что он достиг мастерства в игре» [Silver et al., “Mastering the Game of Go.”].

Команда DeepMind, очевидно, сочла замечание справедливым, поскольку бросила вызов Ли Седолю, предложив сыграть матч из пяти партий в Сеуле в марте 2016 года. Многие считали Седоля лучшим игроком в го на планете [К августу 2016 года 33-летний Седоль уже обладал восемнадцатью международными титулами. Его превосходит только Ли Чхан Хо, у которого 21 титул; он на восемь лет старше Седоля.] и одним из лучших, которых помнят современники. Его стиль характеризовали как «интуитивный, непредсказуемый, творческий, напряженный, неистовый, запутанный, глубокий, стремительный, спонтанный» [Sam Byford, “Google vs. Go: Can AI Beat the Ultimate Board Game?” Verge, March 8, 2016, http://www.theverge.com/2016/3/8/11178462/google-deepmind-go-challenge-ai-vs-lee-sedol.]. Эти качества, по мнению самого Седоля, давали ему преимущество перед любым компьютером. Он говорил: «В игре го есть красота, и я не думаю, что машины ее понимают… Я считаю, что человеческая интуиция слишком совершенна, чтобы искусственный интеллект мог достичь чего-то подобного» [Sam Byford, “Google vs. Go: Can AI Beat the Ultimate Board Game?” Verge, March 8, 2016, http://www.theverge.com/2016/3/8/11178462/google-deepmind-go-challenge-ai-vs-lee-sedol.]. Седоль предположил, что выиграет минимум четыре партии из пяти, заметив: «Что касается матча в октябре, мне кажется, что уровень AlphaGo не соответствует моему» [“S. Korean Go Player Confident of Beating Google’s AI,” Yonhap News Agency, February 23, 2016, http://english.yonhapnews.co.kr/search1/2603000000.html?cid=AEN20160223003651315.].

Партии между Седолем и AlphaGo привлекли огромное внимание общественности в Корее и других странах Восточной Азии. AlphaGo выиграла первые три партии, обеспечив себе победу во всем матче. Седоль взял верх в четвертой встрече. Его победа дала кое-кому из наблюдателей надежду, что человеческий ум обнаружил недостатки цифрового противника, которые Седоль мог бы использовать в дальнейшем. Если это и было правдой, то все равно не помогло Седолю в следующей партии. AlphaGo снова выиграла, завершив матч со счетом 4:1 в свою пользу.

Седоль счел матч изматывающим и после поражения сказал: «Я ощущаю своего рода бессилие… У меня огромный опыт игры в го, но никогда не было случая, чтобы я чувствовал такой напор со стороны противника» [Jordan Novet, “Go Board Game Champion Lee Sedol Apologizes for Losing to Google’s AI,” VentureBeat, March 12, 2016, http://venturebeat.com/2016/03/12/go-board-game-champion-lee-sedol-apologizes-for-losing-to-googles-ai.].