8 и 9 декабря в «Смене» прошел десятый Зимний книжный фестиваль. В рамках мероприятия с лекцией выступил Сергей Марков, основатель портала «ХХ2 Век», специалист в области искусственного интеллекта и машинного обучения. Он рассказал о возможностях применения искусственного интеллекта в литературе, музыке и других творческих областях.

Enter обсудил с Сергеем угрозы тайного цифрового суда, вероятность восстания машин и перспективы развития искусственного интеллекта.

---

Имитация работы мозга и недостаток мощностей

Все созданные нами системы ИИ являются прикладными и способными решать только одну интеллектуальную задачу (или небольшой их набор). Таковыми являются и AlphaGo (программа для игры в Го, разработанная компанией Google DeepMind в 2015 году, — прим. Enter) и даже самая лучшая технология распознавания лиц. Универсальный искусственный интеллект — это гипотетическая разработка, которая сможет решать неопределенно широкий спектр интеллектуальных задач, подобно тому, как это делает человеческий мозг. Такую систему пока не создали, но подвижки есть. Сегодня машины справляются с более сложными задачами — например, отвечают на вопросы по картинке: на сколько кусочков нарезана пицца на рисунке, является ли она вегетарианской и так далее. Эта задача уже содержит в себе элементы универсальности.

Параллельно ученые работают над воссозданием человеческого мозга. Например, создавая так называемые «импульсные нейронные сети», специалисты по вычислительной математике совместно с нейрофизиологами создают биологически достоверные модели, которые более точно описывают энергетический обмен между клетками мозга. Большие проекты, такие как Human Brain Project, работают над созданием машин, имитирующих работу мозга.

Главная сложность в этой области — недостаток вычислительных мощностей. Как оказалось, человеческий мозг — это очень мощная и быстрая машина, и такие мы создавать пока не умеем. При этом прогресс в электронике продолжается. В 2003 году для моделирования секунды функционирования нейронной сети, сопоставимой по размеру с человеческих мозгом, Евгению Ижикевичу понадобилось пятьдесят дней расчетов на вычислительном кластере из большого количества компьютеров. С тех пор мы ускорились примерно в тысячу раз, но этого недостаточно для того, чтобы в реальном времени провести такую симуляцию. Вероятно, мы получим нужные мощности ближе ко второй половине 2020-х.

Чего боится Илон Маск: риски искусственного интеллекта

На мой взгляд, риски лежат не в той области, в которой их видит поп-культура. К сожалению, Илон Маск часто спекулирует на страхах общественности, взращенных фильмами о порабощении мира роботами. Он, например, не стесняясь упоминал «Терминатора» и говорил: «Смотрите, к чему это приведет!» Я предполагаю, что Маск преследует определенные личные цели: продвигает свой проект OpenAI (исследовательская компания, основанная Илоном Маском, направленная на разработки в сфере искусственного интеллекта, — прим. Enter) и хочет заниматься госрегулированием в этой области.

В вопросах захвата мира искусственным интеллектом я ближе к Эндрю Ыну (Andrew Ng), который создал курс по машинному обучению. Он сказал о рисках примерно следующее: «Заниматься сейчас проблемами захвата мира искусственным интеллектом — это примерно то же самое, что и бороться сегодня с проблемами перенаселения на Марсе. Скорее всего, рано или поздно мы полетим на Марс, колонизируем его и в какой-то момент там станет тесно, но не очень понятно, почему мы должны работать над этим уже сейчас».

Сценарии, связанные с порабощением человечества, предполагают, что нам удастся создать сверхинтеллект, который будет настолько сильно превосходить людей, что сможет легко ими манипулировать. Создание такой системы — это большой вопрос, потому что есть определенные фундаментальные физические ограничения и они не позволяют развивать интеллект бесконечно.

Также для успешного захвата мира нужно решить довольно сложные интеллектуальные проблемы. Представьте себе, что вы стали думать в сто раз быстрее и у вас есть задача: выйти на улицу и убедить всех прохожих отдать вам свои кошельки. Значит ли это, что вы сможете набрать в сто раз больше денег? Вероятно, вы наберете чуть больше, потому что будете успевать лучше продумывать свои аргументы, но вряд ли в сто раз. Это означает, что сверхинтеллект не получится сильно превосходящим человеческий. Разница будет скорее как между очень умным и очень глупым человеком.

Тайный цифровой суд

Разумеется, искусственный интеллект и машинное обучение в современном виде — это технология, которая несет определенные риски при эксплуатации. Например, вы подали документы на кредит, и вам отказали. Это решение по силе влияния на вашу жизнь сопоставимо с вердиктом суда. Но в суде вы имеете права: доступ ко всем уликам, право на защитника и, в большинстве случаев, на открытый судебный процесс. В случае с кредитом ничего подобного нет. Вы не знаете, какие именно данные о вас принимаются в расчет, как устроена модель принятия решения и даже не можете получить обратную связь о причинах отказа — все это находится за границей коммерческой тайны. Такая проблема получила название «цифрового тайного суда», который судит вас в достаточно беззаконных условиях.

Какие проблемы это сулит? Самые разные и неприятные. Например, возникновение так называемого токсичного цикла. Представим систему социального рейтинга, которая в зависимости от нашего поведения дает более полный или ограниченный доступ к общественным благам. Допустим, вы накосячили в юности, а вам теперь закрыли доступ к хорошему образованию. Это значит, что шансы на реабилитацию снижаются. Один неправильный шаг, и система начинает вас топить, лишая возможности продвинуться вверх в социальном рейтинге. В перспективе это приведет к сильному общественному расслоению.

Обучение с подкреплением: как работают нейронные сети

AlphaZero в 2017 году за четыре часа обучилась игре в шахматы и победила программу Stockfish — лучшего виртуального шахматного игрока на тот момент. В этом результате есть изрядная доля лукавства, но если говорить об алгоритмах — в том исследовании использовался подход под названием «обучение с подкреплением». Он заключается в том, что в ряде случаев у нас нет заранее подготовленной обучающей выборки. Когда мы учим нейронную сеть распознавать кошечек на фотографиях, то показываем ей множество картинок, и для каждой картинки известно, есть на ней кошка или нет. Такой набор называется обучающей выборкой.

В случае с Го, шахматами или любой другой игрой все сложнее: у нас нет заготовленных миллионов позиций игры, для которых было бы однозначно известно: выиграны они или проиграны. Но мы можем проводить множество симуляций, игр программы самой с собой, таким образом, чтобы она получала обратную связь о результатах принятых решений. AlphaZero играла сама с собой и, проведя какое-то количество партий, отбирала ходы выигравшей стороны и училась лучше их угадывать. Алгоритм работы представляет собой «поиск по дереву методом Монте-Карло»: мы берем дерево всех возможных ходов из разных позиции и случайным образом отсматриваем в нем некоторое количество траекторий.

Нам нужно выбирать наиболее вероятные ходы противника, чтобы изучить их последствия, для этого, а также для того, чтобы оценивать завершающие позиции в дереве вариантов, используется сверточная нейронная сеть. Обучившись на сыгранных партиях, измененная сеть снова отыгрывала несколько тысяч партий, перенастраивалась и многократно повторяла эти циклы. Таким образом машина постепенно становилась умнее, лучше угадывала наиболее вероятные ходы и лучше оценивала позиции в дереве вариантов, а значит, постепенно училась выбирать все более сильные ходы.

Ждет ли нас робототехнический бум?

В сфере робототехники тоже есть прогресс, но сегодня ее нельзя назвать основной в области развития искусственного интеллекта. Большие успехи роботы делают в промышленности: технологии удешевили производство и повысили его качество. А вот андроиды, роботы, которых нам показывают в кино — конкретное и очень узкое направление.

Есть много развлекательных проектов, но они требуют применения целого ряда высоких технологий. Искусственный интеллект — только сердце системы, нужны еще и сложные инженерные решения, связанные с телом. Например, эффективное воспроизводство мелкой моторики — это очень трудно. Роботы такого рода уступают в универсальности и точности манипуляций людям. Я видел сложнейший проект, авторы которого создавали систему, способную складывать рубашки. Нужно распознать все складки, найти правильные точки, чтобы ухватиться за ткань, потянуть с нужной силой и не разорвать ее к чертям.

В создании андроидов много сложностей, а коммерческие перспективы туманны. Трудно сказать, будут ли это покупать. Есть успешный пример с секс-роботами: у стартапа под названием Roxxxy огромная очередь предзаказов. Но если разобраться, в основе этих роботов — достоверность воспроизведения человеческого тела, его микрореакций. Эта задача по большей части не из области искусственного интеллекта.

В целом роботы все еще напоминают паралитиков, но они стали гораздо умнее. Есть, к примеру, робот, который скачивает рецепты из wikiHow и готовит по ним блинчики, или Baxter, офисный робот. Он колесит по кабинетам, проверяет, не кончился ли тонер в принтере, и меняет картриджи. И еще куча любительских проектов, где люди в гаражах собирают что-то прикольное.

Может ли голосовой помощник управлять страной

При помощи систем искусственного интеллекта и машинного обучения можно эффективно решать широкий спектр задач управления государством и экономикой. Чисто технологически мы давно уже можем создавать кибернетические государства — для реализации прямой демократии у нас есть интернет, есть криптографические схемы. Но очевидно, что внедрение такого рода систем представляет угрозу для политической элиты. Зачем тебе демократия, если ты можешь решать все сам? Политики, в отличие от простых людей, легко спасут себя от утраты власти, запретив или заблокировав развитие систем, которые потенциально могут повысить прозрачность работы государственных структур.

Я впечатлен успехами Сингапура, где технократическое правительство сознательно проводит политику, направленную на всестороннюю поддержку развития технологий. Страна обделена природными ресурсами и не имея почти ничего, кроме порта, достигла высоких показателей в социальной и научной сферах. В богатых странах с технологиями дела обстоят хорошо, но возникает парадокс: отстающие часто внедряют у себя более прогрессивные системы, чем лидеры. В Европе часто все плохо с Wi-Fi: в отелях он либо платный, либо отсутствует, а вот в России он на каждом углу, дешевый и работает не так уж плохо. Дело в том, что за рубежом эти сети появились еще в конце девяностых, а то, что работает, обычно принято не трогать. У нас же Wi-Fi сети появились позже, зато с применением актуальных на тот момент технологий.

У отсталых стран есть шанс поиграть в чехарду с лидерами, но для этого нужны целенаправленные усилия. Мы не уедем далеко, пока статус чиновника будет определяться стоимостью его яхты и дворца, который он себе построил, а не тем, как много он знает о технологиях и насколько эффективно помогает развивать науку.

Способны ли роботы заниматься творчеством

В людях есть некий снобизм, они постоянно стремятся защитить свою самость и сказать: «Ну нет, все не то, не настоящее, а настоящее — это я, человек». Но на практике все иначе. Думаю, что картины роботов вполне можно назвать творчеством. Если уж натянуть сову на глобус, можно сказать, что у любой нейронной сети есть эмоции; представление о том, что такое хорошо и плохо. Если бы машины не испытывали квази-эмоций, мы не смогли их обучать.

Представления о хорошем и плохом внушают системе так же, как ребенку. Люди сказали: «Эта картина гениальная, а эта бездарная», — и машина честно пытается руководствоваться этим мнением. Можно организовать подобный эксперимент в формате обучения с подкреплением, как у AlphaZero: машина рисует картинки, продает их через интернет или просто выкладывает в сеть. Те, которые лучше продаются или набирают больше лайков, она считает хорошими.

Когда ваша профессия станет не нужна

На лекции я показывал автоматизированную систему, которая предназначена для замены оператора колл-центра. Скоро они будут работать повсеместно, но это не приведет к тому, что всех операторов просто уволят. Теперь люди будут выполнять более сложные творческие задачи, которые машине не под силу — смогут лучше вникнать в проблемы клиентов.

Некоторым направлениям сильно угрожает автоматизация. Например, многие журналисты занимаются рерайтингом, а инструменты для автоматизации этого уже появились и будут совершенствоваться очень быстро. Но есть и более сложные журналистские задачи, которые еще не скоро смогут выполнить машины — расследования или интервью. Проблема же не только в том, чтобы задать вопросы и выслушать ответы, нужно еще и поддерживать диалог, изобретать правильные вопросы, позволяющие более полно раскрыть тему. Скорее всего, люди пойдут по пути взаимодействия — машины станут нашими помощниками. Мне видится система, которая будет подсказывать идеи в ходе диалога, а человек сам выберет наиболее подходящие варианты.

Как показывает практика, человек в паре с прикладным ИИ гораздо лучше решает задачи, чем каждый из них по отдельности. Даже в шахматах сильный игрок, использующий в своей в партии программу, играет лучше, чем другая отдельно взятая программа. Оказывается, машины хороши как инструмент усиления человеческого интеллекта, но не как альтернатива человеку.