Роботы захватывают власть над миром

Такси затормозило у моего дома. Я полез за деньгами. Вдруг таксометр пискнул, и таксист энергично выругался.

— Требуют сфотографировать машину и салон! – объяснил он, — Как будто у меня тут накурено-наплевано.

— Кто требует? – поинтересовался я.

— Да этот… Яндекс! Послать бы их подальше, да заказов тогда не дадут. Эх, жизня! – и таксист достал видавший виды смартфон.

Этот таксист работает не в компании Яндекс, а в таксопарке. В таксопарке есть начальник – 65-летний Антон Михайлович, который любит рассказывать, что «возил еще Хрущева». Антон Михайлович держит себя в таксопарке царем и богом, заставляет водителей «дыхнуть», и интригует, распределяя автомобили между водилами. Но уже не он – настоящий начальник двух сотен таксистов этого таксопарка, а беспристрастный робот, «живущий» даже не в самом таксопарке, а – «везде». В навигаторе. В радиоприемнике (все больше народу пользуются Яндекс-радио, которое подстраивается под твои вкусы). Машинный алгоритм, а не Антон Михайлович, решает, быть сегодня таксисту с наваром, или попусту прокатать смену.

Больше всего это напоминает SkyNet, главного «героя» фильма «Терминатор». Суперкомпьютер, искусственный интеллект, существующий везде и нигде, определяющий жизнь человечества – оно его создало, а он его подчинил.

В конце 2016-го года мировую общественность потрясла статья в швейцарском издании Das Magazin, где обычно публикуются сплетни из жизни звезд да советы, куда пойти на выходные. Героем статьи стал некто Михаил Козинский, который якобы разработал систему промывания мозгов населения, основанную на том, какие «следы» оставляют люди в интернете. На какие сайты ходят. Что покупают в интернет-магазинах. Места в каких ресторанах заказывают. Наконец, с кем «дружат» в социальных сетях и каким фотографиям и сообщениям (постам) ставят «лайк» (отметку «нравится»). По этим «следам» машина составляет портрет человека, и понимает, какой «ключик» к нему подобрать, чтобы, например, заставить его сделать покупку. Или… проголосовать «как надо» на выборах! В статье утверждается, что злые гении из компании Strategic Communications Laboratories похитили у Козинского методику, и предложили ее Дональду Трампу. Почему он и победил – вопреки прогнозам социологов.

Михаил Козинский

Разработал систему промывания мозгов населения, основанную на том, какие «следы» оставляют люди в интернете

Козинский стал мировой звездой и дает интервью, одно другого краше, тем временем эксперты заметили явные несообразности. Например, в статье говорится, что система Козинского в состоянии достучаться буквально до каждого. Скажем, в этом доме, вот в этой квартире живет пожилая афроамериканка с тремя взрослыми детьми, противница абортов, недолюбливающая полицию. Она не «светит» эти данные в соцсетях сознательно, так, фотографий сыновей у нее просто нет. Но своими лайками она неосознанно рассказывает о себе все. И машина это видит. Раз, пишем ей послание, заточенное специально под нее, например, «задумывались ли вы о судьбе троих ваших сыновей в государстве, где царит полицейский произвол?» Подкидываем ей это послание через соцсети (вы видели в фейсбуке так называемые «рекомендованные публикации»? – вот это оно самое). И вуаля. Однако живущий в США журналист Леонид Бершидский отмечает, что получал рекламные послания от команды Трампа при том, что Бершидский – не гражданин США, права голоса не имеет и система по идее должна была его проигнорировать, раз она такая точная.

Далее, Хилари Клинтон куда активнее Трампа работала с новейшими технологиями. Так, в июле она произнесла пламенную речь о том, что после победы она добьется широкого внедрения блокчейна – а эта штука посильнее социальных сетей будет. Блокчейн дает возможности «ломать мозги» избирателям так, как хваленому Козинскому и не снилось. Тем не менее Клинтон проиграла.

Наконец, эту технологию задействовал Барак Обама еще в 2008 году, так что она точно была у обоих кандидатов.

Невинный самопиар Михаила Козинского, который очаровал швейцарский таблоид историей про «заговор масонов-программистов», однако, не должен отвлечь нас от главного. Собирать данные о каждом из нас все проще, сведениями обо мне, о вас лично уже давно торгуют все, кто ими обладает, и к чему это приведет – непонятно.

Приятель управляет финансами в довольно крупной компании, и живет в страхе, что его данные украдут. Недавно его коллега, тоже финансист, отдал в ремонт свой смартфон. Сотрудники сервиса каким-то образом поняли, что клиент непрост, и скачали явки-пароли с телефона. Служба безопасности компании едва отбила хакерскую атаку. Поэтому приятель пользуется простым телефоном, с кнопками и слепым экраном. И тем не менее!

Мы сейчас будем говорить о «биг дата» (по-русски, «большие данные», то есть просто серьезные массивы информации). Все, что связано с ними, окружено тайной. Я посылал запросы представителям российского Google, а также в компании, которые помогают гигантам индустрии работать с биг дата. Тема вроде модная, но официально никто ничего не комментирует. Наконец я уболтал на встречу действительно хороших специалистов, встреча состоялась по всем правилам конспирологии, в неприметном баре у дальней станции метро. Шесть человек, слишком хорошо знающих, что даже у стен есть уши – попросили вырубить телефон и убрать его подальше. И сами так сделали. Двое работают в крупнейших интернет-структурах. Не на первых позициях, но на достаточно высоких, чтобы уже много знать и еще иметь возможность про это говорить. Трое в политическом консалтинге. Знают толк в возвеличивании своего клиента и в унижении его конкурента. Умеют сделать так, что нужную информацию узнают только пользователи интернета в конкретном подъезде. Или только женщины. Или мужчины за 50, работающие в цирке клоунами. Любая выборка. Наконец, математик. Просто математик – эта профессия, точнее, компетенция, стала ключевой в современном мире. Казус с моим приятелем объяснили быстро:

— Он просто не заметил момента, когда система отметила его интерес к Питеру. Скажем, он лайкнул с компьютера фото своего питерского друга. Профиль в социальной сети привязан к номеру телефона. Неважно, что телефон простой, не смартфон.

Итак, система знает, что человек лайкнул фото приятеля в Питере, а то и написал ему личное сообщение. Она также в курсе, что обычно он летает на самолете в бизнес-классе. И она предлагает ему купить билет в Питер на самолет в бизнес-классе.

Человек, который мне это рассказывает, участвует в выборных кампаниях, разрабатывая «атаки» на избирателей через социальные сети. Утверждает: мулька работает в Москве, провинция, увы, пока охвачена социальными сетями слабо, но все быстро меняется. Ему возражает другой политтехнолог:

— Мой клиент на выборах в Госдуму шел как раз в Москве. Мы зарядили работу с населением через соцсети. Но в решающий момент мой клиент получает рекомендацию, что в выборах ему лучше не участвовать. Клиент свою кандидатуру снял, а прошел кандидат, который даже электронные письма посылать не умеет. Вся его кампания состояла в листовках и в беседах с бабушками. И толку в этих технологиях.

В разговор вступает девушка:

— Вы про политику, а я про коммерцию. Торговля данными стала хорошим бизнесом. Но если на Западе все знают, что авиакомпания Бритиш Эрвейс продает рекламным агентствам данные клиентов, заказавших билеты по интернету, у нас об этом предпочитают не болтать. Например, одна крупная сеть магазинов радует покупателей бесплатным вай-фаем. Человек, чтобы попасть в сеть, проходит регистрацию и оставляет свой номер телефона. Теперь «магазин» знает о человеке все.

— Что значит «все»?

— Козинский об этом рассказал подробно, и тут он не врет.

— Он пишет, что по ста лайкам можно узнать цвет кожи человека (ладно, для России это не так актуально), гомосексуалист ли он, и каковы его политические пристрастия, это правда?

— Так и есть, — говорит девушка, кстати, она работала с «биг дата» на Сочинской олимпиаде и, наверное, ее словам можно верить, — Данные обрабатывает машина за доли секунды, так что, едва ты вошел в сеть магазина, ты уже стоишь перед ним голенький. Особенно если ты повелся на нехитрую замануху: отсканируй штрих-код на чеке, и получи скидку. Так машина узнает, что ты купил. Куклу для девочки – у тебя маленькая дочь. Водку – ты любитель выпить. Виски – у тебя полно денег.

— И что потом магазин делает с этим добром?

— Продает. Сейчас — колоссальный спрос на массивы данных. Кризис, квартиры-машины продаются плохо, важно знать, у кого еще остались деньги для дорогих покупок. А продавцам пищевых добавок хочется знать, где обитают необразованные, небогатые, больные люди, у которых денег на врача нет, а вера в чудо-таблетку есть. Покупаешь массив данных, и через интернет подсовываешь рекламу именно этому человеку.

На днях на одной из конференций представители компании Ромир открыто говорили, что радиостанции через свои приложения в смартфоне могут собирать данные о своих слушателях и использовать их ради эффективных рекламных продаж. На официальный запрос КП представитель компании Ромир ответил, что эта практика не нарушает права человека, потому что персональные данные не разглашаются. В самом деле, люди фигурируют в биг дата не как персоны с фамилией и именем, а как некие безличные особи, снабженные идентификатором.

Александр Крайнов

В Яндексе отвечает за проекты, в которых задействовано компьютерное «зрение».

Александр Крайнов из Яндекса уверяет: можно вычленить человека с таким-то доходом, предпочитающим такие-то машины и рестораны, узнать о нем очень многое, в том числе сугубо приватное. Но понять, что этого человека зовут, например, Ходорковский Михаил Борисович, и организовать атаку именно на него, чтобы склонить миллионера и политика к нужным действиям, нельзя.

— По крайней мере компании как огня боятся нарушения приватности, — уточняет Крайнов, — Такая детализация создаст массу проблем, в том числе с законом, а польза от нее сомнительна.

Ведь не факт, что условный Ходорковский, если будет «случайно» видеть у себя в соцсети ссылки на «патриотические» статьи, изменит свои политические взгляды.

Однако, говорит Крайнов, то, чего боятся компании, сделает государство. И это – считает Крайнов — хорошо.

Крайнов развивает свою мысль: сейчас везде висят видеокамеры, но их записи просматривают, только когда уже что-то случилось, и нужны детали и доказательства. В скором будущем искусственный интеллект мгновенно станет анализировать то, что зафиксировала камера. Например, этот человек в маске поджидает у подъезда жертву. Эта машина ведет себя подозрительно, вероятно, водитель пьян. Сразу – сигнал полиции. А то и просто глушим мотор лихача – разговоры о том, чтобы разрешить вырубать двигатели дистанционно, уже идут в Госдуме и Общественной палате.

SkyNet придет в каждый дом, и я обязан был спросить у Крайнова, а что хорошего в том, что машина будет меня судить и наказывать? Крайнову комфортнее так, а мне все же хотелось бы, чтобы вердикт выносили люди. Потому что жизнь устроена сложно. Я могу двигаться по волнистой траектории не потому, что пьян, а потому, что ищу потерянный ключ. Но робот выпишет мне штраф (ведь идеи штрафовать пешеходов за пьяную ходьбу периодически всплывают в экспертном сообществе), и поди докажи. Не исключена и ситуация, когда этот Глобальный Мозг взломают хакеры. Или он взбесится сам по себе – как в сотнях фантастических фильмов.

Крайнов возражает: машина умна настолько, насколько ее научили. Если она неверно растолкует мое поведение и накажет меня, я могу обратиться «куда следует», в машину заложат мой случай, и машина впредь не совершит такой ошибки. Рано или поздно машина научится всему. Что же касается хакеров, то проще «взломать» оператора-человека, чем сам компьютер.

— Террористы отловят программиста, и, угрожая ему расправой или шантажируя его, потребуют выдать коды и пароли. Если такого человека – хранителя кодов — нет в принципе, задача усложняется, потому что компьютер не боится боли и его нельзя шантажировать.

Наконец, Крайнов не верит в восстание машин. По его словам, как бы ни сложны были алгоритмы, программисты знают все входы и выходы в программу, и быстро смогут пресечь буйство компьютера.

На этом статьи, посвященные прекрасному новому миру и биг дата, обычно заканчиваются, но у тотальной компьютеризации есть еще одно следствие – если машины возьмут на себя практически все виды труда, что же будет делать человек?

В традиционной парадигме компьютер освобождает человека от рутинной работы, предоставляя ему возможность стать чистым творцом. Скажем, художник не тратит время на смешивание красок, а рисует на планшете. Но реальность не столь радужна.

Профессия таксиста относится к числу не самых престижных, но она несет важную социальную функцию: человек, потеряв работу, может пойти в таксисты и временно «перебиться». Такие профессии называются по-английски мак-джоб, буквально – «работа в МакДоналдсе». Никто не думает, что труд в ресторане фаст-фуда, в такси или на стойке гостиницы – это мечта жизни и что это навсегда. Но такие трудовые ниши незаменимы для студентов, временно безработных и пенсионеров (в США средний возраст сотрудников фаст-фуда перевалил за 40, а у нас полно таксистов-пенсионеров). Современные технологии уже сейчас или вот-вот просто уничтожат эти профессии.

Дмитрий Песков

Руководитель Агентства Стратегических Инициатив

Идеей машины, которая едет без водителя, одержимо Агентство Стратегических Инициатив при президенте России. Летом один из руководителей Агентства, Дмитрий Песков (однофамилец пресс-секретаря главы государства) рассказывал в интервью КП, что по Москве, ночью, уже ездят такие машины. Их работа основана все на тех же биг дата: автомобиль мгновенно анализирует, что происходит вокруг, выбирает «пример поведения» из заложенных в него алгоритмов, и делает правильный маневр. Такие машины убьют профессию таксиста (и дальнобойщика, и водителя автобуса). Крайнов не готов сказать, когда это случится, и тем не менее советует:

Многие уже видели в Мак Доналдсе стойки автоматического заказа. Это пока прототип. Скоро человек, выкрикивающий «свободная касса» станет не нужен. Робот, способный готовить гамбургеры, уже создан и за рубежом внедряется. Те, кому сейчас лет 10, могут не надеяться, что, когда они приедут «покорять Москву», им удастся устроиться в фаст-фуд и получить прибавку к стипендии

Самое поразительное, что искусственный интеллект вот-вот сделает ненужным работу управленца и в первую очередь чиновника. Мы упоминали блокчейн – систему «коллективного» принятия решений компьютерной сетью. Она идеальна для госуправления. В Китае уже собираются передать часть функций госуправления на блокчейн, этим же озабочены в Канаде, США и Австралии. Глава ВЭБ Сергей Горьков недавно предрек массовые сокращения управленцев:

— Что делать с такими, как я? Увольнять, конечно, — сказал он, выступая на форуме Vestifinance.

Будет так: сначала тотальные сокращения в банках (потому что блокчейн идеален именно для этой сферы), потом в налоговых службах (а это тысячи рабочих мест, в провинции – часто это самая престижная работа), наконец, буквально повсюду, от собесов до региональных администраций. Формальное препятствие – законодательное – уже снято: не давно под эгидой ЦБ образована рабочая группа по внедрению блокчейн, куда вошли представители ведущих банков.

Крайнов не видит в этом криминала, когда-то, говорит он, люди вручную обрабатывали поле, и нужно было, допустим, сто человек на гектар. Потом появилась лошадь, потребовалось лишь 20 человек. А с трактором управится и один. Но все «уволенные» нашли работу, причем более чистую и творческую.

Однако с этим трудно согласиться. Автоматизация проходила безболезненно для мирового рынка труда лишь до 1973 года, до этого момента рост производительности труда оборачивался пропорциональным ростом доходов трудящихся. После 1973 года колоссальный (из-за компьютеризации) рост производительности уже не приводит к росту доходов, одновременно наблюдается растущее расслоение (богатые богатеют, бедные беднеют), а безработица стала хронической. Это вызвано тем, что, если ты потерял работу потому, что твое место занял станок с ЧПУ, а то и робот, ты далеко не всегда в состоянии открыть свою фирму, замутить стартап или удариться в художники. Число людей, способных к творческой трансформации, ограниченно.

— Чем более творческую профессию вы выбрали, тем меньше вероятность, что вас заменит искусственный интеллект, — говорит Крайнов, но вопрос, могут ли все выбирать все более и более творческую профессию, и что делать с теми, кто к такой трансформации не готов по своей природе или по возрасту.

Яркий пример профессии, где человек теряет все – складской работник. Кажется, только люди могут быстро ориентироваться на складе, где сегодня хранят одно, завтра другое. Но в 2005 году Nintendo и Sony разработали систему компьютерного зрения. Они это сделали для компьютерных игр: индустрия игр — двигатель прогресса, потому что деньги там крутятся колоссальные, а изделия должны быть дешевыми, и в силу дешевизны они быстро перехватываются в «серьезных» индустриях. Итак, система машинного распознавания образов пошла «в народ», и теперь куда выгоднее держать робота, который «видит» ящик любой конфигурации, чем человека.

Да что склады, еще в 2012 году ваш покорный слуга проехал по ряду молочных хозяйств России и видел массовое внедрение роботов-дояров и пастухов, которые, несмотря на высокую цену, были выгоднее пьющих и ненадежных работников-людей. Сегодня внедрение роботов в АПК России стало еще более заметным.

Другим колоссальным прорывом в технологиях – и колоссальной же угрозой для рынка труда – стало внедрение «облачных» роботов. Теперь роботу не обязательно хранить в памяти всю информацию, она доступна в «облаке» данных. Это резко удешевило роботов. Недавно в Китае, на заводе по производству электроники, случилась волна самоубийств среди работников, люди не выдерживали нагрузок. Менеджеры решили проблему кардинально, они уволили всех, заменив их дешевыми и смышлеными «облачными» роботами. На этом фоне призывы «поднять престиж человека труда», которые звучат в России, выглядят несколько архаично.

В результате на одном полюсе, где сошлись люди, не способные к трансформации даже после переучивания, нарастает бедность. Реальные (с поправкой на инфляцию) доходы рабочего в США по сравнению с тем же 1973 годом снизились на 20%. Недавно в США МакДонадлс объявил, что нанимает тысячу человек, на вакансию откликнулось около миллиона, и оказалось, что стать сотрудником фаст фуда сложнее, чем студентом Гарварда, выше конкурс.

На другом полюсе, где живут Марк Цукерберг, опутавший весь мир своим Фейсбуком, баскетболисты, манекенщицы и актеры Голливуда, наблюдается колоссальный рост доходов. Эти люди получают плоды от роста экономики и производительности труда, потому что роботы пока не снимаются в кино и не строят сами социальные сети. Впрочем, скоро может измениться и это.

Что же делать? Ответ дала в далеком 1968 году группа экономистов, которая со страниц New York Times предложила в будущем, когда машины научатся всему, выплачивать гражданам минимальный гарантированный доход просто за то, что они люди. Интересно, что идея пришлась по вкусу Мартину Лютеру Кингу, он упомянул о ней в своей последней публичной речи за несколько дней до своего убийства. Сегодня мы видим наконец, что некоторые страны, такие как Швейцария, Исландия и Швеция осторожно пытаются внедрить эту затею на практике. С оговорками и с оглядкой на общественное мнение, но пытаются.

Недавно этот самый искусственный интеллект (нейросеть) самостоятельно написал сценарий (в базу были загружены тысячи «человеческих» сценариев, и машина комбинировала сюжеты по своему усмотрению), а люди-актеры сняли по сценарию фильм. Нейросеть могла сочинить сюжет о чем угодно. Но у нее получилась мрачная антиутопия, в которой миром правят машины, а человек стал «овощем». Роботы приходят к людям, возбуждают центр удовольствия в мозгу, люди довольны, и, хотя подспудно понимают, что что-то не так, сломлена не только воля к сопротивлению – они даже не могут осознать, что с ними происходит.

Мне возразят, что ничего такого машины не «думают» и вообще думать железка не может. Однако же нейросеть из проводов и микросхем живет по все тем же универсальным законам природы, что и живые нейроны в вашем мозгу. Грани между живым и неживым, похоже, нет: математики моделируют абстрактные множества на экране компьютеров, и видят, как эти множества пожирают друг друга, подчиняясь дарвиновским законам. Наука постоянно расширяет понятие «сознания»: если раньше им наделялись только люди, теперь признаки сознания видят у обезьян, китов, воронов, попугаев, китов, слонов, дельфинов и даже у осьминога (список неполон). Рано или поздно биологи обнаружат, что сознание есть и у сложно устроенных машин.

Все это может показаться страшно далеким от жизни моим соотечественникам, которые с компьютером пока на «вы», платежки получают по бумажной почте, а робота видели по телевизору. Но могли ли вы вообразить всего пять лет назад, что в соцсетях появятся группы смерти, побуждающие ваших детей к суициду? Что ржавые Жигули через спутники проложат дорогу в соседнее село? Наконец, что можно прийти к внуку, он нехотя откроет ноутбук, и вы поболтаете с родственницей в Канаде совершенно бесплатно – еще и с видео! Все меняется очень быстро, и в России тоже.

У этой статьи нет вывода. Это просто приглашение подумать о том, в каком мире мы вот-вот окажемся.