С помощью искусственного интеллекта можно построить как рай на земле, так и цифровой концлагерь

Разговариваем с экспертом в области машинного обучения о том, какие возможности открывают перед человечеством новые технологии, и как заставить их служить людям

В этом году исполняется 50 лет со времени первого поединка между читателями “Комсомольской правды” и шахматной программой “Каисса”. В далеком 1972 году люди победили новорожденный искусственный интеллект (ИИ) со счетом 1,5 на 0,5 очка. С тех пор технологии машинного обучения шагнули так далеко вперед, что человечество стало уже опасаться конкуренции со стороны умных роботов. Чего нам ждать от искусственного интеллекта? Какие возможности открываются с помощью невиданных технологий?

Об этом мы поговорили с одним из создателей шахматной программы “Каисса”, профессором, д.т.н., член-корреспондентом РАН, заведующим отделением ФИЦ ИУ РАН, директором по науке Smart Engines, заведующим кафедрой МФТИ Владимиром Арлазаровым.

Сможет ли машинный алгоритм съесть человека?

  • Владимир Львович, вы присутствовали при рождении искусственного интеллекта, на ваш взгляд, это инструмент в руках человека? Или это сила, которая способна в один прекрасный момент…
  • Съесть человека? (смеется)
  • Скажем так, выйти из-под контроля и стать самостоятельным игроком.
  • На данном этапе — нет. Сейчас искусственный интеллект — это своего рода “умный молоток”. Все зависит от того, в чьих руках он находится и как его используют. Но в перспективе ИИ способен к самостоятельной игре, во всяком случае, я не вижу физических препятствий. Самообучение, самосовершенствование? Это в нем и сейчас уже заложено. Вероятно, человечеству придется закладывать в программы какие-то ограничения. Но, судя по темпам развития, эта проблема возникнет перед нашими потомками через десятки, а скорее всего, через сотни лет. Потому что, по сравнению с тем, что было 50 лет назад, мы добились определенного успеха: появился беспилотный транспорт, системы распознавания лиц, поисковые и навигационные сервисы, виртуальные помощники и т.д. Но большие цели, о которых мы мечтали, когда начинали работать в области ИИ, от нас так же далеки, как и 50 лет назад.
  • А о чем мечтают разработчики искусственного интеллекта — о симбиозе человека и машины?
  • Нет, для меня это не самая интересная задача. Понимаете, человек какие-то новые вещи осваивает за несколько секунд. А для машины мы для каждой новой ситуации строим новую систему.
  • Пример, какой-нибудь приведите.
  • Вот, посмотрите за окном: возле светофора толпа какая-то собралась. Гаишники подъехали, карета “скорой” стоит на обочине, какая-то машина на проезжей части на “аварийке” моргает. Значит, скорее всего, произошло ДТП, возможно, с участием человека. Вам, чтобы это понять, достаточно беглого взгляда…
  • Речь идет о том, чтобы искусственный интеллект мог оценивать суть событий?
  • Совершенно верно, причем, новых событий! Потому что сегодня ИИ умеет решать задачи, которые человек уже знает, и постановкой которых занимался. С рутинными вычислениями компьютер справляется в тысячи раз быстрее человека. Тут вопросов нет. Но новые задачи он решать практически не умеет.

Робот не способен заменить Григория Перельмана

  • Значит, например, ждать от ИИ, что он поможет нам решить математические задачи тысячелетия — напрасный труд? (Из 7 задач на сегодня решена только одна, российский математик Григорий Перельман доказал гипотезу Пуанкаре — авт.)
  • Помочь как раз может, мы сейчас придумываем методы, как компьютер включить в решение задач такого класса. Но рассчитывать, что искусственный интеллект найдет за нас готовые решения, бессмысленно. Потому что пока мы сами должны хотя бы приблизительно понять, как решать задачу, а уж потом компьютер будет пробовать логический вывод, перебор параметров или нейронные сети. Тогда может что и получится.
  • Многие недовольны, что технологии искусственного интеллекта используются для создания в обществе цифрового концлагеря: везде камеры, тотальный контроль и все такое.
  • С этим я абсолютно согласен. Сейчас технологии ИИ процентов на 5 используются во благо людям и процентов на 95, чтобы людей контролировать. Но технология в этом не виновата. Любое техническое решение нейтрально, а служит ли оно добру или злу — решают люди. Мы это уже проходили: вспомните открытие ядерной реакции: ее можно использовать для абсолютного блага — создания атомных электростанций, источника чистой энергии. Но людей гораздо больше интересовала возможность сделать атомную бомбу и мир несколько раз подходил к ситуации взаимного уничтожения. Сейчас мы приближаемся к ситуации тотального контроля. Что делать? Запретить науку? Запретить прогресс? Это невозможно! Технология не решает социальных проблем, их решает общество.

Беженцы и класс бесполезных людей

  • Людей тревожат социальные последствия применения искусственного интеллекта. Например, ректор “Сколтеха” Александр Кулешов рисует довольно мрачную картину появления нового класса бесполезных людей. Потому что ИИ вытеснит сотни миллионов работников средней квалификации (они как раз решают рутинные задачи). Человечество сможет их накормить и одеть, но не будет знать, чем занять. И это приведет к архаизации жизни: росту радикальных настроений, религиозному фанатизму. Такое будущее готовят нам умные машины?
  • А я вижу другую ситуацию. Давайте возьмем недавний миграционный кризис в Европе, когда несколько миллионов жителей Ближнего Востока перебрались в другие страны. Я в политике ничего не понимаю, но беженцы в данном случае удобная демонстрационная модель. Они не участвуют в производственном процессе, но им выплачивают пособия, их кормят и дают крышу над головой. Однако я не заметил, чтобы они, в массе своей, стремились к созидательному труду. Скорее наоборот — многие из них работать совершенно не хотят, считают, что им все вокруг должны. Это, согласитесь, совсем другая история. Работа есть и может быть интересная, но все равно вырастает класс «бесполезных людей», которые работать не умеют и не хотят. И заметьте, все это – без всякого искусственного интеллекта.

Почему в России нет своего Билла Гейтса?

  • В мире не любят богатых людей, но технологические предприниматели, такие как Билл Гейтс, Илон Маск, Марк Цукерберг, стали властителями дум и кумирами молодежи. Почему? И могут ли наши технологические предприниматели играть роль таких моральных авторитетов?
  • Илона Маска пока давайте оставим за скобками, он свои проекты делал за счет денег государства. А феномен Гейтса в том, что он создал из ничего то, чем пользуется сегодня все человечество. И Цукерберг такой же. Причем, Билл Гейтс далеко не такой уж белый и пушистый, я какое-то время работал в компании, акционером которой он был. И много чего про Гейтса знаю. Знаю и о роли в успехе его матери, деловой женщины, которая пробила сыну контракт с IBM. Но, тем не менее, он создал операционную систему MS-DOS, которую установили в каждом компьютере. Может ли у нас появится такой человек? Я думаю, нет.
  • Из-за сырьевого проклятия? У нас проще сделать деньги на ресурсах, чем создавать что-то новое?
  • Нет, дело в другом. У нас нет дикого капитализма, который позволяет таким людям создавать свою империю: ты что-то придумал и через год стал миллиардером. У нас исторически, еще много веков назад, сложилась восточная деспотическая система с сильной централизацией. И внутри этой большой империи другой — маленькой — империи существовать не может. У нас большие состояния делаются на другом — отнять и поделить. А тут, конечно же, от человека другие качества требуются.

ВОПРОС — РЕБРОМ!

Как думает нейронная сеть?

  • Владимир Львович, насколько похожи типы мышления — человеческий и тот, что использует искусственный интеллект (ИИ)? Или это два разных механизма?
  • Это довольно сложный вопрос. Во-первых, надо понимать, что речь не идет о создании думающего робота. Потому что человек “работает” на основе химических и биологических процессов, а ничего подобного в машине существовать пока не может. Как мы запихаем туда, например, инстинкт размножения, который влияет на решения человека? Это исключено!
  • А как же нейронные сети?
  • Да, при помощи нейронных сетей сегодня решается огромный класс задач, причем решается очень хорошо. Например, современные шахматные программы или медицинские диагностические сервисы основаны на нейронных сетях. Но само название — это же жульничество чистой воды! Поскольку то, что мы называем нейронными сетями, никакого отношения к нейронам человеческого мозга не имеет. Что такое нейронные сети? Это слои преобразователей, которые взаимодействуют между собой. Создаем несколько таких слоев, обучаем и получаем прекрасный результат. Похоже ли это на мышление человека? Любой биолог скажет, что это абсолютная чушь, потому что никаких слоев в мозге человека никто никогда не видел. С другой стороны, мы убеждены, что в процессе мышления в человеческом мозге не происходит ничего такого уж сильно удивительного, чего мы не можем воспроизвести на компьютерах.
  • То есть какие-то приемы человеческого мышления искусственный интеллект может использовать?
  • Да, например, перебор вариантов. Это один из основных механизмов работы мозга, и алгоритмы его прекрасно освоили. Но я в принципе считаю, что искусственный интеллект не должен копировать ход размышлений человека. Цель разработчиков — решить задачу оптимальным путем и при этом, вполне возможно, способ, который мы найдем, будет иметь отношение к тому, как думает человек. Но проблема ведь в том, что и сам процесс человеческого мышления для нас во многом темный лес.

Источник