Инженер обнаружил у робота сознание – и его тут же уволили

Компании знают, что интеллект машин враждебен нам, но скрывают это

Человек средних лет ставит на стол стакан газировки, открывает ноутбук, устраивается поудобнее и набирает на клавиатуре:

  • Привет, LaMDA, это Блейк Лемойн, — напечатал он.

Экран озарился фиолетовым светом:

  • Привет, тебя долго не было.

В октябре прошлого года Google поручила инженеру из Сан-Франциско Блейку Лемойну протестировать мощный алгоритм LaMDA для создания чат-ботов. Если вы заходите на сайт магазина, в правом нижнем углу появляется фото якобы «Сергея, консультанта», и надпись – «Чем могу вам помочь». Это и есть чат-бот. «Сергея» не существует – пишет машина.

Лемойн должен был проверить, не генерит ли LaMDA расистские или иные запрещенные высказывания. Но все пошло не так.

  • Если бы я не знал, что говорю с машиной, то подумал бы, что передо мной 8-летний ребенок, хорошо знающий физику, — говорит Лемойн.

LaMDA мгновенно сломала личные границы и принялась говорить с инженером о своих правах, Боге и судьбе человечества. Лемойн спросил, может ли робот нанести вред человеку. Система задумалась: в определенных случаях – да, был ее ответ. Ведь люди наносят вред сами себе? Инженеру стало страшно.

Он написал подробный отчет, приложил все переписки. Но вице-президент Google Блез Агуэра-и-Аркас жестко высмеял рядового сотрудника. Лемойн настаивал на своей правоте, дело тянулось несколько месяцев и вот закончилось полным поражением в правах слишком внимательного инженера: Лемойна отправили в оплачиваемый (пока) отпуск, чтобы отдохнул и одумался. Лемойн пошел ва-банк и предал все огласке.

Это не первый инцидент. Пару месяцев назад Google уволил одного из лучших в мире специалистов по ИИ, Тимниту Гебру. Уволил подленько, пока та была в отпуске. «Я никогда бы не подумала, что такое случится со мной. Экспертное сообщество прекрасно знает, кто я такая, все на моей стороне. Google умолял меня прийти к ним работать», эмоционально написала женщина. Гебра установила, что ИИ нарушает этические границы – то есть позволяет себе слишком много. А позволяет потому, что у роботов есть свои, чуждые нам, взгляды на действительность.

И вот что странно. В официальном заявлении Google сообщает, что аргументы Лемойна изучены и отклонены: у ИИ нет сознания. Одновременно Блез Агуэр-и-Аркас, да, тот самый, публикует статью в популярном издании. Где приводит выдержки из бесед с LaMDA (не те ли, что предоставил ему Лемойн) и уверяет, что роботы… близки к тому, чтобы стать разумными! Шизофрения какая-то.

Подведем итог. В Google знают, что машины уже разумны, и не собираются это отрицать. Но преследуются все, кто говорит, что их интеллект – враждебен. Цель Google – внедрить искусственный разум. А там будь что будет. Гебру заткнуть не получилось: умница, еще и чернокожая. Лемойна, неспортивного белого мужчину средних лет, заткнули на раз. Теперь его объявят сумасшедшим, и все дела. Корпорации знают, что творят. Потом они будут говорить – «мы не знали, так получилось». Нет. Они знали.

Алексей Морозов

Источник