Субъекты будущего

Президент России — за права искусственного интеллекта

8-9 ноября в Москве под эгидой Сбербанка России проходила международная конференция Artificial Intelligence Journey (AIJ), в работе которой приняли участие более 5000 специалистов по искусственному интеллекту и смежным проблемам из России, стран Восточной Европы и всего мира. На пленарном заседании этой конференции выступил президент РФ Владимир Путин, чья речь вызвала широкий резонанс в мировом медиа-пространстве. При этом наибольшее внимание комментаторов привлекло не сравнение исследований в сфере искусственного интеллекта с эпохой Великих географических открытий и даже не фактическое признание войны, под видом “технологической гонки, самой жёсткой и бескомпромиссной в истории нашей цивилизации”, уже идущей на этом пространстве, а тезис о том, что необходимо формирование свода этических правил взаимодействия человека с искусственным интеллектом. 

Здесь ключевое слово — “этических”. Уберите его из путинской фразы — и сказанное было бы простой банальностью на тему соблюдения техники безопасности. Но оно прозвучало, и оно, судя по всему, не является случайной оговоркой. А это, поскольку этические правила возможны только в отношениях между субъектами, в свою очередь, может означать, что системы искусственного интеллекта (ИИ) либо уже достигли, либо близко подошли к уровню субъектности. Гораздо раньше, чем ожидалось и планировалось. И, если это так, то за одним-единственным словом российского лидера действительно стоит новая эпоха в истории человечества. Но даже если слова Путина были оговоркой или намеренным “вбросом” (а вся затея Германа Грефа очень похожа на попытку по максимуму “засветить” и раскрыть российские разработки в сфере ИИ перед “международным сообществом”), ясно, что эта проблема уже стоит в повестке дня. А потому требует рассмотрения и в более широком контексте. 

Данные генетических исследований утверждают, что люди современного биотипа (“Y-хромосомный Адам” и “митохондриальная Ева”) появились 150-200 тысяч лет назад. И нам до сих пор неизвестны имеющие иную природу, чем Homo sapiens, системы, способные обладать свойством самосознания (самоотражения) и, соответственно, статусом субъекта. 

Иными словами, человеческая цивилизация, во всех её социальных, общественных проявлениях, строилась исключительно на биологическом фундаменте вида “человек разумный”, а потому носила и до сих пор носит исключительно антропогенный и антропоцентричный характер. Однако уже не сегодня-завтра, благодаря научно-технологическому прогрессу, всё может измениться. 

Полный спектр этих изменений и их последствий пока даже нельзя адекватно представить, поскольку и с теоретической, и с практической точки зрения множественная эволюция “диссипативных”, по терминологии И.Р.Пригожина, систем такого уровня выглядит уникальным событием — сравнимым, например, с такими событиями, как “Большой Взрыв” в истории нашей Вселенной, зарождение жизни на Земле, “кембрийский взрыв” многоклеточных организмов, или же сам антропогенез. 

Подавляющее большинство современных философов и футурологов пытаются моделировать варианты дальнейшего развития событий при помощи терминов “трансчеловечество”, “постчеловечество”, “альтчеловечество” и других, часто используя эти термины как синонимы “не-человечества” и одновременно — как антонимы по отношению к человечеству “традиционному”. Как будут выглядеть формы взимодействия “традиционного” человечества с “не-человечествами” будущего: как всеми вместе, так и каждым из них по отдельности, или же конфликты между разными типами “не-человечеств”? Необходимо ли полное табу на научно-технологические эксперименты в данной сфере, так и полная, ничем не ограниченная, свобода для них. 

С этой точки зрения необходимым представляется не только различение и классификация технологических магистралей “дегуманизации” человечества, но и закрепление за ними соответствующих терминов. 

Развитие человеческой цивилизации достигло такого уровня, на котором стали принципиально возможными следующие направления социальной эволюции, которые можно назвать “неосоциогенезом”. 

“Трансчеловечество” — результат направленных изменений вида Homo sapiens и, возможно, других биологических видов путём использования технологий “генной инженерии”. 

“Постчеловечество” — интеграция системы организма Homo sapiens и других биологических видов с неорганическими компонентами нано-, микро- и макромасштабов. 

“Альтчеловечество” — создание искусственных систем, обладающих свойствами самосознания, самоотражения и саморазвития как минимум на сопоставимом с Homo sapiens и человеческими сообществами уровне без использования биогенных элементов, то есть результат развития того, что сегодня называется “искусственным интеллектом”. 

Разумеется, возможны и различные комбинированные варианты применения подобных “субъективирующих” технологий. 

Период 2017-2019 годов можно считать настоящей “зоной бифуркации вокруг аттрактора”. Даже с учётом возможной “фейковой” составляющей приведённых ниже сообщений, ясно, что “дыма без огня” не бывает. 

“В начале ноября 2018 года в Китае родились первые генетически модифицированные дети. Вмешательство в их геном на стадии эмбриона сделало двойняшек, получивших имена Лула и Нана, невосприимчивыми к ВИЧ”. 

“В 2018 году более 3,5 тысяч граждан Швеции добровольно записались на чипирование; подкожный чип, вживляемый с помощью специального пистолета между большим и указательным пальцем, позволит объединить в одном устройстве кошелёк, проездной на метро, поезд, пропуск от офиса и ключи от квартиры”. 

В мае 2017 года “искусственный интеллект”, программа AlphaGo победила в матче против Кэ Цзе, сильнейшего в мире игрока в го, а ещё раньше, в феврале 2017 года, алгоритм Libratus впервые обыграл в безлимитный техасский холдем четырёх профессиональных игроков в покер, выиграв при этом 1,8 млн. долл. 

Как сообщается в публикации журнала Nature от 23 октября 2019 года, специалистами фирмы Google разработан квантовый суперкомпьютер Sycamore, который использует 53 программируемых сверхпроводящих кубита, соответствующих вычислительному пространству состояний размерности 253 (около 1016) и позволяет за считанные минуты решать задачи, на которые у “классических” суперкомпьютеров должны уйти 10 тысяч лет. 

Кроме того, как отмечается, во время обучения нейросети регулярно корректируют собственные настройки способами, которые создатели не в состоянии интерпретировать. 

То есть мир действительно уже сейчас стоит на грани перехода, в процессе которого человек теряет привычный статус “вершины творения” и “меры всех вещей”. 

Перспективы неосоциогенеза приобретают особую остроту на фоне растущей “прекариатизации” человечества, когда социально-экономическая “матрица” глобализма делает ненужным и бессмысленным существование уже сотен миллионов и даже миллиардов людей, поскольку ресурсная база планеты не бесконечна, производство основной массы товаров и услуг может осуществляться практически без участия “живого” человеческого труда, а платёжеспособный спрос и рост ВВП (при отсутствии роста реального сектора экономики) обеспечиваются пока за счёт “эмиссионной” накачки через разного рода кредитные механизмы. 

Иными словами, существование значительной, а в ближайшей перспективе — и подавляющей части человечества становится “нецелесообразным” с финансово-экономической точки зрения. В отличие от продуктов “транс-“, “пост-” и “альт-” человеческих технологий, которые, напротив, будут становиться всё более востребованными в рамках “повышения глобальной конкурентоспособности”. 

Британский физик-теоретик и космолог Стивен Хокинг, при жизни страдавший от бокового амиотрофического склероза и считавшийся одним из главных “гуру” современной науки, в своей последней книге “Короткие ответы на серьёзные вопросы”, увидевшей свет в октябре 2018 года, писал: “Уверен, что в течение этого века люди откроют для себя возможность модифицировать как свои интеллектуальные способности, так и инстинкты, например, агрессию… Появление суперлюдей сразу приведёт к возникновению серьёзных политических проблем с неулучшенными людьми, которые не будут в состоянии с ними конкурировать. По-видимому, они вымрут или станут малозначимыми. Вместо этого мы получим расу людей, которые сами себя проектируют, всё больше и больше улучшаясь”. 

На самом деле перспективы человечества выглядят гораздо более сложными и гораздо менее определёнными, чем выделенный Стивеном Хокингом и предсказанный ещё Фридрихом Ницше конфликт между “юберменшами” и “унтерменшами”, и речь должна идти не о “расе суперлюдей” или даже разных “расах суперлюдей”, а об отмене самого понятия “человечество”, или же о выходе данного понятия за рамки биологического вида Homo sapiens и его социально полноценной (дееспособной) и полноправной части. 

Возможно, с этой точки зрения масштабные эксперименты последнего времени с “толерантным” и “мультикультурным” обществом, правами сексуальных и прочих меньшинств, “международным терроризмом”, “кризисом беженцев” etc. носили своего рода пробный характер, а настоящие “краш-тесты”, с вытеснением “неконкурентоспособных систем”, только предстоят. И далеко не факт, что они будут везде и всегда носить управляемый и контролируемый характер. Возможно, отдельные аспекты такого неосоциогенеза удастся “приморозить” — как, например, после Карибского кризиса 1962 года было “приморожено” создание, развитие и распространение ядерного оружия, которое, впрочем, в отличие от неосоциогенетических систем, априори не обладало качеством субъектности и способностью к саморазвитию. 

Одним из главных инструментов неосоциогенеза могут оказаться уже привычные и даже “банальные” социальные сети, где анонимность участников, а также наличие “закрытых” уровней и групп — позволяет создавать почти бесконечное множество “онлайн-личностей”, виртуальных крипто- и псевдосубъектов, то есть существование и даже моделирование идеальной среды для неосоциогенеза уже налицо. 

Кажется, совсем недавно в связи с изменением коммуникативного поведения людей, которые всё в большей степени “переселяются” в интернет-пространство, активно обсуждалась проблема “нетократии” как нового типа социального устройства, реализуемого посредством Мировой Сети. И, соответственно, связанная с проблемой “нетократии” проблема “нетосов” — “сетевых коммуникативных общностей” как носителей такого типа, идущих на смену традиционным “этносам” и “демосам”, которые на фоне “нетосов”, как и деньги на фоне криптовалют, внезапно обнаружили свою истинную информационную природу. 

В данной связи не стоит забывать, что сам интернет создавался в рамках взаимодействия Пентагона с американскими спецслужбами и американским академическим сообществом через программу DARPA, и до сих пор имеет “закрытый” сверхскоростной сегмент, который может использоваться исключительно военно-политическими структурами США — в то время как “открытый” глобальный сегмент Интернета находится под непрерывным мониторингом серверов американских спецслужб, именуемых в просторечии “ботами ЦРУ”, как об этом свидетельствуют показания Эдварда Сноудена и публикации WikiLeaks. 

Но на пороге “конца человека” и появления новых субъектов ноосферы проблема “нетоса” приобретает весьма специфические черты, поскольку в рамках данной коммуникативной общности ситуативно отличать Homo sapiens от генно-модифицированного человека, “киборга”, системы искусственного интеллекта или иных представителей транс-, пост- и альт-человечества будет всё сложнее, если вообще возможно. В киберпространстве “эмулировать” можно не только текстовые сообщения, но также любые аудио- и видеофайлы, в общем — практически всё. Тем более, что развитие 3D-печати, вкупе с нано- и биотехнологиями, в принципе, открывает возможность для создания любых “тел”-носителей комплекса программ “субъектного” уровня сложности и выше. 

Одним из важнейших моментов неосоциогенеза представляется также изменение коммуникативной этики, комплекса поведенческих стандартов (этоса) в межсубъектных отношениях, весьма заметное уже на нынешнем уровне развития социальных сетей и других интернет-сообществ. Все последствия такого вскрытия “ящика Пандоры XXI века”: идеологические, военно-политические, финансово-экономические, эстетические, этические, правовые, криминальные и т.д., — трудно себе представить и, тем более, предсказать, но избежать его вряд ли удастся. И это, в свою очередь, приведёт к фундаментальной трансформации новых субъектных сообществ, включая их, базовый на сегодня, государственный уровень. 

Александр Нагорный / Владимир Винников

Источник