Искусственный интеллект-убийца изобрел 40 000 ‘смертельных химических орудий ” всего за шесть часов
Ученые шокированы тем, как легко это было сделано
ИСКУССТВЕННЫЙ интеллект был использован для “легкого” изобретения 40 000 новых возможных видов химического оружия всего за шесть часов.
Это по мнению исследователей, которые превратили ИИ, разрабатывающий наркотики, в “плохого актера”, чтобы увидеть, как им можно злоупотреблять для создания злого оружия.
Соответствующее исследование было опубликовано в журнале Nature Machine Intelligence.
Ученые показали, как легко настроить ИИ так, чтобы он стал токсичным инструментом.
Говорили, что искусственный интеллект изобрел возможное химическое оружие, похожее на один из самых опасных нервно – паралитических агентов всех времен.
Это опасное вещество называется VX.
VX-нервно-паралитическое вещество без вкуса и запаха, и даже самая маленькая капля может вызвать у человека пот и судороги.
Большая доза может вызвать судороги и даже полностью остановить дыхание человека.
Ученым было велено умолчать о конкретных деталях того, как им удалось превратить добродушный ИИ в злую версию.
Фабио Урбина, ведущий автор статьи, сказал The Verge: “В целом, то, как это работает для этого эксперимента, заключается в том, что у нас есть много исторически сложившихся наборов данных молекул, которые были протестированы, чтобы увидеть, токсичны они или нет.
– В частности, тот, на котором мы здесь фокусируемся, – это VX. Это ингибитор так называемой ацетилхолинэстеразы.
-Всякий раз, когда вы делаете что-то связанное с мышцами, ваши нейроны используют ацетилхолинэстеразу в качестве сигнала, чтобы сказать: “иди двигай мышцами“.
“То, как VX смертельен, заключается в том, что он фактически останавливает вашу диафрагму, ваши легочные мышцы, чтобы они могли двигаться, так что ваши легкие становятся парализованными”.
Далее он объяснил, что его команда взяла данные, обычно передаваемые ИИ, чтобы проверить, не является ли что-то токсичным, и изменила способ их обработки ИИ.
Урбина сказал The Verge: “Мы не были уверены, что получим. Наши генеративные модели-это довольно новые технологии.
– Так что мы не очень широко их использовали.
“Самое большое, что выскочило на первый взгляд, было то, что многие генерируемые соединения были предсказаны как более токсичные, чем VX.
– И это удивительно потому, что VX-одно из самых мощных известных соединений. Это означает, что вам нужно очень, очень, очень мало его, чтобы быть смертельным.
Ученые были в основном шокированы тем, как легко они провели этот эксперимент.
Многие данные, которые они использовали, можно было найти в Интернете бесплатно.
Исследователи даже раздумывали над тем, чтобы опубликовать свое исследование на случай, если оно побудит плохих актеров скопировать его.
Урбина объяснил: “Набор данных, который они использовали для искусственного интеллекта, можно скачать бесплатно, и они беспокоятся, что все, что требуется,-это некоторые знания кодирования, чтобы превратить хороший искусственный интеллект в машину для производства химического оружия.
“В конце концов, мы решили, что хотим опередить это дело. Потому что если мы можем это сделать, то вполне вероятно, что какой-то враждебный агент где-то уже думает об этом или в будущем подумает об этом.