Непробиваемый мapaзм цифровизации. «Искусственный интеллект» совершает всё больше ошибок

Об опасности безудержной цифровизации умные люди говорят всё чаще.

Но большинству кажется, что все эти предупреждения касаются далёкого будущего. Это суровая ошибка. Словарь синонимов русского языка даёт такое определение понятию «мapaзм» – это вырождение, деградация.

Да-да. Цифровизация начала деградировать, едва родившись. Её повело не в ту степь, точнее, повели – вместо пользы людям из неё решили сделать тотального надсмотрщика. Но «силы природы» тут же включили свой неподвластный нам юмор – вместо облегчения и ускорения всевозможных операций и процедур цифровизация принесла их усложнение, бюрократизацию и замедление. Всё это происходит на фоне постоянной путаницы, сбоев, хаоса, а иногда и преднамеренного вредительства.

Очень показательный, просто классический случай цифрового мapaзма произошёл на этой неделе. Он просто просится на страницу текста, чтобы о нём рассказали.

Понадобилось мне оформить доступ к электронной медицинской карте. Для москвичей эта возможность предусмотрена на портале городских электронных услуг mos ru. Казалось бы – что может быть проще для человека, пользующегося этим порталом уже десятилетие. Благодаря постоянной активности и указанию полных подробных сведений моей учётной записи был автоматически присвоен статус «полной», о чём меня известили по электронной почте:

Непробиваемый мapaзм цифровизации. «Искусственный интеллект» совершает всё больше ошибок

Я заполнил все необходимые для получения медкарты данные на странице портала, приложил скан паспорта (сейчас при стандартной учётной записи уже требуют и цветную фотографию, на которой вы держите свой действующий паспорт РФ в раскрытом виде на первом развороте, но для ПОЛНОЙ учётной записи это не требуется) и отправил заявку.

Через сутки мне пришёл отказ следующего содержания:

«Вам отказано в предоставлении услуги в связи с отсутствием на прикрепленной фотографии изображения заявителя, держащего в руках первый разворот действующего паспорта РФ. Вы можете повторно подать запрос, но перед этим рекомендуем ознакомиться с требованиями к фотографии https://www.mos.ru/pgu/common/photo.pdf, либо обратиться в любой удобный центр госуслуг «Мои Документы» для подтверждения личности и получения «полного» доступа к «личному кабинету» на mos.ru. Для пользователей с «полным» доступом прикрепление фотографии не требуется».

Непробиваемый мapaзм цифровизации. «Искусственный интеллект» совершает всё больше ошибок

И вот тут я был немного обескуражен. Атака мapaзмом искусственного интеллекта оказалась слишком невообразимой. Требовать «полного доступа» от обладателя «полного доступа» и на основании имеющегося «полного доступа» отказывать в предоставлении услуги «полного доступа»? Запрещать мне доступ к моей же медицинской карте? Это как?!!

Собянин, браво! Браво, Департамент информационных технологий города Москвы! Браво, Департамент здравоохранения! Вы наглядно продемонстрировали – как «машина» легко может вычеркнуть человека без всяких оснований, причин и с полной невозможностью что-либо сделать. Сиди, читай: «Вам отказано в предоставлении…», хоть учитайся, ничего изменить нельзя.

Я, конечно, отправил обращение через электронную приёмную этого портала с темой «Необоснованный отказ в предоставлении доступа к моей медкарте». Но ответ будет только через месяц. Быстрее цифровой искусственный интеллект, видимо, работать не умеет. Всё, как и 30 лет назад.

Это очень неприятная ситуация. Хуже может быть только, когда вы звоните по важному срочному вопросу в какую-либо службу и вместо человека вынуждены разговаривать с роботом, который бестолково и безрезультатно гоняет вас по кругу по алгоритму: «Нажмите один, нажмите два, нажмите три…», а потом бросает трубку.

Мощь и сила цифровизации и «искусственного интеллекта» постоянно проявляются и в рекламе – когда вам неделями навязчиво подсовывают товар, который вы уже давно купили в каком-нибудь интернет-магазине. Можно, конечно, закрыть навязчивое окно и нажать кнопочку «уже приобретено», но тогда «интеллект» начнёт предлагать вам ещё что-нибудь ненужное. А бывают и более пугающие вещи – вдруг появляется реклама того, чего вы никогда в сети не искали, но только что обсуждали вслух. Обычно так случается, если рядом находился смартфон, подключённый в данный момент к сети по Wi -Fi . Получается, даже если никаких программ голосового ввода на смартфоне не установлено, он всё равно «слушает», куда-то передаёт, а потом некий «аналитический центр» возвращает вам результат в виде рекламы. И выдаёт на все компьютеры, подключённые к данному IP -адресу через роутер. Но ведь это уже прямое преступление! Вмешательство в частную жизнь!

Получил широкую известность недавний случай, когда алгоритм «искусственного интеллекта» одной широко известной соцсети едва не заблокировал пожизненно аккаунт Риты Рич-Малкахи, 81-летней женщины из Австралии, за то, что она размещала фото связанных ею игрушек – разноцветных поросят, предлагая их для продажи. Алгоритм «искусственного интеллекта» ужаснули слова «белый» и «свинья», которые пожилая женщина использовала в одном из комментариев. После потери мужа в 2020 году женщина, чтобы отвлечься, решила связать сто свинок, продать их, а вырученные средства отдать благотворительному фонду для поддержки сирот. В одном из комментариев она позволила себе словосочетание «white pigs » («белые свинки/свиньи»). За это на неё тут же обрушился искусственный «интеллект», обвинив в xeйтcпиче – использовании языка нeнaвиcти. А женщине всего лишь нравились поросята, вязанные белые поросята.

Белые свинки Риты Рич-Малкахи. Фото : medialeaks.ru/2602fmp-str-white-pigs
Белые свинки Риты Рич-Малкахи. Фото : medialeaks.ru/2602fmp-str-white-pigs

В этом и состоит один из двух ужacов цифровизации – в её непробиваемом мapaзме. (Второй – это отсутствие дублирующих аналоговых систем, которые могли бы спасти в ситуации, когда все цифровые системы выйдут из строя.) Цифровые детища рук человеческих всё чаще совершают бредовые ошибки, в результате которых человек оказывается в абсолютно беспомощной, тупиковой ситуации, которую невозможно исправить, так как больше не к кому обратиться (случай с австралийкой, где в итоге разобрались – исключение). А если теоретически и есть к кому, то решение может быть принято только через месяц, а то и неизвестно когда. А если это вопрос жизни? А если решение не требует отлагательств? На эти вопросы цифровизация не даёт ответа. Человечество само себя загоняет в тупик.

Десять лет назад нам говорили, что это ошибки роста, становления «цифровизации». Оказалось – нет. Чем взрослее она становится, тем больше ошибок начинает совершать. И тем выше становится цена этих ошибок, поскольку на откуп ей отдано всё.

Источник

Будьте в курсе!

Подпишитесь на информационную рассылку.
Периодичность 1 раз в неделю.
Об особо важных событиях проинформируем дополнительно.