ENG
Военному ИИ разрешили убивать самому, без проверки человеком. По данным The Washington Post, это случилось в европейском отделении ООН в Женеве. С 31 августа по 4 сентября там заседала группа экспертов ООН — они составляли будущий договор об автономном оружии, системах, которые сами находят цель и атакуют без участия человека.
Над этими правилами работали больше десяти лет. Главный вопрос: можно ли доверить машине решение, убивать человека или нет. Больше 70 стран были готовы начать переговоры о договоре: одни такие системы запретить совсем, другие разрешить только под контролем человека. В итоге из проекта исчезло требование, чтобы человек до удара проверял цель, выбранную ИИ.
Сообщая об этой новости, известный общественный деятель и блогер Олег Царев пишет в своем телеграм-канале:
«Восемьдесят лет назад фантаст Айзек Азимов сформулировал три закона робототехники, они были логичны и всеми воспринимались как догма:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
В Женеве главный закон робототехники отменили. Роботу официально разрешили убивать людей самому.
Хорошо, что Россия и США договариваются и действуют вместе. Мы давно видим это по ООН: Америка больше не голосует за антироссийские резолюции. И хорошо, что они в принципе договариваются хоть о каких-то ограничениях для военного ИИ — нынешняя версия договора, как пишут, многое разрешила, но наверняка что-то да запретит. Любая договорённость лучше, чем её отсутствие, когда каждый делает что хочет.
А что человека из цепочки уберут — у меня, к сожалению, сомнений не было. Когда стоит вопрос о разработке более эффективного оружия, в гуманизм не играют. Любое открытие человек приспосабливал для того, чтобы убивать себе подобных. ИИ — оружие не менее смертоносное, чем ядерное, а может, и более. Ядерное оружие пытались запретить с первых лет его существования, и все попытки были обречены. Так же будут обречены и попытки запретить искусственный интеллект на войне.
ИИ находит и убивает быстрее и точнее, чем люди убивают людей. Простой пример: в воздушном бою человек — помеха. Пилот слишком медленно нажмёт на кнопку, и если против него система без человека, это будет стоить ему жизни. Машина уже получила право убивать сама, и это сейчас применяется на фронте. Дальше вопрос только в том, кто первым научится делать это лучше других. Если это оружие всё равно будет, надо постараться, чтобы у нас оно было лучше, чем у остальных.
В страшное время мы живём».
***
«В страшное время мы живём». Эта фраза звучит как фатализм, но она уводит от сути. Ведь новость из Женевы — это не случайность, не заговор злодеев и не трагедия недалёких дипломатов. Это абсолютно предсказуемый результат работы системы, где всё — включая человеческую жизнь — является ресурсом и товаром.
Законы Азимова — это прекрасная утопия, но они писались для идеального мира. В реальном капитализме любой закон, который мешает извлечению прибыли или достижению военного преимущества, будет отменён или обойдён.
Может ли что-то это изменить? Внутри этой системы — нет. Капитализм не может не убивать — он убивает на заводах, убивает в войнах, убивал в колониях. Просто раньше для этого нужен был человек с ружьём, а теперь — алгоритм. Это не «страшное время», это — закономерный этап развития капитализма.
И проблема не в самом искусственном интеллекте. ИИ — это просто инструмент. Он мог бы также управлять глобальной логистикой, моделировать климат, создавать лекарства и распределять блага. Но пока миром правит погоня за прибылью и жесткая конкуренция между государствами, любые технологии будут использоваться для создания более быстрого и дешевого оружия.
Система, в которой мы живем, всегда ставит эффективность выше человеческой жизни. Сначала человека убрали с конвейера, превратив в придаток станка. Теперь его убирают из цепочки принятия решений на войне, потому что «человек — помеха», он слишком медленный.
Может ли это что-то изменить внутри нынешней системы? Нет. Пока главная цель — нажива и превосходство над другими, роботы будут убивать. Чтобы технологии служили людям, а не уничтожали их, нужно общество, где во главе угла стоит не прибыль и не гонка вооружений, а благополучие и выживание каждого человека. Переход к такому обществу — это уже не просто вопрос справедливости. Это вопрос физического выживания всего нашего вида.
Алексей Алекин