Искусственный интеллект может превратить автономное оружие на роботов-убийц. Почему это действительно страшно

Специалисты требуют запретить автономное оружие

116 ведущих экспертов в области робототехники и искусственного интеллекта (ИИ) призывают Организацию Объединенных Наций (ООН) запретить разработку и использование роботов-убийц. Среди них числа оказался миллиардер и изобретатель Илон Маск.

Это не первый раз, когда Маск призывает осторожнее относится к новым разработкам в сфере ИИ. Еще в начале августа, когда ИИ обыграл опытного игрока DotA 2, миллиардер предупредил об опасностях искусственного интеллекта. Маск считает, что ИИ представляет собой «гораздо больший риск», чем ядерные возможности Северной Кореи.

Илон Маск и Мустафа Сулейман (основатель компании DeepMind Technologies, Google которая занимается развитием технологий ИИ) возглавили 116 экспертов из 26 стран. Все они призывают к запрету автономного оружия.

ООН еще в 2015 году планировали конференцию, чтобы обсудить применение автономного оружия: беспилотные летательные аппараты, танки и автоматические пулеметы. Однако тогда у организации не хватило средств, чтобы основать новый комитет.

В ноябре ООН вновь собирает конференцию, чтобы обсудить отложенные вопросы. В преддверии этого события, группа основателей компаний ИИ и робототехники отправила открытое письмо в ООН, призывающее предотвратить гонку вооружений, которая в настоящее время заключается в разработке роботов-убийц. В своем письме к ООН участники предупреждают, что эта гонка вооружений с использованием робототехники угрожает вступить в стадию «третьей военной революции» после изобретения пороха и ядерного оружия.

По мнению экспертов, подобное оружие только увеличит площадь военных действий, а также увеличит количество смертей мирных жителей. Автономное оружие превратится в инструмент террора, его будут использовать деспоты.

«Мы не должны долго раздумывать. Как только ящик Пандоры откроется, его будет трудно закрыть», - говорится в письме.

Почему нужно запретить автономное оружие уже сейчас

Эксперты уверены, что технология ИИ достигла точки, когда изготовление  автономного оружия возможно уже через несколько лет, а не десятилетий.

ИИ можно использовать для того, чтобы обезопасить поле битвы для военных. Пускай роботы сражаются за людей. Однако специалисты опасаются, что если военные не будут физически участвовать в боях, то сражение станет более масштабным и смертоносным.

Страх за жизнь зачастую ограничивает действие военных. Но у роботов не будет подобных инстинктов — они будут убивать без страха и жалости, как можно быстрее, пока не сломаются. Человеку, в отличии от робота, нужно гораздо больше времени на принятие решения.  Помимо этого, любая техника может дать сбой, а компьютер “взломан” преступниками.

«В отличие от других потенциальных проявлений ИИ, которые до сих пор остаются в области научной фантастики, автономные системы оружия уже сейчас находятся на пороге изготовления. Они могут нанести много вреда мирным жителям и принести глобальную нестабильность», рассказал основатель Clearpath Robotics Райан Гарипи для the Guardian.

Именно поэтому группа экспертов во главе с Маском и Сулейманом требуют расширить список запрещенного оружия, который был принят конвенцией ООН в 1983 году. В список запрещенного оружия уже входят химическое и биологическое оружие, ослепляющее лазерное оружие, разрывные боеприпасы, осколки которых невозможно обнаружить рентгеновским лучом. Также конвенция ограничивает возможность использования противопехотных мин.

А не слишком ли поздно

Название “роботы-убийцы” сразу вызывает в воображении изображения из научной фантастики — Терминатора или Robocop. Однако смертоносное автономное оружие уже используется.

Например, корейская компания Samsung производит не только смартфоны, но и боевых роботов с 2006 года. Например, робот-страж Samsung SGR-A1 уже охраняет границу между Северной Кореей и Южной Кореей. Подобные роботы-пограничники, которых компания Samsung разработала по заказу правительства, первая в своем роде автономная система.

робот-страж Samsung SGR-A1

Технически, робот способен стрелять самостоятельно. Он так же способен “окликнуть” нарушителя границ, и если человек не сможет сказать кодовое слово, робот откроет огонь на поражение. Однако южнокорейское правительство отрицает, что роботы переведены в подобный автономный режим. По их словам, на данный момент роботами управляет человек-оператор.

Но роботы-пограничники уже не единственные автономные боевые системы. Например, боевой “невидимый” дрон Великбритании — “Taranis”, названный в честь кельтского бога грома. Это первый, автономный и невидимый бомбардировщик с большим радиусом действия. Так как дрон автономный, оператор к нему не подразумевается. Машина будет действовать самостоятельно, согласно программе.

“Taranis” прошел тестирования еще в 2013 году, в пустыне Австралии. Дрон может летать до 24 часов, различать цель и атаковать её без вмешательства человека.  

Так же как и корейцы, группа британских разработчиков (BAE Systems) в начале говорила, что не собираются использовать дрон в боевых действиях, а лишь хотели проверить свои возможности. Однако к 2030 автономный дрон заменит пилотируемые человеком самолеты Tornado GR4 в британском ВВС.

У подобных “воинов” есть этическое преимущество — они не чувствуют ненависти или страха. Не умеют врать, их нельзя убедить в чем-то. Подобные автоматизированные военные технологии изменят характер войны. Ящик Пандоры уже открыт, несмотря на старания Маска предотвратить это.