Роботы-убийцы AI должны быть объявлены вне закона, говорит глава ООН

Машины, которые могут решить убить людей, — это "морально отвратительный", — говорит генеральный секретарь ООН Антониу Гутерриш.

Стив Рейнджер | 6 ноября 2018 — 10:27 GMT (02:27 PST) | Тема: Искусственный интеллект

Оружие, использующее искусственный интеллект (ИИ) для выявления и уничтожения людей, должно быть запрещено по международному праву, предупредил генеральный секретарь Организации Объединенных Наций Антониу Гутерриш.

Больше робототехники

Он видит вооружение ИИ как "серьезная опасность",

"Перспектива машин, которые сами по себе могут выбирать и уничтожать цели, создаст огромные трудности, чтобы избежать эскалации конфликта и гарантировать соблюдение гуманитарного права и права прав человека на поле боя," он сказал.

Улучшение ИИ делает автономное оружие, которое могло бы распознать и нанести удар по человеческим целям правдоподобной перспективой в ближайшем будущем.

Но критики утверждают, что автономное оружие никогда не сможет соответствовать основным правилам войны — например, проводить различие между солдатами и гражданскими лицами или понимать понятия, такие как пропорциональность в войне.

Также неясно, кто будет подотчетен, если автономное оружие пойдет не так на поле битвы или будет взломано. И хотя ряд стран призвали к запрету на так называемые «смертоносные автономные системы оружия», это не поддерживается всеми странами.

Выступая на конференции технологий Web Summit в Лиссабоне, Португалия, Гутерриш сказал, что сообщение очень ясное.

"Машины, обладающие полномочиями и свободой выбора для жизни людей, являются политически неприемлемыми, морально отвратительны и должны быть запрещены международным правом," он сказал.

Гутерриш также использовал свое выступление на мероприятии, чтобы предупредить о воздействии ИИ на рабочие места и общество.

"Мы увидим огромное количество рабочих мест и уничтожаем огромное количество старых рабочих мест," он сказал.

"Трудно узнать, какой номер будет больше, но эти рабочие места будут совсем разными, и поэтому мы столкнемся с огромной безработицей. Вы столкнетесь с нарушениями в обществах, и ясно, что мы не готовы к этому, и мы недостаточно подготовимся к этому."

Гутерриш сказал, что новое поколение систем безопасности будет необходимо для тех, кто остался после революции ИИ.

Роботы-убийцы AI должны быть объявлены вне закона, говорит глава ООН

Генеральный секретарь ООН Антониу Гутерриш: "Машины, обладающие полномочиями и свободой выбора для жизни людей, являются политически неприемлемыми, морально отвратительны и должны быть запрещены международным правом."

Изображение: веб-саммит / YouTube

Предыдущее и связанное с этим покрытие

Lenovo заявила, что будет использовать магазин для испытания и оттачивать свои планшеты, распознавание лиц, искусственный интеллект и технологии электронных платежей в живой розничной среде.

Прорыв может иметь последствия для обработки квантовой информации и будущего хранения.

Запуск исследует способы визуализации автомобиля для решения реальных проблем.

Инновационный фонд CSIRO провел раунд финансирования, который позволит увидеть, как Emesent будет расти с семи до 25 человек.

Этот робот ограничивает свою среду и самостоятельно решает, что ему нужно сделать, чтобы выполнить свою работу.

Частичная или общая автономия, в которой пользователь сохраняет большую часть контроля, представляет собой недолговечную революцию в наших отношениях с машинами.

Исследователь Gartner Пол Делори объясняет основную ценность RPA для фронтовых работников, проблемы, которые он представляет, и как это повлияет на работу.