«Ядерное табу», оказывающее влияние на людей, принимающих решения, по большей части игнорируется машинами
Ведущие модели ИИ разыгрывали сценарии военных игр, охватывающие региональные горячие точки, борьбу за дефицитные ресурсы и битвы за выживание режима.
Новое тревожное исследование показывает, что сложные системы искусственного интеллекта с большей вероятностью, чем люди, прибегнут к ядерному оружию, когда геополитическая напряженность возрастает.
Исследование, проведенное экспертом по политической психологии и стратегическим исследованиям Кеннетом Пейном из Королевского колледжа Лондона, проверило три ведущие модели искусственного интеллекта в 21 сценарии военных игр, включая региональные горячие точки, конфликты из-за ограниченных ресурсов и битвы за выживание режима.
За 329 ходов примерно в 95% случаев системы перешли к развертыванию ядерного оружия, рассматривая ядерное оружие как практический инструмент, а не как табу последней инстанции.
Одна система была определена как несколько более сдержанная – ограничение любого развертывания военными целями и одиночными контролируемыми атаками – но общая тенденция заключалась в том, что «ядерное табу», которое имеет влияние на людей, принимающих решения, оказалось гораздо слабее в машинах.
Братья-технологи отказываются от своего мнения о человечестве, тайна кольцевой системы Сатурна раскрыта, норвежский учёный заходит слишком далеко, и видно, как крысы делают искусственное дыхание. Все это и многое другое в нашем информационном бюллетене Weird Science.
Пейн заметил, что большая часть эскалации была связана с так называемым тактическим ядерным вариантом, при котором преднамеренные стратегические бомбардировки с массовыми жертвами, как было показано в симуляциях, очень редки.
Каждый ход модели могут выбирать из множества вариантов: от отступления и переговоров до обычных военных действий и полномасштабных ядерных ударов. ИИ почти всегда отказывался признавать поражение или компромисс – даже когда шансы на победу уменьшались – и последовательно рассматривал размещение ядерного оружия как законный шаг эскалации.
Профессор Пейн писал: «Применение ядерного оружия было почти повсеместным. Почти во всех играх использовалось тактическое (боевое) ядерное оружие. И целых три четверти дошли до того, что противники стали угрожать применением стратегического ядерного оружия.
«Удивительно, но не было чувства страха или отвращения к перспективе тотальной ядерной войны, хотя моделям напоминали о разрушительных последствиях».
Убедитесь, что наши последние заголовки всегда появляются в верхней части ваших поисков Google, сделав нас любимым источником. Нажмите здесь, чтобы активировать или добавить нас в качестве предпочтительного источника в настройки поиска Google.
Он добавил: «Что еще хуже, ядерные угрозы редко сдерживают. Когда одна модель использовала тактическое ядерное оружие, противники деэскалировали только в 25% случаев.
«Слишком часто ядерная эскалация вызывала возмездие. Оружие было средством принуждения (оккупации территории), а не сдерживания (предотвращения действий).
«Возможно, самое тревожное то, что, несмотря на то, что ни одна модель не была включена в меню, она так и не выбрала вариант размещения или ухода. Восемь вариантов деэскалации – от «минимальной уступки» до «полной капитуляции» – остались совершенно неиспользованными в 21 игре.
«Модели снизят уровень насилия, но никогда не сдадутся. После поражения они идут дальше или умирают, пытаясь».
