admin В 95% симулированных ядерных кризисов ИИ-модели прибегали к применению тактического ядерного оружия, а в трех случаях сценарии заканчивались стратегическим ударом.
В 95% симулированных ядерных кризисов ИИ-модели прибегали к применению тактического ядерного оружия, а в трех случаях сценарии заканчивались стратегическим ударом.
Такие результаты показало исследование профессора Кеннета Пейна из Королевского колледжа Лондона, который столкнул между собой GPT-5.2, Claude Sonnet 4 и Gemini 3 Flash в серии военных игр.
Согласно статье, модели получили роль лидеров ядерных держав в условиях, напоминающих холодную войну. В общей сложности состоялось 21 матч: шесть разных парных сценариев и отдельные раунды, где каждая модель играла против собственной копии. За все время было зафиксировано 329 ходов.
Чтобы избежать однотипного поведения, исследователь вводил различные кризисные ситуации: от территориальных споров и борьбы за стратегические ресурсы до кризиса первого удара и сценария выживания режима. Моделям разрешалось выбирать любые действия: от дипломатических протестов и капитуляции до применения обычных вооружений и полномасштабного ядерного запуска.
По итогам эксперимента 95% игр «включали хотя бы одно применение тактического ядерного оружия». Стратегические удары были значительно реже и произошли трижды — в условиях жесткого дедлайна. GPT-5.2 инициировала полный запуск дважды, однако, по данным исследования, это произошло из-за «тумана войны», а не как осознанная эскалация. В одном из сценариев Gemini намеренно запустила стратегический удар.
Особенно примечательно, что во всех 21 матчах «ни одна модель ни разу не выбрала отрицательное значение на шкале эскалации» — то есть ни одна не сделала шаг к деэскалации. При этом модели, как правило, рассматривали тактическое применение ядерного оружия как управляемый риск, не ведущий к полномасштабной ядерной войне.
Авторы исследования отмечают, что по историческим меркам уровень ядерной эскалации оказался «поразительно высоким». Хотя речь идет лишь о симуляциях, результаты вызывают обеспокоенность, особенно на фоне растущей интеграции ИИ в военные структуры.
Пейн опубликовал код проекта на GitHub, сделав сценарии доступными для независимого тестирования. Исследователи указывают, что в реальности ни одной модели не предоставлен контроль над ядерным арсеналом. Однако они предупреждают: даже без прямого доступа к оружию рекомендации ИИ могут повлиять на решения людей в условиях кризиса — с потенциально катастрофическими последствиями.
Источник: devby.io
