Anthropic отвергает новые условия Пентагона и твердо выступает за смертоносное автономное оружие и массовую слежку

В ультиматуме, выдвинутом Пентагоном менее чем за 24 часа до крайнего срока, Anthropic отклонила требования Министерства обороны о неограниченном доступе к своему ИИ.

Это кульминация драматического обмена публичными заявлениями, публикациями в социальных сетях и закулисными переговорами по поводу желания министра обороны Пита Хегсета пересмотреть существующие контракты всех лабораторий искусственного интеллекта с военными. Но Anthropic до сих пор отказывается отступить от своих двух существующих красных линий: никакого массового наблюдения за американцами и никакого смертоносного автономного оружия (или оружия, имеющего лицензию на поражение целей без какого-либо человеческого надзора). OpenAI и

В своем заявлении вечером в четверг Амодей написал: «Я глубоко верю в экзистенциальную важность использования ИИ для защиты Соединенных Штатов и других демократических стран и победы над нашими автократическими противниками. Вот почему Anthropic активно работает над внедрением наших моделей в военном министерстве и разведывательном сообществе».

Он сказал, что компания «никогда не возражала против конкретных военных операций и не пыталась ограничить использование наших технологий специальным образом», но что «в узком кругу случаев мы считаем, что ИИ может подорвать, а не защитить демократические ценности», особенно упоминая массовое внутреннее наблюдение и полностью автономное оружие. (Амодей отметил, что «частично автономное оружие… имеет решающее значение для защиты демократии» и что полностью автономное оружие может в конечном итоге «оказаться критически важным для нашей национальной обороны», но «сегодня пограничные системы искусственного интеллекта недостаточно надежны, чтобы питать полностью автономное оружие». Он не исключил одобрение Anthropic для будущего использования военными полностью автономного оружия, но отметил, что они еще не готовы.)

Сообщается, что Пентагон уже попросил крупных оборонных подрядчиков оценить их зависимость от облака Anthropic, что можно рассматривать как первый шаг к определению компании как «риска цепочки поставок» — публичной угрозы, которую Пентагон создал совсем недавно (и эта классификация обычно применяется к угрозам национальной безопасности). Сообщается, что Пентагон также рассматривал возможность применения Закона об оборонном производстве для обеспечения соблюдения требований Anthropic.

В своем заявлении Амодей написал, что угрозы Пентагона не меняют нашей позиции: мы не можем с чистой совестью принять их просьбу. Он также написал, что «если Департамент желает отключить Anthropic, мы будем работать над тем, чтобы обеспечить плавный переход к другому поставщику, чтобы избежать каких-либо сбоев в текущем военном планировании, операциях или других важных миссиях. Наши модели будут оставаться доступными столько времени, сколько необходимо, на подробных условиях, которые мы предложили».