Держим антропную линию. по крайней мере на данный момент.
На этой неделе Пентагон связался с Anthropic и потребовал убрать ограждения в облаке моделей искусственного интеллекта, чтобы запретить массовое домашнее наблюдение и полностью автоматизированное оружие. Но согласно новому заявлению генерального директора, Anthropic отказывается это делать. Дарио Амодей, «Мы не можем с чистой совестью удовлетворить их просьбу», — пишет Джо.
На кону много денег. А что будет дальше, можно только догадываться.
Ранее на этой неделе министр обороны Пит Хегсет дал Anthropic крайний срок в 17:01 по восточному времени в пятницу, чтобы согласиться на отмену всех мер безопасности, пригрозив удалить облако из военных систем США или назвав компанию «риском цепочки поставок» — ярлык, используемый противниками США, который никогда раньше не применялся к американским компаниям.
Хегсет, который называет Министерство обороны Военным министерством, также пригрозил применить Закон об оборонном производстве, который теоретически позволит Пентагону требовать от Anthropic, чтобы он делал все, что хочет Хегсет.
Амодей В письме, опубликованном в Интернете в четверг, поясняется: «Эти две последние угрозы по своей сути противоречивы: одна называет нас угрозой безопасности; другая называет облако необходимым для национальной безопасности». Эксперты назвали противоречивые сообщения Хегсета «непоследовательными», и этот ярлык можно было бы применить и в более широком смысле к режиму Трампа.
Anthropic, у которой есть контракт на 200 миллионов долларов с Министерством обороны, сообщила CBS News, что «лучшее и окончательное предложение» Пентагона, отправленное в среду, имело недостатки, которые позволяли военным обойти систему безопасности.
Сообщается, что Anthropic заявила: «Новая формулировка была юридически добавлена в качестве компромисса, который позволил бы игнорировать эти гарантии по своему желанию. Несмотря на недавние публичные заявления Dow, эти узкие гарантии были сутью наших разговоров в течение нескольких месяцев».
Новое письмо, опубликованное Антропный на Т«Хурсдей» обязательно отметил, что компания ИИ работает с военными и разведывательными сообществами, и они «готовы продолжать свою работу по поддержке национальной безопасности Соединенных Штатов». Но требовать отказа от всех мер безопасности — это заходит слишком далеко.
«Anthropic понимает, что военные решения принимает военное министерство, а не частные компании. Мы никогда не возражали против конкретных военных операций и не пытались ограничить использование наших технологий». неофициальный Маннер», — написали в компании.
«Однако в некоторых случаях мы считаем, что ИИ может подорвать демократические ценности, а не защитить их. Некоторые виды использования даже выходят за рамки того, что сегодняшние технологии могут делать безопасно и надежно».
Компания перечислила два случая использования, когда, по ее мнению, меры безопасности необходимы для защиты интересов США. В разделе о массовой бытовой слежке Амодей вставить слово одомашненный Выделено курсивом, как бы предупреждая американцев в более широком смысле о том, что происходит прямо у нас под носом.
В письме говорится, что правительство может приобретать «подробные записи о передвижениях американцев, просмотре веб-страниц и организациях из открытых источников без получения ордера», что явно нарушает права американцев. Пентагон заявил, что у него нет планов массовой слежки за американцами, заявив CNN, что конфликт с Anthropic “не имеет ничего общего с массовой слежкой и использованием автономного оружия”.
второй том АмодейВ письме, касающемся автономного оружия, признается, что оружие с искусственным интеллектом уже используется на полях сражений в таких местах, как Украина. Но он предупреждает: «Системы Frontier AI недостаточно надежны, чтобы питать полностью автономное оружие». В письме далее говорилось: «Мы предложили напрямую работать с военным министерством над исследованиями и разработками для повышения надежности этих систем, но они не приняли это предложение».
Амодей Во вторник состоялась встреча с Хегсетом, которую CNN назвал «сердечной», но, очевидно, будет интересно посмотреть, к чему она приведет.
Хегсет не известен как особо умный или рассудительный парень, поэтому вполне возможно, что он пытается изобразить Anthropic как угрозу национальной безопасности и настолько важную часть американской военной машины, что, по сути, он будет принуждать компанию делать то, что он хочет. Похоже, мы все узнаем к концу пятницы.
