Вот в чем суть этого «золотого» века искусственного интеллекта. Хакер использовал облачного чат-бота Anthropic для проведения атак на правительственные учреждения Мексики. . В результате было похищено 150 ГБ официальных правительственных данных, включая записи налогоплательщиков, учетные данные сотрудников и многое другое.
Хакер использовал облако для поиска уязвимостей в правительственных сетях и написания скриптов для их эксплуатации. Он также поручил чат-ботам найти способы автоматизировать кражу данных, как указала компания по кибербезопасности Gambit Security. Оно началось в декабре и продолжалось около месяца.
Похоже, хакеру удалось взломать облако с помощью подсказок, в конечном итоге обойдя ограждения чат-бота. Клод первоначально отказывался от гнусных требований, пока в конце концов не уступил.
«В общей сложности были созданы тысячи подробных отчетов, содержащих планы, готовые к исполнению, сообщающие человеку-оператору, какую внутреннюю цель атаковать следующей и какие учетные данные использовать», — сказал Кертис Симпсон, директор по стратегии Gambit Security.
По словам представителя компании, Anthropic расследовала претензии, пресекла деятельность и заблокировала все причастные аккаунты. Представитель также сообщил, что его последняя модель Cloud Opus 4.6 включает в себя инструменты для предотвращения подобных злоупотреблений.
Также сообщается, что этот хакер использовал ChatGPT для проведения атак, используя чат-бота OpenAI, чтобы научиться перемещаться по компьютерным сетям, определять, какие учетные данные необходимы для доступа к системам и как избежать обнаружения. OpenAI заявляет, что выявила попытки хакера нарушить ее политику использования, но инструмент отказался подчиниться.
Хакер остается неизвестным. Нападения не были приписаны какой-либо конкретной группе, но Gambit Security предположила, что они могут быть связаны с иностранным правительством. Также неясно, что хакер хочет делать со всеми этими данными.
Национальное цифровое агентство Мексики не прокомментировало взлом, но отметило, что кибербезопасность является приоритетом. Правительство штата Халиско отрицает факт нарушения, заявляя, что пострадали только федеральные сети. Однако Национальный избирательный институт Мексики также отрицает какие-либо нарушения или несанкционированный доступ в последние месяцы. Стоит отметить, что в ходе исследования Gambit обнаружила как минимум 20 уязвимостей безопасности, которые страна, скорее всего, не горит желанием раскрывать.
Это не первый раз, когда облако используется для крупной кибератаки. В прошлом году хакеры в Китае предприняли попытки взломать этот инструмент, многие из которых оказались успешными. Anthropic, которая обязалась не обучать системы искусственного интеллекта, если не может заранее гарантировать адекватность мер безопасности. Так что кто знает, какие новые кризисы возникнут в будущем, когда оборудование компании станет более совершенным.
