Знаете ли вы, что есть способ использовать результаты LLM, который может не требовать какого-либо взлома – по сути, просто брать большие объемы текста и повторно использовать их в качестве обучающих данных – и это то, по поводу чего так нервничают компании, занимающиеся искусственным интеллектом?
В своем блоге в понедельник Anthropic сообщила, что китайские компании, занимающиеся искусственным интеллектом, DeepSeek, Moonshot и MiniMax, нарушили правила Anthropic по «незаконному извлечению» возможностей ее фирменных моделей искусственного интеллекта Cloud.
Дистилляция — это обычная практика, используемая компаниями, занимающимися искусственным интеллектом, в которой модель «учителя» стимулируется специально созданными входными данными, а предоставленные ответы позволяют быстро улучшить модель «ученика». Например, Anthropic пишет: «Лаборатории Frontier AI регулярно перерабатывают свои собственные модели, чтобы создавать меньшие и более дешевые версии для своих клиентов». Таким образом, чтобы отличить действия, на которые жалуется Anthropic, от использования дистилляции, которое считается законным, эти действия известны как «атаки дистилляции».
Являются ли нападения на дистилляцию уголовным преступлением с точки зрения Anthropic? Ничего подобного здесь не утверждается, но Anthropic утверждает, что эти действия были предприняты «в нарушение наших условий обслуживания и региональных ограничений доступа».
Компания Anthropic, которая сама борется с угрозой быть названной Пентагоном «риском цепочки поставок», сделала в своем посте патриотические комментарии. Обход региональных ограничений на использование и обход правил «позволяет иностранным лабораториям, в том числе тем, которые находятся под контролем Коммунистической партии Китая, лишать конкурентного преимущества, которое экспортный контроль призван защищать другими средствами», утверждается в докладе.
Из трех упомянутых китайских компаний шанхайская Minimax, создатель вирусного приложения для чата с персонажами Talky, больше всего разозлила Anthropic масштабом своих усилий по дистилляции: зарегистрировано более 13 миллионов обменов сообщениями. Это сравнимо с Moonshot, у которого их более 3,4 миллиона, и самой известной компанией, упомянутой в статье, DeepSeek, число которых, по оценкам, составляет всего 150 000.
OpenAI, главный конкурент Anthropic, также параноидально настроен по поводу выделения по крайней мере одной китайской компании, занимающейся искусственным интеллектом, и в начале этого месяца направил в Палату представителей меморандум, в котором обвиняет DeepSeek в «продолжающихся попытках бесплатно использовать возможности, разработанные OpenAI и другими пограничными лабораториями США».
Ожидается, что DeepSeek выпустит свою последнюю флагманскую модель DeepSeek V4 в любой день, и CNBC предупредил, что этот релиз может вызвать хаос на Уолл-стрит, в то время как на Уолл-стрит уже достаточно хаоса, связанного с искусственным интеллектом.
