Китайские военные исследователи используют американские модели ИИ для обучения систем обороны
Китайские военные исследователи использовали выводы ведущих американских моделей искусственного интеллекта, разработанных OpenAI и Anthropic, для обучения отечественных систем ИИ с целью развития оборонных возможностей Китая, следует из обзора более 80 китайских научных статей и патентов, проведённого Reuters.
Ранее не публиковавшиеся результаты дают редкую возможность увидеть, как учреждения, связанные с военной и национальной безопасностью Китая, используют передовые американские модели ИИ в качестве кратчайшего пути к созданию собственных специализированных систем, несмотря на усилия Вашингтона по ограничению доступа Пекина к передовым чипам и другим стратегическим технологиям.
Документы демонстрируют широкое применение техники, известной как «дистилляция модели», при которой выводы мощной системы ИИ используются для обучения более мелких специализированных моделей, которые можно развернуть локально без огромных вычислительных ресурсов, необходимых для создания передовых систем ИИ с нуля.
Обзор Reuters, в который вошли исследования, собранные Вашингтонским фондом Jamestown и предоставленные агентству эксклюзивно, показал, что дистилляция широко применяется исследователями, связанными с Народно‑освободительной армией Китая (НОАК) и другими военными учреждениями.
Статьи свидетельствуют о том, что китайские оборонные учреждения рассматривают ведущие американские модели ИИ как источник технической информации и способ сократить отставание от американских конкурентов.
Спор сосредоточен на несанкционированном извлечении, а не на самой дистилляции, которая является широко используемой практикой в отрасли.
Этот вопрос стал серьёзной точкой напряжённости незадолго до переговоров США и Китая по нормативам и безопасности ИИ. Американские власти обвиняли некоторые китайские структуры в использовании дистилляции для извлечения возможностей из американских моделей ИИ, что потенциально подрывает экспортный контроль и нарушает права интеллектуальной собственности.
Китай отверг обвинения, заявив, что Вашингтон проводит политику «гегемонии» в сфере ИИ, и отмечая, что американские компании также практиковали аналогичные методы.
Китайские разработчики также оспаривали утверждения о том, что их достижения в ИИ опираются на иностранные модели. Стартап Moonshot на прошлой неделе отверг обвинения администрации Трампа в том, что его модель Kimi K3 была создана с использованием дистилляции, заявив, что она основана на собственных разработках.
Санни Чеунг, научный сотрудник фонда Jamestown, проанализировавший более 60 статей, сказал, что китайские военные учёные систематически извлекают рассуждения западных моделей, чтобы адаптировать их для наблюдения, кибервойн и тактического принятия решений.
«Научить модель правильному ответу — одно, но научить её рассуждению, лежащему в основе ответа, намного сложнее», — сказал Чеунг. «Эти статьи показывают, что исследователи, связанные с военными, пытаются перенести дорогостоящее, охраняемое право интеллектуальной собственности рассуждение из западных моделей в меньшие системы, которыми они могут управлять и развёртывать локально».
Reuters проверил академическую литературу и выявил дополнительно около двух десятков случаев, связанных с военными.
Одна статья, опубликованная в прошлом году исследователями из подразделения НОАК 96941, подразделения военной разведки и кибервойны в Пекине, описывала использование GPT-3.5 от OpenAI для обработки чувствительного военного исходного кода. Исследователи отметили, что сторонние модели непригодны для работы с секретной информацией. Чтобы преодолеть это ограничение, они использовали GPT-3.5 для суммирования кода и обучили отечественную модель на этих сводках, чтобы она работала полностью в сетях китайской армии.
В Белом доме, Пентагоне, Министерстве иностранных дел Китая, НОАК и OpenAI на запросы комментариев не ответили.
Китайские исследователи применяли дистилляцию для задач от мониторинга контента до военного развертывания, показал обзор Reuters и Jamestown.
В Северном университете Китая, имеющем тесные связи с оборонной промышленностью страны, исследователи использовали Claude 3 Haiku от Anthropic для генерации синтетических обучающих данных для модели классификации текста для мониторинга социальных сетей и модерации контента. Anthropic заявила, что не предоставляет коммерческий доступ к Claude в Китае или компаниям, контролируемым Пекином, и использует системы мониторинга для выявления нарушений политики. Компания добавила, что дистиллированные модели могут потерять встроенные механизмы безопасности оригинальных систем, что потенциально позволяет передавать чувствительные возможности моделям вне её контроля.
Статья 2024 года из Национального университета оборонных технологий НОАК описывала использование дистилляции для уменьшения размера модели обработки изображений для развертывания на беспилотных летательных аппаратах, что позволило дронам анализировать потоковое видео и поддерживать навигационные и целеуказательные решения в реальном времени даже при потере связи.
Аналогично, исследователи Академии военных наук Китая использовали дистилляцию, чтобы запускать модель распознавания целей на тактическом оборудовании во время имитационных морских операций с участием дронов, кораблей и беспилотных подводных аппаратов, показало исследование, опубликованное в этом году.
Китай широко использует дистилляцию в стремлении конкурировать с США в передовом ИИ, столкнувшись при этом с ограничениями доступа к передовым вычислительным ресурсам из‑за экспортных ограничений Вашингтона на высокопроизводительные чипы.
Центральные и местные власти продвигают «облегчение моделей» и периферийные вычисления, направляя субсидии и исследовательское финансирование в технологии, позволяющие моделям ИИ работать на дронах, спутниках и других устройствах с ограниченной вычислительной мощностью.
Эксперты, однако, предостерегают, что дистилляция имеет существенные ограничения.
По мере того как китайские модели ИИ сокращают отставание от американских аналогов, военные исследователи также исследуют дистилляцию как потенциальный риск для безопасности. В январе исследователи Инженерного университета армии опубликовали статью об угрозе «дистилляции без данных», методе обратного проектирования возможностей модели без прямого доступа к её основным параметрам. Чтобы противостоять этой уязвимости, они предложили механизмы защиты, предназначенные для маскировки скрытой логической информации, раскрываемой в публичных выводах модели.
Дистиллированные модели наследуют только отдельные возможности и не могут полностью воспроизвести широкий интеллект передовых систем.
Тревор Коверко, сооснователь компании по данным для ИИ Sapien, сказал, что дистиллированные модели остаются менее способными, чем их «учительские» модели. «Это лучше понимать как перенос отдельных возможностей в более дешёвую систему под локальным контролем, а не как достижение независимости от передового ИИ», — сказал он.
