После критики контролёров за нехватку персонала, ИИ будет проверять связи преподавателей, финансируемых Пентагоном, с Китаем
После того как федеральный контролёр установил, что штат из двух надзирателей недостаточен для проверки 27 000 исследовательских грантов на предмет связей с противниками, в частности с Китаем, Пентагон заявил, что теперь компьютеры будут скринировать финансируемых министерством обороны академиков, в том числе специалистов по искусственному интеллекту.
Этот шаг вызвал у заинтересованных сторон призывы не полагаться чрезмерно на алгоритмы, чтобы отличать, например, учёного-шпиона, передающего секретные планы по нанотехнологиям и энергии в Китай, от китайского профессора, публикующего исследования по безопасности ИИ. На кону, по словам ветеранов разведки и академиков, стоит технологическое превосходство войск.
Они предупреждают, что путаница ИИ относительно времени и характера исследовательских партнёрств может скрыть реальную шпионскую деятельность, если люди не будут окончательными арбитрами иностранного влияния; некоторые учёные опасаются повторения «Инициативы по Китаю» с ошибочными обвинениями, когда при первой администрации Трампа десяткам учёных этнического китайского происхождения были предъявлены обвинения в мошенничестве, а затем почти все обвинения сняли.
«Автоматизированные инструменты проверки чрезвычайно полезны для обработки больших массивов данных и выявления тревожных закономерностей. Но эти инструменты предназначены для поддержки принятия решений — чтобы помочь людям, человеческим аналитикам, учесть контекст и намерения», — сказал Дэвид Кэттлер, который до сентября возглавлял Агентство по контрразведке и безопасности Министерства обороны, занимающееся проверкой персонала, прошедшего проверку для получения допусков.
Возобновлённое внимание к безопасности академических исследований совпало с усилением напряжённости между США и Китаем в области ИИ: Китай наращивает как разработку дешёвых моделей ИИ, так и, по утверждениям США, эксплуатацию американских моделей.
В ежегодной оценке угроз разведсообщество США отмечает, что Китай «стремится сместить США с позиции мирового лидера в области ИИ к 2030 году» отчасти «за счёт большого пула талантов, обширных наборов данных, государственного финансирования и быстро растущих глобальных партнёрств».
Термин «партнёрство» в военных исследованиях базового характера — работах, доступных для публикации, а не закрытых или собственнических, с возможными оборонными применениями — сложен. Так, простое соавторство с учёным из Китая само по себе не является основанием для лишения американского исследователя финансирования, согласно меняющимся правилам по противодействию иностранному влиянию. Вместо этого Пентагону необходимо оценить раскрытия каждым учёным источников внешнего финансирования и их аффилиации.
Согласно недавно рассекреченному отчету генерального инспектора за май 2025 года, такие раскрытия не проверялись, потому что Пентагон не «запросил дополнительных штатных единиц государственных сотрудников для тщательной проверки… и для осуществления надзора за более чем 27 000 академическими研究ительскими грантами».
Издание Дефенс Ньюс впервые получило отчёт и ответ Пентагона на проект через запрос о доступе к документам.
На вопрос о выделении дополнительного персонала представитель Пентагона указал на приказы в январской директиве по безопасности исследований для Офиса начальника по цифровым технологиям и ИИ с просьбой определить «автоматизированные возможности проверки и непрерывного мониторинга» и создать общую базу данных исследовательских грантов.
Мандат также предусматривает годичную «оценку ущерба» по выбранным исследовательским сделкам, включая случаи, которые Выборочный комитет Палаты представителей по Китаю выделил, отчасти с использованием инструментов ИИ.
В сентябре отчёт комитета во главе с республиканцами утверждал, что Пентагон субсидировал 1 400 академических статей, опубликованных в период с июня 2023-го по июнь 2025 года, в которых имелись партнёрства с правительством Китая.
В четверг Пентагон в ответном электронном сообщении заявил, что ведомство «привержено защите целостности американских исследований при поощрении международного сотрудничества. Наш подход использует передовые аналитические инструменты для усиления человеческой экспертизы, обеспечивая строгий и справедливый процесс проверки».
Несколько представителей университетов, попросившие не называть их имён из‑за чувствительности дискуссий о политике, отмечают, что ранее оценки рисков с помощью ИИ делали неверные выводы о сотрудничестве между США и Китаем.
Так, подготовленный с помощью ИИ отчёт Республиканской партии в Палате представителей ошибочно обозначил Уханьскую национальную лабораторию оптоэлектроники как спонсора подборки из девяти эссе, тогда как лаборатория в Ухане поддерживала лишь одно эссе, не имевшее американских авторов или федерального финансирования.
В докладе также было ошибочно принято публикацию автора, связанного с китайскими военными, по одноэлектронным транзисторам за проект, финансируемый Министерством обороны США, тогда как в ней лишь ссылались на работу, финансировавшуюся американским военным.
Сотрудники Выборочного комитета Палаты представителей отказались комментировать эти случаи.
Предотвращение иностранного вмешательства «не сводится просто к обладанию лучшими возможностями ИИ, потому что мы знаем, что некоторые ошибки ИИ были теми же человеческими ошибками, которые привели к неточным обвинениям против исследователей в рамках Инициативы по Китаю», — сказал Тоби Смит, старший вице‑президент по государственным связям и государственной политике в Ассоциации американских университетов, узнав об ошибках с ИИ.
Около 30% из 77 дел в рамках Инициативы по Китаю касались учёных, не раскрывавших китайские партнёрства или источники финансирования, хотя раскрытие зачастую не требовалось или такие партнёрства и финансирование вовсе отсутствовали.
Присяжные признали виновным только одного профессора, нано-химика из Гарварда Чарльза Либера, после того как он солгал следователям Пентагона о своём участии в китайской программе по привлечению талантов и сделал другие ложные заявления.
Смит сказал, что полагание на прокси‑показатели — такие как соавторство, аффилиация или национальность — для вывода о рисках безопасности привело расследователей к путанице соавторства с прямым взаимодействием или совместным доступом к данным и к ошибочной интерпретации исторических связей как активных партнёрств.
«Системы ИИ, обученные на библиометрических данных и сведениях об аффилиациях, могут унаследовать те же ошибочные предпосылки, которые лежали в основе Инициативы по Китаю», — сказал он. «Главный урок Инициативы по Китаю в том, что выявление подлинного риска для безопасности исследований требует суждения, контекста и соразмерности — качеств, которые автоматизированные системы должны поддерживать, а не заменять».
Гисела Перес Кусакава, исполнительный директор форума азиатско‑американских учёных, заявила, что Пентагон не проинформировал, какие именно данные будут собираться, использоваться и передаваться новыми инструментами ИИ, и не привлёк сообщество к обсуждению, что усиливает опасения по поводу этнической профилизации.
В электронном ответе Пентагон отметил: «Для ведомства стандартной практикой является не предоставлять подробности относительно критериев и весов для оценки угроз, проводимых вручную или автоматически».
Кусакава сказала: «Нужно следить за тем, чтобы наша исследовательская среда была гостеприимной, чтобы мы поощряли эти таланты, особенно в области ИИ, приходить в США и, честно говоря, иметь семьи в США, делать эту страну местом, к которому они вносят вклад и в котором инвестируют своё будущее и будущее своих детей».
Всё чаще такие кадры ИИ не приезжают. Статистика показывает, что эксперты по ИИ китайского происхождения остаются в Китае, хотя США удавалось удерживать более ранних эмигрантов.
Из примерно 100 учёных китайского происхождения, которые работали в американских учреждениях в 2019 году и чьи статьи были приняты на наиболее престижной конференции по ИИ НейрИПС, 87% оставались в США по состоянию на 2025 год, согласно данным Фонда Карнеги за международный мир.
В то же время доля китайских специалистов, оставшихся в Китае, резко выросла с 2019 года, по подсчётам журнала Экономист. В 2019 году около 30% авторов НейрИПС, получивших образование в Китае, всё ещё работали в Китае. К 2022 году эта доля выросла до 58%, а к 2025 году достигла 68%.
Отсутствовали «ключевые» финансовые раскрытия
«Чтобы ни одна страна не монополизировала общие знания, цель не может состоять в полном закрытии американской исследовательской системы», — сказал Кэттлер, бывший директор Агентства по контрразведке и безопасности Министерства обороны и ныне основатель консалтинговой фирмы Айронхелм Уоркс. «Цель должна состоять в том, чтобы сотрудничество укрепляло национальную безопасность, а не непреднамеренно её ослабляло».
В прошлом году отчёт генерального инспектора сделал вывод, что подразделения Пентагона, сотрудничающие с академическими учреждениями, «могут подвергаться повышенному риску воздействия иностранного влияния», потому что военные подразделения «не имели ключевых документов», которые могли бы помочь установить внешние финансовые источники учёных, их внешних работодателей и другие детали, связанные с потенциальными конфликтами интересов.
Например, примерно 80% выборки транзакций финансирования ВВС в отчёте не имели документов, которые могли бы выявить проблемные связи. Кроме того, ВВС и Агентство перспективных оборонных исследовательских проектов — ДАРПА, финансировавшее изобретателей Интернета — сообщили оценщикам, что они не проверяли ежегодно, как это требуется, не участвуют ли исследователи, указанные в отчетах о ходе работ, в запрещённых программах по привлечению талантов.
В ответ на вопросы о пробелах в проверках Пентагон в электронном сообщении заявил, что ведомство «в курсе выводов Генерального инспектора в отчёте, и затронутые дирекции работают с Офисом заместителя министра обороны по науке и технике для устранения выявленных проблем».
Джеффри Стофф, специалист по китайскому языку и аналитик разведсообщества в течение 18 лет, уволившийся в 2021 году из‑за разочарования в сфере безопасности исследований, считает, что Министерству обороны всё ещё требуется больше человеческой экспертизы в языках, культуре и тонкостях ограничений в исследованиях.
«ИИ можно и нужно использовать для несложных, трудоёмких задач», таких как сопоставление иностранных организаций в формах финансовых раскрытий с названиями внесённых в чёрные списки сторон, но люди всё равно должны проверять работу ИИ, поскольку не все вредоносные связи можно распознать автоматически, — сказал Стофф, ныне выступающий за ужесточение мер безопасности как глава некоммерческой организации Центр безопасности и добросовестности исследований.
Кэттлер, давая ИИ больше кредитов, сказал, что масштаб исследовательского сотрудничества требует модернизации подхода Пентагона к выявлению потенциальных шпионов.
При таком большом числе исследовательских институтов и связанных с ними учёных, а также потоке часто дублирующих предупреждений автоматизация «улучшает соотношение сигнала и шума и может помочь направить людей к действительно важным вопросам», — сказал он.
«Иногда люди намеренно вводят в заблуждение при прохождении процедур, и это может происходить как в человеческом взаимодействии, так и в том, что может увидеть компьютер, но вместе человеческая проверка и проверка компьютера чрезвычайно мощны».
Алия Стернштайн — журналист‑расследователь, освещающая технологии, когнитивные науки и национальную безопасность. Она также является аналитиком исследований в юридическом факультете Джорджтаунского университета. Её работы на пересечении общественного здравоохранения и конституционных прав публиковались в Stanford Law Review, Arizona Law Review и других профильных юридических и медицинских журналах.
