Компании, разрабатывающие ИИ, обязаны защищать модели от эксплуатации, заявил главный технический директор Пентагона.
По мере того как компании в области искусственного интеллекта создают модели с потенциалом для военного применения, они обязаны проявлять заботу о своих системах, заявил главный технический директор Министерства обороны США. После недавнего указа президента Дональда Трампа об инновациях в сфере ИИ Эмил Майкл, заместитель министра обороны по научно-исследовательским и инженерным вопросам, сказал, что его беспокоит категория «кибероружия», которые компании выпускают, в частности Mythos от Anthropic.
«Эти компании несут ответственность за то, чтобы их оружие, то, что они называют потенциалом к военной эксплуатации этих моделей, — быть осторожными и вдумчивыми в том, что они делают», — сказал Майкл в четверг на первой саммите Building America, организованном The Washington Post.
Законодатели все чаще предупреждают о риске использования моделей ИИ в качестве оружия против граждан, бизнеса и госучреждений со стороны противников США, настаивая, чтобы при их создании учитывались надежные меры безопасности для защиты от взломов.
Во вторник Белый дом выпустил указ, который создает «центр по кибербезопасности ИИ», через который партнеры отрасли ИИ могут добровольно позволить Министерству обороны проверять их системы на уязвимости программного обеспечения до их выпуска.
Майкл сказал, что компании, у которых модели обладают «возможностью к военной эксплуатации», могут позволить федеральному правительству потратить 30 дней на изучение их систем. Правительство потенциально может выявить уязвимости по всей стране в системах с интеллектуальной собственностью, которые могли бы подвергаться взлому, таких как электросети или государственные больницы.
«Думаю, они все согласились и считают, что это хорошая идея. Это был хороший конструктивный процесс», — сказал Майкл. «Я отдам должное всем компаниям, Open AI, даже Anthropic, и Google за то, что они согласились, что это разумно».
Anthropic оказался исключен из сделок с Пентагоном после того, как фирма отказалась предоставить неограниченный доступ к своим моделям Claude для полностью автономного оружия и массового внутреннего наблюдения. Компания подала в суд на администрацию Трампа из-за того, что федеральное правительство назвало фирму риском для цепочки поставок в связи с ее решением ограничить военное использование своей технологии.
Mythos, новая модель Anthropic, подверглась критике, поскольку скептики программы указывают, что она может представлять опасность из‑за своих возможностей взлома и вопросов кибербезопасности. Anthropic представила предварительный просмотр модели и сообщила, что она способна находить пути эксплуатации уязвимостей в программном обеспечении.
Тем временем Министерство обороны интегрировало ИИ по всему департаменту. На вопрос на саммите о том, как правительство использует ИИ, Майкл сказал, что шесть месяцев назад только около 80 000 федеральных сотрудников ежемесячно пользовались ИИ. Сейчас, по его словам, их 1,5 миллиона; правительство «спешило» наращивать использование среди работников для повышения эффективности, разведки и ведения войны.
«Думаю, к концу этого года я был бы удивлен, если бы три четверти департамента не использовали ИИ в той или иной форме», — сказал Майкл. «Мы интегрировали всех крупнейших компаний в области ИИ за последние несколько месяцев, так что за один год мы добьемся прогресса больше, чем за предыдущие пять лет».
Кристина Стассис — репортер, освещающая темы, связанные с оборонной промышленностью, национальной безопасностью, делами военных и ветеранов и другие. Ранее она работала редакционным стажером в Defense News в 2024 году, где помогала редакции в освещении срочных новостей по Sightline Media Group.
