Джеймс Помфрет и Джесси Пэнг
(Рейтер) - Лучшие китайские исследовательские учреждения, связанные с Народно-Освободительной Армией, использовали общедоступную модель Llama Meta для разработки инструмента искусственного интеллекта для потенциальных военных применений, как отмечают академические статьи и аналитики.
В июньской статье, рассмотренной Рейтер, шесть китайских исследователей из трех учреждений, включая два, принадлежащих ведущему исследовательскому органу Народно-Освободительной Армии (НОА) - Академии военных наук (АВН), подробно описали, как они использовали раннюю версию Llama Meta в качестве основы для модели "ChatBIT".
Исследователи использовали более раннюю модель Llama 2 13B большой языковой модели (LLM) от Meta, внедряя свои собственные параметры, чтобы создать военно-ориентированный инструмент искусственного интеллекта для сбора и обработки информации, предоставляя точную и надежную информацию для принятия оперативных решений.
ChatBIT был настроен и "оптимизирован для задач диалога и ответов на вопросы в военной сфере", - говорится в статье. Он оказался более эффективным, чем некоторые другие модели искусственного интеллекта, которые были примерно на 90% такие же способные, как мощный ChatGPT-4 от OpenAI. Исследователи не уточнили, как они определили эффективность или указали, была ли модель искусственного интеллекта введена в эксплуатацию.
"Это первый раз, когда есть существенные доказательства того, что военные эксперты НОА в Китае систематически исследуют и пытаются использовать мощь открытых ЛЛМ, особенно тех, что принадлежат Meta, в военных целях", - сказал Санни Чжен, старший сотрудник Фонда Джеймстауна, специализирующийся на развивающихся технологиях двойного использования в Китае, включая искусственный интеллект.
Meta поддерживает открытый доступ к многим из своих моделей искусственного интеллекта, включая Llama. Она накладывает ограничения на их использование, включая требование лицензии от компании для сервисов с более чем 700 миллионами пользователей.
Ее условия также запрещают использование моделей в "военных, военно-промышленных, ядерных отраслях или приложениях, шпионаже" и других деятельностях, подпадающих под контроль экспорта обороны США, а также для разработки оружия и контента, направленного на "подстрекание и поощрение насилия".
Тем не менее, поскольку модели Meta являются общедоступными, у компании ограничены способы контроля за их соблюдением.
Отвечая на вопросы Рейтер, Meta ссылалась на свою политику приемлемого использования и заявила, что принимает меры для предотвращения недобросовестного использования.
"Любое использование наших моделей Народно-Освободительной Армией несанкционировано и противоречит нашей политике приемлемого использования", - сообщила Рейтер Молли Монтгомери, директор по общественной политике Meta, в телефонном интервью.
Meta добавила, что Соединенные Штаты должны принять открытое инновационное развитие.
"В глобальной конкуренции в области искусственного интеллекта, предполагаемая роль одной, и устаревшей, версии американской открытой модели незначительна, когда мы знаем, что Китай уже инвестирует более триллиона долларов для превзойти США в области искусственного интеллекта", - заявил представитель Meta в заявлении.
Китайские исследователи включают Гэн Гуотонга и Ли Вэйвэй из Исследовательского центра военной информации АВН и Национального инновационного института технологий обороны, а также исследователей из Пекинского института технологий и Университета Минзу.
"В будущем, через технологическое совершенствование, ChatBIT будет применяться не только для анализа разведки, но также ... будут исследованы стратегическое планирование, симуляционное обучение и принятие командных решений", - говорится в статье.
Министерство обороны Китая не ответило на запрос оставить комментарий, также не ответили ни одно из учреждений, ни один из исследователей.
Рейтер не смог подтвердить возможности и вычислительную мощность ChatBIT, хотя исследователи отметили, что его модель включает всего 100 000 записей военного диалога, относительно небольшое количество по сравнению с другими LLM.
"Это капля в море по сравнению со многими из этих моделей (которые) обучены триллионами токенов, поэтому это действительно заставляет меня задаться вопросом, что они на самом деле достигают здесь в терминах различных возможностей", - сказала Джоэль Пинно, вице-президент по исследованиям в области искусственного интеллекта в Meta и профессор компьютерных наук в университете Макгилл в Канаде.
Исследования проводятся на фоне ожесточенного обсуждения в национальных руководящих кругах США в области национальной безопасности и технологий о том, должны ли компании, такие как Meta, делать свои модели общедоступными.
Президент США Джо Байден в октябре 2023 года подписал указ о регулировании развития искусственного интеллекта, отметив, что хотя инновации могут иметь существенные преимущества, "существуют также существенные риски безопасности, такие как снятие защитных механизмов внутри модели".
На этой неделе Вашингтон заявил, что завершает разработку правил, которые ограничивают инвестиции США в области искусственного интеллекта и другие технологические секторы в Китае, которые могут угрожать национальной безопасности.
Представитель Пентагона Джон Саппл заявил, что Министерство обороны признает, что у открытых моделей есть как плюсы, так и минусы, и что "мы продолжим тщательно контролировать и оценивать возможности конкурентов".
\'КОРЗИНА С ПЕЧЕНЬЯМИ\'
Некоторые наблюдатели говорят, что успехи Китая в разработке собственного искусственного интеллекта, включая создание десятков исследовательских лабораторий, уже затрудняют возможность предотвратить сокращение технологического разрыва между Китаем и Соединенными Штатами.
В отдельной академической статье, рассмотренной Рейтер, два исследователя из Корпорации авиационной промышленности Китая (AVIC), которую Соединенные Штаты отнесли к фирмам с связями с НОА, описали использование Llama 2 для "обучения стратегиям воздушной электронной борьбы".
Использование разработанного в Западных странах искусственного интеллекта также проникло в область внутренней безопасности Китая. В июньской статье описывается, как Llama использовалась для "интеллектуального полицейского надзора" для обработки больших объемов данных и улучшения принятия решений полиции.
Государственная газета PLA Daily опубликовала комментарий в апреле о том, как искусственный интеллект может помочь "ускорить исследования и разработку оружия и оборудования", помогать в разработке боевой симуляции и повышать эффективность военного обучения".
"Можете ли вы удержать их (Китай) от корзины с печеньями? Нет, я не вижу, как вы можете", - сказал Уильям Ханнас, ведущий аналитик Центра по безопасности и развивающимся технологиям Университета Джорджтауна (CSET), Рейтер. В 2023 году доклад CSET обнаружил 370 китайских учреждений, исследователи которых опубликовали статьи, связанные с общим искусственным интеллектом - что способствует национальной стратегии Китая по лидерству в мире в области искусственного интеллекта к 2030 году.
"Слишком много сотрудничества идет между лучшими учеными Китая и лучшими учеными по искусственному интеллекту в США, чтобы их можно было исключить из разработок", - добавил Ханнас.
(Дополнительная информация от Кэти Пол в Нью-Йорке; Фил Стюарт в Вашингтоне, Эдуардо Баптиста в Пекине и Грег Тород в Гонконге; Редактирование - Джерри Дойл)