(Bloomberg) -- Китай планирует потребовать проверки безопасности сервисов искусственного интеллекта, прежде чем им будет разрешено работать, что создает неопределенность в отношении ботов, похожих на ChatGPT, представленных крупнейшими технологическими компаниями страны, включая Baidu Inc.
Поставщики услуг должны гарантировать, что контент является точным и уважает интеллектуальную собственность, а также не дискриминирует и не ставит под угрозу безопасность, говорится в проекте руководящих принципов, опубликованном для общественного обсуждения Администрацией киберпространства Китая. Операторы искусственного интеллекта также должны четко маркировать контент, созданный с помощью искусственного интеллекта, говорится в заявлении интернет-надзорного ведомства страны, размещенном на его веб-сайте.
Требования CAC усиливают растущие попытки Пекина регулировать взрывной рост генеративного ИИ с тех пор, как в ноябре ChatGPT от OpenAI запустил индустрию. Компании от Alibaba Group Holding Ltd. до SenseTime Group Inc. и Baidu стремятся создать окончательную платформу искусственного интеллекта следующего поколения для крупнейшего в мире интернет-рынка. Это отражает растущую волну разработок за рубежом: Google и Microsoft входят в число многих технологических компаний, изучающих генеративный искусственный интеллект, который может создавать оригинальный контент от поэзии до искусства с помощью простых пользовательских подсказок.
Китай не скрывал своего желания развивать искусственный интеллект в то время, когда страна втянута в конфликт с США из-за технологий - от чипов до электромобилей. Но остается неясным, как правительство намерено стимулировать и контролировать развивающуюся сферу. Принятые во вторник руководящие принципы, по сути, переносят существующие правила в отношении данных и контента — от защиты личной информации до цензуры сообщений, которые партия считает нежелательными, — в развивающуюся область искусственного интеллекта.
Китай, вероятно, запретит иностранные сервисы искусственного интеллекта, такие как OpenAI или Google, как это было с американским поиском и социальными сетями. Пекин настаивает на жестком контроле над онлайн-контентом и обсуждениями. Но пока ожидается, что Пекин не будет слишком сильно натягивать поводок на свои местные фирмы, опасаясь подавить зарождающуюся сферу, которая нуждается в просторе для инноваций, сказала Анджела Чжан, адъюнкт-профессор права в Университете Гонконга.
“Быстрая реакция CAC на эту новую технологию ясно демонстрирует его регуляторные амбиции в этой сфере”, - сказал Чжан. “Эти события, вероятно, окажут побочное влияние на регулирование искусственного интеллекта в Китае в будущем. Однако пока я вижу, что китайские регулирующие органы проявляют довольно осторожность в своем подходе к регулированию, чтобы предоставить больше возможностей для развития генеративного искусственного интеллекта в стране ”.
Акции Alibaba потеряли большую часть своего первоначального роста во вторник после объявления CAC, в то время как SenseTime практически не изменился. Крупная компания электронной коммерции во вторник описала, как она планирует встроить генеративный искусственный интеллект в свое рабочее приложение, подобное Slack, и умные колонки, подобные Amazon Echo, прежде чем расширить это портфолио на другие свои сервисы. Днем ранее SenseTime продемонстрировала крупную модель искусственного интеллекта SenseNova и чат-бота SenseChat, ориентированного на пользователя.
Это последовало за ботом Ernie от Baidu Inc., который был выпущен для выборочного тестирования около месяца назад. Акции компании, считающейся нынешним лидером на внутреннем рынке, упали на целых 7% в Гонконге. Китайские операторы связи, такие как China Mobile Ltd., и более мелкие акции, связанные с искусственным интеллектом, от 360 Security Technology Inc. до производителя чипов для искусственного интеллекта Cambricon Technologies Corp. также резко упали.
“Здесь есть реальный потенциал повлиять на то, как обучаются модели, и это, на мой взгляд, действительно очень важно”, - сказал Том Нанлист, старший аналитик Trivium China. Правила, вероятно, повлияют на то, как в будущем будут обучаться модели искусственного интеллекта в Китае, хотя многое будет зависеть от того, как регулирующие органы интерпретируют общие положения в своем уведомлении, добавил он.
Подробнее: Alibaba вступает в бой с ChatGPT с помощью AI Speaker, приложения, похожего на Slack
Пекин планирует ввести правила, регулирующие использование искусственного интеллекта в ряде отраслей промышленности. В феврале официальные лица Министерства науки и технологий заявили, что правительство будет настаивать на безопасном и контролируемом применении сервисов искусственного интеллекта, которые оно считает стратегической отраслью.
Кроме того, влиятельный регулятор подчеркнул, что службы искусственного интеллекта должны быть прозрачны в отношении данных и алгоритмов, используемых при обучении их крупномасштабных моделей, усиливая акцент Пекина на сохранении контроля над конфиденциальной и ценной информацией.
“Поставщики услуг должны предоставлять определенную информацию о данных, используемых при обучении искусственному интеллекту, включая происхождение, размер и тип данных”, - говорится в заявлении CAC. “Это также требует, чтобы платформы искусственного интеллекта делились базовыми алгоритмами и другими используемыми технологиями”.
Что сообщает Bloomberg Intelligence
Мы считаем, что усиленный контроль Пекина за сервисами в стиле ChatGPT в стране, основанный на новых рекомендациях, опубликованных Администрацией киберпространства Китая (CAC) 11 апреля, вряд ли помешает планам расширения Alibaba, Baidu, SenseTime и NetEase в этой области. Предлагаемые правила CAC, включая общественное порицание за первые нарушения, а также приостановление деятельности и штрафы для повторных нарушителей, соответствуют общим директивам, уже действующим для управления местными технологическими фирмами.
- Кэтрин Лим и Трини Тан, аналитики
Нажмите здесь, чтобы ознакомиться с исследованием.
Взятые вместе, правила могут быть направлены на то, чтобы гарантировать, что сервисы, подобные ChatGPT, подчиняются жесткому запрету Коммунистической партии на спорный или нежелательный контент в Интернете. Но это также могло бы стимулировать такие компании, как Baidu и SenseTime, предоставляя более четкие основные правила для будущих сервисов. Во вторник CAC заявил, что контент, который считается отклоняющимся от общества, будет запрещен, не вдаваясь в подробности.
Неясно, как новые правила повлияют на развитие искусственного интеллекта в будущем. Практически каждая крупная технологическая фирма, включая Tencent Holdings Ltd., изучает способы использования своего потенциала.
Однако существуют опасения по поводу того, смогут ли китайские компании обеспечить надежный доступ к высококачественным чипам и технологиям, необходимым для разработки крупномасштабных моделей искусственного интеллекта в долгосрочной перспективе. SenseTime, например, работает в условиях санкций США, которые ограничивают ее доступ к капиталу, а также к важнейшим американским компонентам, а администрация Байдена в прошлом году ввела ограничения на продажу чипов—ускорителей искусственного интеллекта китайским клиентам - важнейшего компонента в разработке любой крупномасштабной генеративной модели.
-- При содействии Сары Чжэн.
(Обновлено комментарием аналитика и действием "Поделиться" из пятого абзаца)
©2023 Bloomberg L.P.
