Кристин Ли - модель и инфлюэнсер, но не актриса, поэтому, увидев себя в жестоком образе в китайской микродраме, она почувствовала сначала недоумение, затем гнев и страх.
26-летняя девушка - одна из двух людей, которые рассказали AFP, что их образы были использованы без согласия в искусственно созданном шоу "Расческа для волос из персика", которое выходило на платформе Hongguo, крупном приложении для микродрам владельца Tiktok, компании ByteDance.
Ли планирует подать в суд на создателей драмы и на платформу, выявив новые юридические и регуляторные неопределенности, созданные искусственным интеллектом.
"Я была искренне в шоке. Это было очевидно я", - сказала Ли, живущая в Ханчжоу на востоке Китая.
"Было так ясно, что они использовали определенный набор фотографий, которые я сделала два года назад" и выложила в социальных сетях, - сказала она.
Микродрамы - это ультракороткие онлайн-сериалы, пользующиеся огромной популярностью в Китае и других странах.
Когда поклонники Ли предупредили ее о сериале, она была в ужасе, увидев, что ее цифровой двойник изображен бьет женщин и жестоко обращается с животными.
"Я также почувствовала глубокий страх. Я постоянно думала, какой человек мог бы сделать что-то подобное", - сказала Ли.
Hongguo предлагает тысячи бесплатных, кратких шоу - как с живыми актерами, так и созданные искусственным интеллектом - эпизоды которых длится две или три минуты.
По данным, приведенным Вэньвэнь Хань, президента Альянса коротких драм, на платформе в октябре было около 245 миллионов активных пользователей в месяц.
В начале апреля в заявлении Hongguo сообщили, что сериал был снят с публикации, потому что его создатели нарушили правила платформы и контрактные обязательства.
- \'Подлый\' антагонист -
Способность искусственного интеллекта мимикрировать реальных людей вызвала глобальную озабоченность за рабочие места актеров и за использование подделок в мошенничестве и пропаганде.
Ли и мужчина, который, как он утверждает, был изображен как ее муж в сериале, ставшем хитом на платформе Hongguo в прошлом месяце, высказались онлайн о своих нежелательных открытиях.
Но даже когда их истории вызвали общественное возмущение по поводу этики использования искусственного интеллекта, AFP видел, что "Расческа для волос из персика" продолжала показываться несколько дней после удаления, а оспариваемые персонажи тихо заменялись.
Мужчина, стилист, специализирующийся на традиционной китайской одежде и макияже, размещал фотографии себя в костюме на приложении Xiaohongshu, похожем на Instagram.
Как и Ли, его расстроило "уродливое" изображение его образа как "подлого" антагониста в шоу.
"Это повлияет на меня, на мою работу, на мои будущие возможности?" - сказал мужчина, который попросил использовать псевдоним Байцай.
Чтобы удержать аудиторию, микродрамы часто наполнены шокирующими, несбыточными моментами.
Ли и Байцай показали AFP свои оригинальные фотографии и персонажей в "Расческе для волос из персика", которые сильно походили друг на друга.
- Юридический риск -
Для низкобюджетных искусственно созданных микродрам китайское законодательство гласит, что платформы должны быть первичной проверкой потенциально подозрительного контента.
Если они не проводят обязательные проверки контента, видео будут принудительно сняты с публикации, согласно Национальному управлению радио и телевидения.
Если платформы были осведомлены о каких-либо нарушениях, но не предприняли действий, пострадавшие стороны могут обратиться к китайским кибервластям, которые могут наложить административные штрафы, сказал Чжао Чанлин, партнер юридической фирмы Beijing Javy.
Hongguo заявила во втором заявлении в этом месяце, что будет продолжать укреплять процесс проверки контента и авторизации создателей, среди других шагов.
Она сообщила, что рассмотрела 670 искусственно созданных микродрам, нарушивших правила, большинство из которых были сняты с публикации, и предупредила, что будет жестко наказывать за повторные нарушения.
Обращенные для комментария, материнская компания Bytedance направила AFP к двум заявлениям Hongguo.
Ли и Байцай говорят, что им нужно больше информации от Hongguo, чтобы подтвердить личность создателя драмы - две компании являются потенциальными кандидатами.
Одна связана с проверенным аккаунтом в китайской версии TikTok, который также публиковал сериал. Другая указана как продюсер драмы в официальной китайской системе регистрации.
AFP обратилось к обеим компаниям, но не получило ответа.
Использование искусственного интеллекта для снижения затрат может быть соблазнительным на быстрорастущем многомиллиардном рынке микродрамы.
Но изображение кого-то в унизительной манере без разрешения "может являться нарушением как портретных прав, так и прав на репутацию", - сказал юрист Ли, Йичжи Чжао, из юридической фирмы HenanHuailvLaw.
- \'Связанный с контроверсией\' -
Национальное законодательство требует, чтобы создатели микродрамы регистрировались для получения лицензии - шаг, сделанный обязательным для искусственно созданных анимаций с этого месяца.
Но, по словам Чжао, продюсеры могут оставаться в тени, регистрируя временные организации, в то время как некоторые, якобы, используют зарубежные серверы для скрытия.
В 2024 году суд в Пекине обязал компанию извиниться и выплатить компенсацию знаменитости после того, как ее программное обеспечение на основе искусственного интеллекта позволило пользователям создавать виртуального персонажа с использованием его фотографий и имени, который мог обмениваться интимными сообщениями.
Но юристы сообщили AFP, что компенсация для истцов, подобных Ли, вероятно, не будет составлять много из-за ограниченной коммерческой ценности обычного подобия.
Ли беспокоится, что эта история может стоить ей возможностей в индустрии моделирования, поскольку теперь она "связана с контроверсией".
Байцай не подал в суд, но надеется увидеть больше мер от регуляторов и платформ для защиты людей, подобных ему.
"Вероятно, существует много случаев с неизвестными жертвами", - сказал он.
sx-pr / abs
