(Bloomberg) -- Сокращение рабочих мест в Amazon.com Подразделение Twitch Inc. вызывает обеспокоенность у бывших сотрудников и контролеров контента по поводу способности популярного сайта прямых трансляций контролировать оскорбительное или незаконное поведение — проблемы, которые преследуют бизнес с момента его создания.
По словам бывших сотрудников, осведомленных в этом вопросе, увольнения в Twitch уволили около 15% сотрудников, ответственных за мониторинг такого поведения. Компания также сформировала новую команду, следящую за этикой своих усилий в области искусственного интеллекта, сообщили люди, которые попросили не называть их имен, чтобы защитить свои перспективы трудоустройства.
С конца 2022 года технологические компании сократили более 200 000 рабочих мест, включая должности в сфере доверия и безопасности и подрядчиков, в Meta Platforms Inc., Alphabet Inc. и Twitter. Согласно сайту объявлений о вакансиях Indeed, количество объявлений о вакансиях, содержащих слова “доверие и безопасность”, в марте 2023 года сократилось на 78% по сравнению с прошлым годом. Технологические компании также сократили свои ответственные команды по искусственному интеллекту и разнообразию.
“Увольнение команды trust and safety может серьезно помешать усилиям по снижению уровня ненависти и злоупотреблений в Интернете, особенно когда речь идет о радикализации и безопасности детей”, и может “привлечь Twitch к юридической ответственности”, — сказала Кэт Ло, руководитель отдела модерации контента в Meedan, некоммерческой компании-разработчике программного обеспечения. “Trust and safety также отвечает за аудит новых функций, чтобы свести к минимуму вероятность злоупотреблений”.
В интервью Bloomberg News четверо бывших сотрудников Twitch, знающих о доверии и безопасности или операциях с искусственным интеллектом, задались вопросом, правильно ли руководители компании или Amazon расставляют приоритеты в модерации и сознательно создают инструменты искусственного интеллекта.
“На нас смотрели скорее как на центр затрат, а не как на источник дохода”, - сказал один бывший сотрудник.
По словам одного человека, из-за сокращения рабочих мест компания потеряла много институциональных знаний в этих командах. Сокращения особенно сильно ударили по людям, которые отвечали за апелляции от стримеров, которые были забанены или временно отстранены, сказал другой человек. Люди сказали, что часть этой работы будет передана на аутсорсинг.
Руководители Twitch и Amazon все больше сосредотачиваются на снижении потерь в бизнесе прямых трансляций. Помимо сокращения рабочих мест, они также изменили размер оплаты труда создателей. Amazon приобрела Twitch за 970 миллионов долларов в 2014 году. С тех пор зрительская аудитория выросла более чем в шесть раз и составила 2,4 миллиона человек в любой момент времени.
За это время расходы, связанные с эксплуатацией сервиса, также резко возросли. Хотя Twitch получает скидку на услуги хостинга от Amazon, запуск международного сервиса прямых трансляций обходится чрезвычайно дорого, сообщили Bloomberg руководители.
“Рост пользователей и выручки не соответствовал нашим ожиданиям”, - написал новый главный исполнительный директор Дэн Клэнси в мартовском блоге, объявив о сокращении рабочих мест в компании.
Компания отказалась комментировать эту запись.
Поскольку Twitch ежедневно транслирует 2,5 миллиона часов пользовательского контента в прямом эфире и никто не отслеживает видео до их выхода в эфир, компании требуются сложные инструменты контроля. На платформе велась прямая трансляция нескольких террористических актов, включая стрельбу в супермаркете 2022 года в Буффало, штат Нью-Йорк. Расследование Bloomberg показало, что Twitch также изо всех сил старался защитить детей и предотвратить груминг на платформе.
Высокопоставленные чиновники Twitch встретились в прошлом месяце с представителями британского регулятора Ofcom, чтобы обсудить планы компании по борьбе с уходом за детьми на платформе. Британский регулятор проверяет, достаточно ли надежны возможности модерации Twitch для предотвращения незаконных или вредных материалов, сообщил представитель агентства.
“Мы будем внимательно следить за эффективностью этих мер по мере их внедрения”, - сказал представитель Ofcom.
В течение многих лет Twitch позволял безудержно распространяться токсичности, связанной с игровой культурой. По мере того как платформа становилась все более популярной, компания инвестировала средства в инструменты модерации, включая активируемую пользователем функцию под названием AutoMOD. Руководство также наняло больше специалистов по доверию и безопасности, работающих полный рабочий день, для оценки отчетов пользователей и удаления контента, нарушающего условия предоставления услуг или закон.
По словам людей, соучредитель и бывший генеральный директор Эммет Шир, который ушел в отставку за несколько дней до объявления об увольнении в марте, отстаивал доверие и безопасность.
В дополнение к оптимизации и объединению некоторых подразделений Twitch увеличит свою зависимость от внешних поставщиков для мониторинга контента и контроля активности пользователей. Одним из таких подрядчиков является Majorel Group Luxembourg SA, европейский консультант по технологиям.
В 2022 году Insider опубликовал отчет, в котором утверждалось, что работники Majorel подвергались слежке и переутомлению, просматривая ужасный контент от имени TikTok.
В заявлении для Bloomberg Карстен Кениг, исполнительный вице-президент Majorel, сказал, что здоровье и благополучие модераторов контента компании является приоритетом.
“Мы демонстрируем это каждый день, предоставляя профессиональную психологическую поддержку 24/7, а также полный набор инициатив в области здравоохранения и благополучия, которые получают высокую оценку наших сотрудников”, - сказал он.
В рамках недавних сокращений Twitch уволила главу своей группы реагирования правоохранительных органов Джессику Марасу. Мараса пользовался большим уважением в Twitch за внедрение новых инновационных политик, таких как политика поведения вне службы. Это позволяет компании удалять учетные записи пользователей, которые совершают серьезные правонарушения в других местах в Интернете или в реальной жизни.
Мараса также руководил мерами безопасности на очных мероприятиях Twitch, включая конференцию TwitchCon, которая в прошлом году собрала 30 000 участников в Сан-Диего.
“Общественность и политики усиливают контроль за способностью платформ социальных сетей модерировать тревожные, вызывающие ненависть и незаконные материалы”, - сказал Ло, руководитель модерации Meedan.
По словам людей, из-за увольнений некоторые функции и инициативы, направленные на решение уникальных проблем безопасности Twitch, остались в воздухе. Компания разрабатывала планы по реабилитации запрещенных авторов и обучению их ответственному поведению или протоколам защиты авторских прав. По словам людей, компания также работает над повышением безопасности детей на платформе с помощью новых продуктов.
©2023 Bloomberg L.P.
