Пользователи Reddit по всему миру были шокированы на прошлой неделе, узнав, что команда исследователей выпустила рой ботов, работающих на основе ИИ и имитирующих поведение людей, на сабреддит 'Измените мое мнение'. Этот масштабный эксперимент был задуман для изучения того, насколько убедительным может быть ИИ.
Боты опубликовали более 1700 комментариев, принимая на себя роли, например, выживших от насилия, или контроверсных личностей, таких как сторонники движения 'Жизни чернокожих важны'.
Для Reddit этот инцидент стал небольшим кошмаром. Бренд Reddit ассоциируется с подлинностью - местом, где реальные люди высказывают свои реальные мнения. Если это человекоориентированное сообщество нарушается ботами или становится местом, где люди не могут доверять тому, что информация поступает от реальных людей, это может угрожать не только основной идентичности Reddit, но и его финансовым результатам, поскольку компания теперь продает свой контент OpenAI для обучения.
Компания осудила неправомерный и чрезвычайно неэтичный эксперимент и подала жалобу в университет, который его проводил. Но это был только один из множества случаев, когда генеративные боты ИИ притворяются людьми на Reddit по разным причинам, от научных до политически манипулятивных.
Чтобы защитить пользователей от манипуляций ботов и оставить Reddit человеческим, компания тихо сигнализирует о предстоящем действии - действии, которое может вызвать недовольство у пользователей, приходящих на Reddit по другой причине: анонимности.
В понедельник генеральный директор Reddit Стив Хаффман поделился в сообщении, что Reddit начнет сотрудничать с различными сторонними службами для верификации личности пользователя. Это представляет собой значительный шаг для платформы, которая исторически требовала практически никакой личной информации для создания учетной записи.
Чтобы оставить Reddit человеческим и соответствовать изменяющимся регуляторным требованиям, нам потребуется немного больше информации, - написал Хаффман. Конкретно, нам нужно будет знать, являетесь ли вы человеком, и в некоторых местах - взрослым. Но мы никогда не захотим знать ваше имя или кто вы такие.
(Компании в социальных сетях уже начали внедрять проверку личности после того, как по крайней мере девять штатов и Великобритания приняли законы, обязывающие проверку возраста для защиты детей на своих платформах.)
Представитель Reddit отказался пояснить в каких случаях компания будет требовать, чтобы пользователи прошли процесс верификации, хотя подтвердил, что Reddit уже принимает меры по борьбе с 'плохими' ботами. Представитель также не стал делиться подробностями о том, какие сторонние службы будет использовать компания или какую личную идентифицирующую информацию пользователи должны будут предоставить.
Многие компании сегодня полагаются на платформы верификации, такие как Persona, Alloy, Stripe Identity, Plaid и Footprint, которые обычно требуют правительственный идентификационный документ для проверки возраста и личности. Есть также новые и более спекулятивные технологии, например, 'Инструменты для Человечности' Сэма Альтмана и его устройство для проверки глаз.
Противники проверки личности говорят о рисках для конфиденциальности и безопасности данных при предоставлении своей личной информации социальным медиа-платформам. Это особенно верно для платформы, такой как Reddit, где люди приходят, чтобы поделиться опытом, которого, возможно, они никогда бы не рассказали, если бы их имена были прикреплены к нему.
Не сложно представить мир, в котором власти могут потребовать у Reddit идентификацию, например, беременной подростковой девушки, задающей вопросы о своем опыте аборта на сабреддите 'Женщины' в штатах, где это сейчас незаконно. Просто взгляните, как Meta передал личные беседы между жительницей Небраски и ее 17-летней дочерью, обсуждавшие планы последней завершить беременность. Помощь Meta послужила основанием для получения правоохранительными органами ордера на обыск, который привел к предъявлению обвинений в тяжких преступлениях как матери, так и дочери.
Точно такой риск надеется избежать Reddit, обращаясь к внешним фирмам за предоставлением необходимой информации и ничего более, по словам Хаффмана, который подчеркнул, что мы никогда не захотим знать ваше имя или кто вы такие.
Анонимность важна для Reddit, - сказал он.
Генеральный директор также отметил, что Reddit продолжит крайне осторожно относиться к вашей личной информации и будет продолжать отстаивать свою позицию против излишних или неразумных требований со стороны публичных или частных властей.
Эта статья изначально была опубликована на TechCrunch по адресу https://techcrunch.com/2025/05/06/reddit-will-tighten-verification-to-keep-out-human-like-ai-bots/