Когда DeepSeek, Alibaba и другие китайские компании выпустили свои AI-модели, западные исследователи быстро заметили, что они уходили от вопросов, критических к Коммунистической партии Китая. Позднее американские чиновники подтвердили, что эти инструменты разработаны таким образом, чтобы отражать точки зрения Пекина, вызывая опасения относительно цензуры и предвзятости.
Американские лидеры в области AI, такие как OpenAI, указывали на это как на оправдание для быстрого продвижения своих технологий без излишнего регулирования или контроля. Как написал главный глобальный сотрудник по делам OpenAI Крис Лихейн в сообщении на LinkedIn в прошлом месяце, имеется соревнование между возглавляемым США демократическим AI и автократическим AI Китая.
Подписанный в среду президентом Дональдом Трампом указ, запрещающий "проснувшийся" AI и AI-модели, не являющиеся идеологически нейтральными, от правительственных контрактов, может нарушить этот баланс.
В указе упоминается разнообразие, равенство и включение (DEI), называя это всеобъемлющей и разрушительной идеологией, способной искажать качество и точность вывода. Конкретно указывается информация о расе или поле, манипулирование расовым или половым представлением, критическая теория расы, трансгендеризм, бессознательное предвзятое отношение, интерсекциональность и системный расизм.
Эксперты предупреждают, что это может создать охлаждающий эффект на разработчиков, которые могут почувствовать давление для согласования выводов модели и наборов данных с риторикой Белого дома, чтобы обеспечить федеральные деньги для своих бизнесов, тратящих деньги.
Этот указ вышел в свет в тот же день, когда Белый дом опубликовал план действий Трампа по искусственному интеллекту, который пересматривает национальные приоритеты в сторону социальных рисков и сосредотачивается вместо этого на развитии инфраструктуры AI, уменьшении бюрократии для технологических компаний, укреплении национальной безопасности и конкуренции с Китаем.
Указывается, что директор Управления и бюджета вместе с администратором Федеральной политики по закупкам, администратором Генеральных служб и директором Управления науки и технологий должны разработать рекомендации для других агентств о том, как следовать указу.
Наконец-то мы избавляемся от проснувшегося, - сказал Трамп в среду во время мероприятия по AI, организованного подкастом All-In и Форумом Hill & Valley. Я подпишу указ о запрете федеральному правительству приобретать AI-технологии, пропитанные партийным предвзятым или идеологическим повестками дня, такими как критическая теория расы, что абсурдно. И отныне правительство США будет иметь дело только с AI, стремящимся к правде, справедливости и строгой беспристрастности.
Определение того, что является беспристрастным или объективным, является одним из многих вызовов для указа.
Филип Сарджент, старший преподаватель прикладной лингвистики в Открытом университете, сказал TechCrunch, что ничто не может быть объективным.
Одним из основных принципов социолингвистики является то, что язык никогда не бывает нейтральным, - сказал Сарджент. Идея о том, что вы можете достичь истинной объективности, - это фантазия.
Кроме того, идеология администрации Трампа не отражает убеждений и ценностей всех американцев. Трамп неоднократно пытался ликвидировать финансирование инициатив в области климата, образования, общественного вещания, исследований, грантов социального обслуживания, программ поддержки сообщества и сельского хозяйства, а также программ, поддерживающих гендерную идентичность, часто представляя эти инициативы как примеры проснувшегося или политически предвзятого государственного расхода.
Как выразила Румман Чоудхури, ученый по данным, генеральный директор некоммерческой организации по технологиям Humane Intelligence и бывший национальный посланник США по AI, что угодно [администрации Трампа] не нравится, сразу отправляется в эту пренебрежительную кучу проснувшегося.
Определения истиноискательства и идеологической нейтральности в опубликованном в среду указе неоднозначны в некоторых аспектах и конкретны в других. В то время как истиноискательство определяется как LLM, приоритизирующие историческую точность, научный поиск и объективность, идеологическая нейтральность определяется как LLM, являющиеся нейтральными, беспартийными инструментами, не манипулирующими ответами в польз идеологических догм, таких как DEI.
Эти определения оставляют место для широкой интерпретации, а также потенциального давления. Компании по AI настаивают на меньшем количестве ограничений в их деятельности. И хотя исполнительный указ не имеет силы законодательства, передовые фирмы по AI все равно могут оказаться подвержены изменяющимся приоритетам политической повестки администрации.
На прошлой неделе OpenAI, Anthropic, Google и xAI подписали контракты с Министерством обороны на получение до $200 миллионов каждая для разработки агентных рабочих процессов AI, решающих критические национальные вопросы безопасности.
Неясно, какая из этих компаний лучше всего подготовлена для получения выгоды от запрета проснувшегося AI, или будут ли они соблюдать его.
TechCrunch обратились ко всем из них и обновит эту статью, если получит ответ.
Несмотря на проявление своих собственных предвзятостей, xAI может быть наиболее согласованным с указом - по крайней мере на этапе развития. Илон Маск позиционирует Грок, чатбот xAI, как абсолютно анти-"проснувшегося", менее предвзятого, искателя истины. Системные подсказки Грока направляли его избегать опоры на основные власти и СМИ, искать контраргументы даже если они политически некорректны, и даже ссылаться на собственные взгляды Маска на спорные темы. В последние месяцы Грок даже высказывал антисемитские высказывания и хвалил Гитлера на X, среди прочих ненавистных, расистских и мизогинских публикаций.
Марк Лемли, профессор права в Университете Стэнфорда, сказал TechCrunch, что исполнительный указ явно предназначен как дискриминация по мнению, так как [правительство] только что заключило контракт с Гроком, также известным как МехаГитлер.
В дополнение к финансированию ДОД xAI компания объявила, что Грок для правительства был добавлен в расписание Генеральной службы администрации, что означает, что продукты xAI теперь доступны для приобретения в каждом правительственном офисе и агентстве.
Правильный вопрос таков: запретят ли они Грок, AI, с которым только что заключили крупный контракт, потому что он был специально сконструирован для дачи политически окрашенных ответов? - сказал Лемли в интервью по электронной почте. Если нет, это явно предназначено для дискриминации против определенной точки зрения.
Как показали собственные системные подсказки Грока, выводы модели могут быть отражением как людей, строящих технологию, так и данных, на которых обучается AI. В некоторых случаях излишняя осторожность среди разработчиков и AI, обученного на интернет-контенте, способствующем ценностям, таким как инклюзивность, привела к искаженным выводам моделей. Google, например, в прошлом году попала под критику после того, как его чатбот Gemini показал черного Джорджа Вашингтона и расно-разнообразных нацистов - что указ Трампа называет примерами зараженных DEI AI-моделей.
Чоудхури говорит, что ее самый большой страх относительно этого исполнительного указа заключается в том, что компании по AI активно перерабатывают обучающие данные, чтобы соответствовать партийной линии. Она указала на заявления Маска за несколько недель до запуска Грок 4, говорящие о том, что xAI будет использовать новую модель и ее продвинутые способности рассуждения для переписывания всего корпуса человеческих знаний, добавляя недостающую информацию и удаляя ошибки. Затем обучитесь на этом.
Это, предположительно, поставит Маска в положение судьи, что является истинным, что может иметь огромные последствия для того, как доступна информация.
Конечно, компании принимали решения о том, какая информация видна и не видна, с самого начала интернета.
Консерватор Дэвид Сакс - предприниматель и инвестор, которого Трамп назначил AI царем, озвучил свои опасения относительно проснувшегося AI в подкасте All-In, который совместно организовал день анонсов Трампа по AI. Сакс обвинил создателей известных продуктов по AI в том, что они насыщают их левыми ценностями, формулируя свои аргументы в защиту свободы слова и предостерегая от тенденции к централизованному идеологическому контролю в цифровых платформах.
Проблема, говорят эксперты, заключается в том, что нет одной истинной. Достижение без предвзятых или нейтральных результатов невозможно, особенно в сегодняшнем мире, где даже факты политизированы.
Если результаты, которые производит AI, говорят, что климатическая наука правильна, это ли это левоориентированная предвзятость? - сказал Сарджент. Некоторые люди говорят, что вам нужно представить обе стороны аргумента, чтобы быть объективным, даже если одна сторона аргумента не имеет к нему отношения.
Есть чувствительная информация или конфиденциальные документы? Мы сообщаем о внутренних процессах индустрии AI - от компаний, формирующих ее буд
