(Bloomberg) --
Главный исполнительный директор OpenAI Сэм Альтман удивил всех в прошлом месяце, когда предупредил Конгресс об опасностях, исходящих от искусственного интеллекта. Внезапно стало казаться, что технологические компании извлекли уроки из проблем социальных сетей и захотели внедрить искусственный интеллект по-другому. Еще более примечательно то, что они нуждались в помощи политиков.
Но неделю спустя Альтман рассказал журналистам в Лондоне другую историю. Глава создателя ChatGPT сказал, что он попытается соблюдать правила Европейского союза, но если это окажется слишком сложным, его компания “прекратит свою деятельность” в пределах блока. Это замечание побудило комиссара по внутреннему рынку Тьерри Бретона обвинить Альтмана в “попытке шантажа”. Альтман разъяснил свои комментарии на следующий день, и когда генеральный директор и комиссар встретились лично на прошлой неделе, они согласились, что они согласны в регулировании.
Развитие искусственного интеллекта стремительно продвигается вперед. Только за первые четыре месяца этого года сектор привлек более 1 миллиарда долларов венчурного финансирования, и системы уже работают во всем - от зубных щеток до беспилотных летательных аппаратов. То, как далеко и насколько быстро будут развиваться события, будет в значительной степени зависеть от того, вмешаются ли правительства.
Крупные технологические компании заявляют, что хотят регулирования. Реальность гораздо сложнее. В США Google, Microsoft, IBM и OpenAI попросили законодателей контролировать искусственный интеллект, который, по их словам, необходим для гарантии безопасности и конкурентоспособности с Китаем. Между тем, в ЕС, где политики недавно проголосовали за одобрение законопроекта, который наложит ограничения на генеративный искусственный интеллект, лоббисты этих же компаний борются с мерами, которые, по их мнению, без необходимости ограничат новый популярный сектор технологий.
Правила, регулирующие технологии, сильно различаются по разные стороны Атлантики. В ЕС уже более пяти лет действуют всеобъемлющие законы о защите данных, и в настоящее время он находится в процессе внедрения строгих руководящих принципов в отношении конкуренции и модерации контента. Однако в США уже более двух десятилетий практически не существует регулирования. Призыв к надзору внутри страны стал для Big Tech способом создать хороший пиар, поскольку он направляет европейское законодательство в более благоприятном направлении, по мнению многочисленных чиновников, работающих над предстоящим законом блока об искусственном интеллекте.
Технологические компании знают, что они не могут игнорировать ЕС, особенно с учетом того, что его правила в области социальных сетей и защиты данных стали мировыми стандартами. Закон Европейского союза об искусственном интеллекте, который может вступить в силу в ближайшие два-три года, станет первой попыткой западного правительства регулировать искусственный интеллект, и он подкреплен серьезными штрафными санкциями. Если компании нарушат закон, ЕС может наложить штрафы в размере 6% от годового оборота компании и запретить выпуск продукции в ЕС, который, по оценкам, составляет от 20% до 25% мирового рынка искусственного интеллекта, который, по прогнозам, в течение 10 лет составит более 1,3 трлн долларов.
Это ставит сектор в щекотливое положение. Если версия закона станет законом, сказал Грай Хасселбалч, соучредитель аналитического центра DataEthics, крупнейшим поставщикам искусственного интеллекта “необходимо будет коренным образом изменить то, насколько они прозрачны, как они справляются с рисками и внедряют свои модели”.
Рискованный бизнес
В отличие от технологий, законотворчество продвигается ползком. В 2021 году Европейская комиссия опубликовала первый проект своего Закона об искусственном интеллекте, положив начало процессу, в котором примут участие три правительственных учреждения, 27 стран, десятки лоббистов и раунд за раундом переговоров, которые, вероятно, завершатся позже в этом году. В предложении использовался “основанный на риске” подход, запрещающий ИИ в крайних случаях - в том числе для социального скоринга, используемого в Китае, где граждане зарабатывают кредиты на основе поведения, за которым ведется наблюдение, — и позволяющий подавляющему большинству ИИ работать практически без надзора или вообще без него.
Большая часть проекта была сосредоточена на правилах для случаев “высокого риска”. Компании, которые выпускают системы искусственного интеллекта для прогнозирования преступности или сортировки заявлений о приеме на работу, например, будут ограничены использованием только высококачественных данных и обязаны проводить оценку рисков. Кроме того, проект предусматривает прозрачность в отношении глубоких подделок и чат-ботов: люди должны быть проинформированы, когда они общаются с системой искусственного интеллекта, а сгенерированный или обработанный контент должен быть помечен. В тексте не упоминался генеративный искусственный интеллект, обобщающая категория алгоритмов машинного обучения, способных создавать новые изображения, видео, текст и код, которым еще только предстояло появиться.
Компания Big tech приветствовала такой подход. Они также постарались смягчить края. В то время как в проекте говорилось, что разработчики будут нести ответственность за то, как использовались их системы, компании и их торговые группы утверждали, что пользователи также должны нести ответственность. В документе с изложением позиции Microsoft утверждала, что, поскольку потенциал генеративного ИИ не позволяет компаниям “предвидеть весь спектр сценариев развертывания и связанных с ними рисков”, особенно важно “сосредоточиться на фактическом использовании системы ИИ разработчиком". На закрытых совещаниях официальные лица технологических компаний усилили идею о том, что сам по себе искусственный интеллект - это просто инструмент, отражающий намерения его пользователя.
Что еще более важно, IBM хотела гарантировать, что “искусственный интеллект общего назначения” - еще более широкая категория, включающая распознавание изображений и речи, генерацию аудио и видео, распознавание шаблонов, ответы на вопросы и перевод — был исключен из правил, или, в случае Microsoft, что именно клиенты будут заниматься этим нормативные проверки, согласно проектам поправок, направленным законодателям.
Многие компании придерживаются такой позиции. Вместо того, чтобы “пытаться контролировать технологию как монолит”, - написал Жан-Марк Леклерк, глава IBM по связям с ЕС, в заявлении для Bloomberg, - “мы призываем к продолжению подхода, основанного на оценке рисков”.
Представление о том, что некоторые из самых мощных систем искусственного интеллекта могут в значительной степени избежать надзора, вызвало тревогу у наблюдателей отрасли. Некоммерческая организация Future of Life, первоначально частично финансировавшаяся Илоном Маском, написала в то время, что “будущие системы искусственного интеллекта будут еще более общими, чем GPT-3”, и нуждаются в четком регулировании. Вместо того, чтобы “классифицировать их по ограниченному набору заявленных предполагаемых целей”, - написал президент Future of Life Макс Тегмарк, - “предложение должно требовать полной оценки рисков для всех их предполагаемых видов использования (и прогнозируемых злоупотреблений)”.
Оценка угрозы
Казалось, что Big Tech получит то, что хочет — в какой-то момент страны даже рассматривали возможность полного исключения ИИ общего назначения из текста — до весны 2022 года, когда политики начали беспокоиться о том, что они недооценили его риски. Во многом по настоянию Франции государства - члены ЕС начали рассматривать возможность регулирования всего ИИ общего назначения, независимо от варианта использования.
Это был момент, когда OpenAI, которая ранее оставалась в стороне от европейского законодательного процесса, решила вмешаться. В июне 2022 года глава отдела государственной политики компании встретился с официальными лицами в Брюсселе. Вскоре после этого компания направила комиссии и некоторым национальным представителям документ с изложением позиции, впервые опубликованный Time, в котором говорилось, что они “обеспокоены” тем, что некоторые предложения “могут непреднамеренно привести к тому, что все наши системы искусственного интеллекта общего назначения будут захвачены по умолчанию”.
Тем не менее, страны ЕС пошли дальше и обязали все ИИ общего назначения соответствовать некоторым требованиям высокого риска, таким как оценка рисков, с деталями которых мы разберемся позже. Законопроект, содержащий этот язык, был одобрен в декабре — всего через неделю после выхода ChatGPT.
Пораженные способностями чат-бота и беспрецедентной популярностью, члены Европейского парламента применили еще более жесткий подход в своем следующем проекте. Эта последняя версия, утвержденная две недели назад, предписывает разработчикам “базовых моделей”, таких как OpenAI, обобщать защищенные авторским правом материалы, используемые для обучения больших языковых моделей, оценивать риски, которые система может представлять для демократии и окружающей среды, и разрабатывать продукты, неспособные генерировать незаконный контент.
“В конечном счете, чего мы требуем от генеративных моделей искусственного интеллекта, так это некоторой прозрачности”, - пояснил Драгош Тудораче, один из двух ведущих авторов Закона об искусственном интеллекте. Если есть опасность в том, что “алгоритмы подверглись воздействию плохих факторов, то со стороны разработчиков должны быть предприняты усилия по обеспечению гарантий на этот счет”.
В то время как Meta, Apple и Amazon в основном хранят молчание, другие ключевые разработчики отступают. В комментариях законодателям Google заявила, что парламентский контроль будет эффективно рассматривать ИИ общего назначения как высокорискованный, когда это не так. Компании также протестовали против того, что новые правила могут помешать существующим, и некоторые заявили, что они уже внедрили свои собственные средства контроля. “Сама по себе возможность нанесения ущерба репутации уже является достаточным стимулом для компаний массово инвестировать в безопасность пользователей”, - сказал Бонифаций де Шамприс из отраслевой группы CCIA.
Большой язык
Поскольку общественность стала свидетелем недостатков генеративного ИИ в режиме реального времени, технологические компании стали все громче требовать надзора — и, по словам чиновников, более охотно идут на переговоры. После того, как в конце мая Альтман и Сундар Пичаи из Google отправились на встречу с регулирующими органами ЕС, глава отдела конкуренции Маргрете Вестагер признала, что крупные технологические компании начинают соблюдать требования к прозрачности и рискам.
Этот подход “очень прагматичен”, сказал Тюдораш, добавив, что разработчики, которые боролись с регулированием, оказались бы “на неправильном конце истории [и рисковали бы своей собственной бизнес-моделью”.
Некоторые критики также предположили, что соблюдение правил на раннем этапе может стать для крупных компаний способом обеспечить себе доминирование на рынке. “Если правительство вмешается сейчас, - объяснила Джоанна Брайсон, профессор этики и технологий в школе Херти в Берлине, - тогда они смогут закрепить свое лидерство и выяснить, кто приближается к ним”.
Если вы спросите технологические компании, они скажут вам, что они не против регулирования — им просто не нравятся некоторые из предлагаемых предложений. “Мы с самого начала приняли тот факт, что Microsoft будет регулироваться на нескольких уровнях технологического стека; мы не бежим от регулирования”, - написал представитель Microsoft, выражая мнение многих разработчиков. Компания также высказалась в поддержку создания нового агентства по надзору за искусственным интеллектом для обеспечения стандартов безопасности и выдачи лицензий.
В то же время технологические компании и торговые группы продолжают выступать против изменений парламента и стран-участниц в Законе об искусственном интеллекте. Разработчики настаивали на более подробной информации о том, как регулирование будет выглядеть на практике; и как, скажем, OpenAI будет оценивать влияние ChatGPT на демократию и окружающая среда. В некоторых случаях они принимали определенные параметры, бросая вызов другим.
OpenAI, например, в апреле написала законодателям письмо, в котором выразила поддержку фреймворкам мониторинга и тестирования, а также новому набору стандартов для ИИ общего назначения, согласно комментариям, с которыми ознакомилось агентство Bloomberg. Google, которая недавно выступила в поддержку модели регулирования по принципу “говори и концентрируйся” в США, требуя, чтобы надзор был распределен между множеством различных агентств, а не между одним централизованным, поддержала оценку рисков, но продолжала поддерживать подход, основанный на оценке рисков. Google не ответила на запросы о комментариях.
Тем не менее, по мере того, как становится все более очевидным потенциал искусственного интеллекта для зарабатывания денег, некоторые политики начинают разделять взгляды отрасли. Седрик О, бывший министр цифровых технологий Франции, ставший техническим консультантом, предупредил в прошлом месяце, что чрезмерное регулирование может нанести ущерб конкурентоспособности Европы. Его поддержал президент Франции Эммануэль Макрон, который заметил на французской технической конференции сразу после голосования в парламенте, что ЕС должен помнить о том, чтобы не переусердствовать с ИИ.
Пока не состоится окончательное голосование по Закону об искусственном интеллекте, неясно, в какой степени ЕС на самом деле примет решение регулировать эту технологию. Но даже если переговорщики будут действовать как можно быстрее, компаниям не нужно будет соблюдать закон примерно до 2025 года. А тем временем сектор движется вперед.
-- При содействии Анны Эджертон и Бенуа Бертло.
©2023 Bloomberg L.P.
