Работодателям может понравиться генеративный искусственный интеллект, пока сотрудник не вставит в чат GPT, Claude или Gemini внутреннюю финансовую информацию или закрытый код, и секреты компании не останутся в облаке.
Cloudflare, технология которой питает почти 20% веб-сайтов, сегодня запустила надзор за искусственным интеллектом в свою платформу корпоративной безопасности, Cloudflare One. Функция дает командам ИТ мгновенную видимость, кто общается с искусственным интеллектом и что они ему скрытно подают. Компания позиционирует это как рентгеновские глаза для использования сотрудниками генеративным искусственным интеллектом, встроенные в панель управления, которую уже используют парни из ИТ.
Администраторы теперь могут ответить на вопросы, например: Что делают наши сотрудники в чате GPT? Какие данные загружаются и используются в Claude? Настроен ли Gemini правильно в Google Workspace? - сказала компания в своем блоге.
Тень искусственного интеллекта больше не существует
Cloudflare говорит, что три из четырех сотрудников используют ChatGPT, Claude или Gemini на работе для всего, начиная с редактирования текста и обработки данных и заканчивая отладкой и дизайном. Проблема заключается в том, что чувствительные данные обычно исчезают в инструментах искусственного интеллекта без оставления следа. Продукт Cloudflare интегрируется на уровне API и сканирует сомнительные загрузки.
По словам компании, злонамеренный стимул может мгновенно обучить внешнюю модель с вашими конфиденциальными данными, которые затем исчезнут навсегда.
Крупные конкуренты в области корпоративной безопасности, такие как Zscaler и Palo Alto Networks, также предлагают надзор за искусственным интеллектом. Cloudflare утверждает, что то, что отличает Cloudflare One, - это его гибридная модель без агентов. Он объединяет сканирование API вне полосы пропускания (для позиции, конфигурации и утечек данных) с контролем стимулов на уровне края для ChatGPT, Claude и Gemini, не требуя установки программного обеспечения на конечные точки.
Сторонник абсолютной свободы слова
Cloudflare долгое время позиционировала себя как инфраструктурного провайдера, нейтрального по отношению к контенту, а не модератора, что означает, что она обычно воздерживается от контроля за тем, что публикуют ее клиенты, если только это не требуется законом. Эта позиция уходит десятилетия назад: генеральный директор Мэтью Принс подчеркивал, что Cloudflare не является хостинг-платформой и не определяет, какой контент допустим; вместо этого она просто гарантирует, что веб-сайты, независимо от их идеологии, остаются онлайн и защищены.
Этот подход абсолютной свободы слова вызвал критику. Критики отмечают, что Cloudflare позволяла оставаться доступными сайтам, содержащим ненавистный, экстремистский или иным образом вредный контент, часто исключительно потому, что нет официального запроса о его блокировке. Исследование Стэнфордского университета 2022 года показало, что Cloudflare диспропорционально обслуживает сайты с дезинформацией по сравнению с их общей долей интернет-трафика.
Cloudflare обвиняет Perplexity AI в использовании скрытых веб-сканеров для обхода блокировок сайтов
Тем не менее, были и редкие отклонения. В 2017 году Cloudflare прекратила предоставление услуг для сайта белых супрематистов The Daily Stormer, спорное решение, принятое только после того, как сайт ложно заявил, что Cloudflare тайно разделяет его про-нацистские убеждения. Принс позднее описал это решение как вынужденное исключение, сделанное под давлением, которое заставило отказаться от их политики нейтралитета.
Точно так же, в 2019 году Cloudflare прекратила работу с 8chan после его связи с массовыми убийствами, признав, что сообщество стало опасно беззаконным.
Более недавно, в 2022 году, Cloudflare наконец прекратила поддержку Kiwi Farms из-за нарастающего домогательства, публикации личной информации и угроз жизни людей. Это закрытие произошло после давления активистов и сообщений о нарастающем насилии.
