Джеффри Дастин и Анна Тонг САН-ФРАНЦИСКО, 15 июня (Reuters) - Alphabet Inc предупреждает сотрудников о том, как они используют чат-ботов, в том числе своего собственного Bard, в то же время продвигая программу по всему миру, сообщили Reuters четыре человека, знакомые с этим вопросом. Материнская компания Google посоветовала сотрудникам не вводить свои конфиденциальные материалы в чат-боты с искусственным интеллектом, сообщили люди, и компания подтвердила это, сославшись на давнюю политику защиты информации. Чат-боты, среди которых Bard и ChatGPT, представляют собой программы, похожие на человеческие, которые используют так называемый генеративный искусственный интеллект для ведения бесед с пользователями и ответа на множество запросов. Люди-рецензенты могут читать чаты, и исследователи обнаружили, что аналогичный искусственный интеллект может воспроизводить данные, которые он усваивал во время обучения, создавая риск утечки. По словам некоторых людей, Alphabet также предупредила своих инженеров избегать прямого использования компьютерного кода, который могут генерировать чат-боты. На просьбу прокомментировать ситуацию компания ответила, что Bard может вносить нежелательные предложения в код, но, тем не менее, это помогает программистам. Google также заявила, что стремится быть прозрачной в отношении ограничений своей технологии. Опасения показывают, как Google хочет избежать ущерба для бизнеса от программного обеспечения, которое она запустила в конкуренции с ChatGPT. На карту в гонке Google против сторонников ChatGPT OpenAI и Microsoft Corp поставлены миллиарды долларов инвестиций и все еще неисчислимые доходы от рекламы и облачных вычислений от новых программ искусственного интеллекта. Предостережение Google также отражает то, что становится стандартом безопасности для корпораций, а именно предупреждение персонала об использовании общедоступных программ чата. Все большее число компаний по всему миру устанавливают ограждения для чат-ботов с искусственным интеллектом, в том числе Samsung , Amazon.com и Deutsche Bank, сообщили компании агентству Reuters. Сообщается, что Apple, которая не ответила на запросы о комментариях, также сделала это. Согласно опросу почти 12 000 респондентов, в том числе из ведущих американских компаний, проведенному сетевым сайтом Fishbowl, по состоянию на январь около 43% профессионалов использовали ChatGPT или другие инструменты искусственного интеллекта, часто не сообщая об этом своим начальникам. К февралю Google попросила сотрудников, тестировавших Bard перед его запуском, не предоставлять ей внутреннюю информацию, сообщает Insider. Сейчас Google распространяет Bard более чем в 180 странах и на 40 языках в качестве плацдарма для творчества, и его предупреждения распространяются на предложения по коду. Google сообщила агентству Reuters, что провела подробные переговоры с Ирландской комиссией по защите данных и отвечает на вопросы регулирующих органов, после сообщения Politico во вторник о том, что компания откладывает запуск Bard в ЕС на этой неделе в ожидании получения дополнительной информации о влиянии чат-бота на конфиденциальность. ЗАБОТЯСЬ О КОНФИДЕНЦИАЛЬНОЙ ИНФОРМАЦИИ, такая технология может создавать черновики электронных писем, документов и даже самого программного обеспечения, обещая значительно ускорить выполнение задач. Однако в этот контент может быть включена дезинформация, конфиденциальные данные или даже защищенные авторским правом отрывки из романа “Гарри Поттер”. В уведомлении о конфиденциальности Google, обновленном 1 июня, также говорится: "Не включайте конфиденциальную или чувствительную информацию в свои разговоры с Bard". Некоторые компании разработали программное обеспечение для решения таких проблем. Например, Cloudflare, которая защищает веб-сайты от кибератак и предлагает другие облачные сервисы, предлагает компаниям возможность помечать некоторые данные и ограничивать их передачу извне. Google и Microsoft также предлагают бизнес-клиентам диалоговые инструменты, которые будут стоить дороже, но воздерживаются от использования данных в общедоступных моделях искусственного интеллекта. Настройка по умолчанию в Bard и ChatGPT заключается в сохранении истории разговоров пользователей, которую пользователи могут выбрать для удаления. "Имеет смысл", что компании не хотели бы, чтобы их сотрудники использовали общедоступных чат-ботов для работы, сказал Юсуф Мехди, директор по маркетингу Microsoft для потребителей. "Компании придерживаются должным образом консервативной точки зрения", - сказал Мехди, объясняя, как бесплатный чат-бот Microsoft Bing сравнивается с ее корпоративным программным обеспечением. "Там наша политика гораздо более строгая". Microsoft отказалась комментировать, действует ли у нее полный запрет на ввод конфиденциальной информации сотрудниками в общедоступные программы искусственного интеллекта, включая ее собственные, хотя другой руководитель компании сообщил Reuters, что он лично ограничил ее использование. Мэтью Принс (Matthew Prince), генеральный директор Cloudflare, сказал, что вводить конфиденциальные данные в чат-боты - это все равно, что "предоставить кучке аспирантов доступ ко всем вашим личным записям". (Репортаж Джеффри Дастина и Анны Тонг из Сан-Франциско, редактирование Кеннетом Ли и Ником Земински)
