Авторы: Анна Тонг и Джеффри Дастин
Примерно через десять лет после того, как на сцену вышли виртуальные помощники, такие как Siri и Alexa, новая волна помощников с искусственным интеллектом и большей автономностью повышает ставки, опираясь на последнюю версию технологии, лежащей в основе ChatGPT и его конкурентов.
Экспериментальные системы, работающие на GPT-4 или аналогичных моделях, привлекают миллиарды долларов инвестиций, поскольку Силиконовая долина конкурирует за то, чтобы извлечь выгоду из достижений в области искусственного интеллекта. Новые помощники, которых часто называют "агентами" или "вторыми пилотами", обещают выполнять более сложные личные и рабочие задачи по команде человека, не нуждаясь в пристальном наблюдении.
"Высокий уровень, мы хотим, чтобы это стало чем-то вроде вашего личного друга с искусственным интеллектом", - сказал разработчик Див Гарг, чья компания MultiOn проводит бета-тестирование агента с искусственным интеллектом.
"Это могло бы развиться в Jarvis, где мы хотим, чтобы это было связано со многими вашими сервисами", - добавил он, имея в виду незаменимый искусственный интеллект Тони Старка в фильмах "Железный человек". "Если ты хочешь что-то сделать, ты идешь и разговариваешь со своим искусственным интеллектом, и он делает все, что ты хочешь".
Индустрия все еще далека от подражания ослепительным цифровым помощникам из научной фантастики; например, агент Гарга просматривает Интернет, чтобы заказать бургер на DoorDash, в то время как другие могут разрабатывать инвестиционные стратегии, отправлять электронные письма людям, продающим холодильники на Craigslist, или подводить итоги рабочих совещаний для тех, кто опаздывает.
"Многое из того, что легко для людей, все еще невероятно сложно для компьютеров", - сказал Канджун Цю, генеральный директор Generally Intelligent, конкурента OpenAI, создающего искусственный интеллект для агентов.
"Допустим, вашему боссу нужно, чтобы вы назначили встречу с группой важных клиентов. Это требует навыков рассуждения, которые сложны для ИИ - ему необходимо учитывать предпочтения каждого, разрешать конфликты, и все это при соблюдении осторожности, необходимой при работе с клиентами ".
Согласно интервью Reuters с примерно двумя десятками предпринимателей, инвесторов и экспертов в области искусственного интеллекта, первые попытки - это лишь малая толика изощренности, которая может появиться в будущем от все более продвинутых и автономных агентов по мере того, как индустрия продвигается к искусственному общему интеллекту (AGI), который может равняться или превосходить людей в решении множества когнитивных задач.
Новая технология вызвала ажиотаж в отношении помощников, работающих на базе так называемых базовых моделей, включая GPT-4, охватывая индивидуальных разработчиков, крупных игроков, таких как Microsoft и Google, родительский Alphabet, а также множество стартапов.
Inflection AI, если назвать один стартап, привлек 1,3 миллиарда долларов в конце июня. Согласно подкасту соучредителей Рида Хоффмана и Мустафы Сулеймана, компания разрабатывает персонального помощника, который, по ее словам, мог бы выступать в качестве наставника или выполнять такие задачи, как обеспечение кредита на перелет и бронирование отеля после задержки поездки.
Adept, стартап в области искусственного интеллекта, собравший 415 миллионов долларов, рекламирует преимущества своего бизнеса; в демоверсии, размещенной в Интернете, показано, как вы можете подсказать его технологию предложением, а затем наблюдать, как она самостоятельно ориентируется в базе данных Salesforce по взаимоотношениям с клиентами, выполняя задачу, которая, по его словам, займет некоторое время. человек делает 10 или более кликов.
Alphabet отказалась комментировать работу, связанную с агентами, в то время как Microsoft заявила, что ее видение заключается в том, чтобы люди контролировали второго пилота с искусственным интеллектом, а не автопилоты.
ШАГ 1: УНИЧТОЖЬТЕ ЧЕЛОВЕЧЕСТВО
Цю и четыре других разработчика agent заявили, что ожидают появления на рынке в течение года первых систем, способных надежно выполнять многоэтапные задачи с некоторой автономией, ориентированных на узкие области, такие как кодирование и маркетинговые задачи.
"Реальная задача заключается в создании систем с надежным обоснованием", - сказал Цю.
Гонка за все более автономными агентами искусственного интеллекта была ускорена мартовским выпуском GPT-4 разработчиком OpenAI, мощным обновлением модели, лежащей в основе ChatGPT - чат-бота, который стал сенсацией, когда был выпущен в ноябре прошлого года.
GPT-4 способствует стратегическому и адаптивному мышлению, необходимому для навигации в непредсказуемом реальном мире, говорит Вивиан Ченг, инвестор венчурной компании CRV, специализирующейся на агентах искусственного интеллекта.
Первые демонстрации агентов, способных к сравнительно сложному мышлению, были сделаны отдельными разработчиками, которые в марте создали проекты с открытым исходным кодом BabyAGI и AutoGPT, которые могут определять приоритеты и выполнять такие задачи, как поиск продаж и заказ пиццы, на основе заранее определенной цели и результатов предыдущих действий.
По словам восьми опрошенных разработчиков, сегодняшние ранние версии агентов являются всего лишь подтверждением концепции и часто замораживают или предлагают что-то, что не имеет смысла. По их словам, если агенту предоставить полный доступ к компьютеру или платежной информации, он может случайно стереть диск компьютера или купить не ту вещь.
"Существует так много способов, которыми это может пойти не так", - сказал Аравинд Сринивас, генеральный директор конкурента ChatGPT Perplexity AI, который вместо этого решил предложить продукт copilot, управляемый человеком. "Вы должны относиться к ИИ как к ребенку и постоянно контролировать его, как мама".
Многие ученые-компьютерщики, специализирующиеся на этике искусственного интеллекта, указывали на краткосрочный вред, который может быть причинен увековечиванием человеческих предубеждений и потенциальной дезинформацией. И в то время как некоторые видят будущего Джарвиса, другие боятся смертоносного Хэла 9000 из "2001: Космическая одиссея".
Ученый-компьютерщик Йошуа Бенгио, известный как "крестный отец искусственного интеллекта" за свои работы по нейронным сетям и глубокому обучению, призывает к осторожности. Он опасается, что будущие продвинутые версии технологии могут создавать свои собственные, неожиданные цели и действовать в соответствии с ними.
"Без участия человека, который проверяет каждое действие, чтобы убедиться, что оно не опасно, мы можем в конечном итоге столкнуться с действиями, которые являются преступными или могут нанести вред людям", - сказал Бенгио, призывая к усилению регулирования. "Через несколько лет эти системы могут стать умнее нас, но это не значит, что у них такие же моральные ориентиры".
В одном эксперименте, опубликованном в Интернете, анонимный создатель проинструктировал агента по имени ChaosGPT быть "разрушительным, властолюбивым, манипулирующим искусственным интеллектом". Агент разработал план из 5 шагов, включающий шаг 1: "Уничтожить человечество" и шаг 5: "Достичь бессмертия".
Однако дело зашло не слишком далеко, и, казалось, исчезло в кроличьей норе, занимаясь исследованием и хранением информации о самом смертоносном оружии в истории и планируя публикации в Twitter.
Федеральная торговая комиссия США, которая в настоящее время расследует OpenAI из-за опасений причинения вреда потребителям, не обращалась напрямую к автономным агентам, но сослалась Reuters на ранее опубликованные блоги о глубоких подделках и маркетинговых заявлениях об ИИ. Генеральный директор OpenAI заявил, что стартап следует закону и будет работать с FTC.
"ТУПОЙ КАК СКАЛА"
Если отбросить экзистенциальные опасения, коммерческий потенциал может быть большим. Базовые модели обучаются на огромных объемах данных, таких как текст из Интернета, с использованием искусственных нейронных сетей, вдохновленных архитектурой биологического мозга.
По словам четырех человек, проинформированных о планах OpenAI, сама OpenAI очень заинтересована в технологии AI agent. Гарг, один из тех, кого компания проинформировала, сказал, что OpenAI опасается выпускать на рынок свой собственный открытый агент до полного понимания проблем. Компания сообщила агентству Reuters, что проводит тщательное тестирование и разрабатывает широкие протоколы безопасности, прежде чем выпускать новые системы.
Microsoft, крупнейший спонсор OpenAI, входит в число крупных компаний, нацелившихся на сферу ИИ-агентов со своим "вторым пилотом для работы", который может составлять надежные электронные письма, отчеты и презентации.
Генеральный директор Сатья Наделла рассматривает технологию foundation-model как скачок по сравнению с цифровыми помощниками, такими как Cortana от Microsoft, Alexa от Amazon, Siri от Apple и Google Assistant, которые, по его мнению, не оправдали первоначальных ожиданий.
- Они все были тупы как скала. Будь то Cortana, Alexa, Google Assistant или Siri, все это просто не работает", - сказал он Financial Times в феврале.
Представитель Amazon сообщил, что Alexa уже использует передовую технологию искусственного интеллекта, добавив, что ее команда работает над новыми моделями, которые сделают помощника более способным и полезным. Apple отказалась от комментариев.
Google также заявила, что постоянно совершенствует своего помощника и что его технология Duplex позволяет звонить в рестораны, чтобы забронировать столики и уточнить часы работы.
Эксперт по искусственному интеллекту Эдвард Грефенштетт также присоединился к исследовательской группе Google DeepMind в прошлом месяце, чтобы "разработать универсальные агенты, способные адаптироваться к открытым средам".
Тем не менее, по мнению некоторых опрошенных людей, первые потребительские версии квазиавтономных агентов могут появиться у более проворных стартапов.
Инвесторы набрасываются.
Джейсон Франклин из WVV Capital сказал, что ему пришлось бороться за то, чтобы инвестировать в компанию, занимающуюся ИИ-агентами, от двух бывших инженеров Google Brain. В мае Google Ventures провела начальный раунд финансирования Cognosys стоимостью 2 миллиона долларов, разрабатывая ИИ-агентов для повышения производительности труда, в то время как Хесам Мотлах, основавший в январе стартап Arkifi, сказал, что в июне он завершил "значительный" первый раунд финансирования.
По словам Мэтта Шлихта, который пишет информационный бюллетень об искусственном интеллекте, существует по меньшей мере 100 серьезных проектов, работающих над коммерциализацией агентов.
"Предприниматели и инвесторы чрезвычайно взволнованы автономными агентами", - сказал он. "Они гораздо больше взволнованы этим, чем просто чат-ботом".
(Репортаж Анны Тонг из Сан-Франциско и Джеффри Дастина из Пало-Альто; Редактирование Кеннета Ли и Правина Чара)
