Зачем вам нужен человек в цикле работы искусственного интеллекта
Искусственные интеллектуальные системы могут направлять сообщения, обновлять записи, принимать решения и запускать целые рабочие процессы между несколькими приложениями без вашего вмешательства. Однако по мере того, как искусственный интеллект переходит от роли вспомогательного инструмента к автономным системам, у людей появляется новая ответственность: убедиться, что ничего не пойдет не так.
Даже самые умные искусственные интеллектуальные системы все еще испытывают трудности с пониманием нюансов, особых случаев или неписаных правил, которыми команды руководствуются при принятии решений. Когда автономные агенты действуют без контекста, небольшие пробелы могут быстро превратиться в серьезные проблемы. Вот тут-то и вступает в игру человек в цикле работы ИИ (human-in-the-loop, HITL).
Вместо того чтобы позволить искусственной интеллектуальной системе работать бесконтрольно, вы можете спроектировать контрольные точки, где люди вмешиваются с опытом, контекстом и здравым смыслом. Такое вмешательство гарантирует, что решения, которые должны включать человека, действительно включают его участие. А с помощью инструмента оркестрации искусственного интеллекта вы можете напрямую встроить эти контрольные точки в рабочий процесс искусственного интеллекта.
Zapier объясняет, что такое человеческий цикл работы ИИ, почему это необходимо и какие практические шаблоны для добавления HITL в агентские рабочие процессы.
Что означает человеческий цикл работы ИИ?
Человеческий цикл работы ИИ относится к преднамеренному включению человеческого надзора в автономные рабочие процессы искусственного интеллекта на критических точках принятия решений. Вместо того чтобы позволять агенту выполнять задачи полностью самостоятельно и надеяться, что он примет правильное решение, HITL добавляет этапы утверждения пользователя, отклонения или проверки обратной связи до продолжения рабочего процесса.
Допустим, вы создаете автоматизированную систему генерации лидов, которая идентифицирует потенциальных клиентов, добавляет их в вашу CRM и отправляет целевые электронные письма. Большая часть этой работы может выполняться автоматически, но вам может понадобиться одобрение человека, если агент хочет обновить существующую запись клиента или, возможно, проверить электронное письмо перед отправкой.
И это не значит, что вы становитесь контролирующим бюрократом (хотя это тоже здорово). HITL дает вам все преимущества автоматизации искусственного интеллекта, работающие на полной скорости, плюс душевное спокойствие, когда решения связаны с риском, нюансами или последствиями второго порядка. Это предотвращает необратимые ошибки, обеспечивает соблюдение нормативных требований в регулируемых сценариях и выявляет этические вопросы, которые искусственный интеллект мог бы упустить. Каждое утверждение, отклонение или исправление человеком в рабочем процессе искусственного интеллекта также становится обучающим материалом для агента. Со временем искусственные интеллектуальные системы учатся на вашей обратной связи и улучшают свою производительность.
С помощью инструмента оркестровки искусственного интеллекта вы можете встраивать шаги и контрольные точки человеческого цикла работы непосредственно в свои рабочие процессы искусственного интеллекта и агентов. Это означает отсутствие дополнительных настроек для HITL, и вы сможете отслеживать каждый перерыв, человеческое решение и контекст для соблюдения нормативных требований и последующего рассмотрения.
Когда следует использовать HITL в рабочих процессах искусственного интеллекта?
Если у вас есть агент искусственного интеллекта, действующий от вашего имени, подумайте хорошенько, где вам может потребоваться присутствие человека в цикле работы ИИ. Хотя цель автоматизации искусственного интеллекта заключается в скорости, скорость теряет актуальность, когда искусственный интеллект принимает неверные решения. HITL действует как страховочный трос, определяющий, когда, где и каким образом включить человека до того, как автоматический рабочий процесс продолжит свое выполнение.
Вот несколько общих ситуаций, когда агентский рабочий процесс должен остановиться и запросить надзор человека, хотя вы должны рассмотреть каждую из ваших рабочих процессов отдельно.
Низкая уверенность или неопределенность
Представьте себе сообщение от клиента: мой счет неправильный, и мне нужно это исправить прямо сейчас. Является ли это спором по поводу выставления счетов? Запрос на возврат средств? Техническая проблема?
Если агент не уверен в классификации сообщения, рабочий процесс должен приостановиться и перейти к человеку вместо того, чтобы гадать (что мы знаем, что искусственный интеллект любит делать). Это также применимо, когда уверенность агента в конкретной ситуации падает ниже заранее определенного вами порога.
Чувствительные действия
Если существуют действия, которые могут привести к случайной потере данных или необратимым ошибкам, вам необходим человек в цикле работы ИИ. Например, вам потребуется контрольная точка HITL при выполнении действий, таких как перезапись записей клиентов или удаление данных. Здесь ваша терпимость к риску играет роль, но лучше начать с большего количества HITL и затем ослабить ограничения, если вы увидите, что искусственный интеллект работает хорошо.
Нормативные и регуляторные последствия
Где действия имеют нормативные или регуляторные последствия, требуется добавление человеческого надзора. Например, если агент составляет контракт, юрист должен просмотреть весь текст контракта перед отправкой или подписанием чего-либо.
Все, что требует сочувствия
Задачи и решения, требующие сочувствия и человеческого суждения, не должны оставляться на усмотрение одного только искусственного интеллекта. Искусственный интеллект может сделать многое, но он не способен по-настоящему сопереживать другому человеку, и если он попытается, это будет немедленно отвергнуто (справедливо) как лицемерие. Вам также следует учитывать потенциальную предвзятость в искусственном интеллекте. Конечно, люди тоже предвзяты, но наличие контрольных точек HITL всякий раз, когда может возникнуть предвзятость, помогает избежать потенциальных проблем.
Как добавить человеческий цикл работы ИИ в рабочие процессы
После того как вы определили области, где требуется человеческое суждение, следующий шаг — фактически встроить эти контрольные точки в ваш рабочий процесс искусственного интеллекта.
Человеческий цикл работы ИИ может принимать различные формы, включая одобрения, запросы контекста или проверочные этапы. Но это не означает замедление автоматизации или проверку каждого действия. Цель состоит в том, чтобы позволить рабочему процессу функционировать самостоятельно до тех пор, пока ему не потребуется человеческое вмешательство.
Вот некоторые практические шаблоны для добавления контроля человека в агентские рабочие процессы вместе с практическими способами реализации этого подхода:
Потоки одобрения
Потоки одобрения предполагают остановку рабочего процесса агента в предварительно определенной контрольной точке до получения одобрения или отказа человека от решения агента.
Команда SkillStruct использует поток одобрения для обзора всех рекомендаций по карьере, генерируемых искусственным интеллектом, прежде чем они будут представлены пользователям. После генерации рекомендации на основе профиля пользователя система искусственного интеллекта отправляет уведомление электронной почты команде разработчиков. Затем разработчик использует специализированное приложение для просмотра вывода. Если рекомендация утверждена, она показывается пользователю; в противном случае контент удаляется.
Рутинг на основе уверенности
Рутинг на основе уверенности включает привлечение человека, если агент искусственного интеллекта сталкивается с неопределенностью. Для этого шаблона инструкции агента содержат определенный показатель уверенности, и если этот показатель падает ниже установленного вами порога, агент автоматически передает задачу человеку.
Шаблон рутинного управления уверенностью идеально подходит для агентских рабочих процессов, обрабатывающих широкий спектр обычно четких задач (например, категоризация входящих запросов клиентов), но требующих механизма отката для неоднозначных крайних случаев.
Например, владелец агентства Tradesmen построил систему обработки счетов-фактур, управляемую искусственным интеллектом, которая автономно обрабатывает счета-фактуры, извлекает структурированные данные с использованием модели большого языка и инструмента оркестровки искусственного интеллекта. Однако всякий раз, когда система сталкивается с исключительными ситуациями или неопределенными результатами (например, отсутствующие или конфликтующие поля данных, поставщик или номер PO отсутствуют в записях Entrata, или уровень уверенности в проверке ниже определенного порога), рабочий процесс перенаправляется в журнал исключений и отправляется уведомление для ручной проверки. Затем человек проверяет данные, корректирует детали или утверждает запись для загрузки.
Пути эскалации
Пути эскалации позволяют оператору-человеку вмешиваться, когда действие выходит за рамки полномочий агента, предотвращая сбой автоматизации.
Предположим, агент искусственного интеллекта, ответственный за обработку запросов на возврат средств, встречает запрос выше своего порогового значения. Вместо бесконечных попыток повторить попытку и остановки рабочего процесса агент перенаправляет задачу финансистам с примечанием «запрос на возврат превышает установленный лимит, требуется человеческая проверка».
Петли обратной связи
Петли обратной связи позволяют человеку работать совместно с агентом искусственного интеллекта путем внедрения механизмов обратной связи непосредственно в рабочий процесс. При выполнении задачи рецензент может оценить ее, дать быстрый знак одобрения или предоставить более подробную обратную связь для коррекции агента, чтобы коррекция стала входными данными для будущих итераций.
Например, команда ContentMonk использует систему искусственного интеллекта для автоматизации 70–80% своих операций по управлению контентом. Люди работают бок о бок с системой искусственного интеллекта, предоставляя вводные данные и просматривая результаты на различных этапах производственного процесса контента, тогда как сама система выполняет автоматизацию написания. Перед генерацией краткого изложения человек предоставляет вводные данные, такие как тон голоса, целевой клиент, структура сообщений и брендовые руководства. Генерация краткого изложения затем оценивается, редактируется и утверждается перед созданием черновика. После завершения черновика человек снова оценивает его, чтобы убедиться, соответствует ли он требованиям бренда, прежде чем добавлять изображения и публиковать.
Журналы аудита
Не каждому агентскому рабочему процессу требуется немедленное человеческое одобрение решений в реальном времени. Иногда достаточно просто иметь возможность видеть происходящее, и журналы аудита позволяют автоматизации работать на полную мощность, регистрируя каждое действие для последующего рассмотрения.
Например, если любой агент изменяет записи CRM после телефонного разговора с клиентом, каждая такая модификация автоматически фиксируется: что изменилось, когда произошло изменение и почему. Не требуются одобрения, нет прерываний рабочего процесса. Журналы аудита обеспечивают людям прозрачность без создания жестких остановок, делая их идеальными для рабочих процессов, где важен надзор, но немедленное человеческое вмешательство не требуется.
Почему важен человеческий цикл работы ИИ?
Контрольные точки HITL позволяют искусственному интеллекту и автоматизации двигаться быстро, сохраняя при этом контроль над решениями, связанными с риском, требующими большей нюансировки, чем может обработать искусственный интеллект, или требующими человеческой ответственности.
Кроме того, петли обратной связи обеспечивают, что человеческие корректировки становятся обучающими материалами, благодаря которым агенты искусственного интеллекта становятся умнее и более согласованными с вашими предпочтительными результатами. Когда люди руководят моментами, когда искусственный интеллект испытывает недостаток контекста или суждений, система становится более надежной и адаптируемой со временем.
Не менее важно: утверждения, пути эскалации и журналы аудита дают командам видимость рабочих процессов искусственного интеллекта и причин, помогая уменьшить эффект черного ящика искусственного интеллекта. Это способствует внутренней подотчетности и прозрачности внутри компании, а также играет важную роль во время внутренних проверок и аудиторских проверок соответствия нормам.
Добавьте HITL в ваши рабочие процессы искусственного интеллекта и агентов
Автономный искусственный интеллект впечатляет, но у него есть свои недостатки. Агент искусственного интеллекта может знать, что делать, но не понимает, почему. Рискованно, мягко говоря.
За счет введения контрольных точек HITL в ключевые моменты принятия решений вы вносите контекст, суждения и ответственность в рабочий процесс. Это предотвращает те исходы, которые подрывают доверие: возврат средств, выданный не тому клиенту, перезапись записей CRM, нарушение нормативных требований или даже просто неправильное сообщение, не соответствующее вашему бренду.
Эта история была создана Zapier и проверена и распространена Stacker.
