Автор: Стивен Неллис
(Рейтер) - Корпорация Nvidia, крупный поставщик чипов и вычислительных систем для искусственного интеллекта, во вторник выпустила набор программных средств, направленных на то, чтобы помочь чат-ботам следить за своим языком.
Чипы Nvidia помогли таким компаниям, как Microsoft Corp., добавить функции человекоподобного чата в поисковые системы, такие как Bing. Но чат-боты все еще могут быть непредсказуемыми и говорить то, чего их создатели предпочли бы не говорить.
Microsoft в феврале ограничила пользователей пятью вопросами за сеанс работы со своей поисковой системой Bing после того, как New York Times сообщила, что система давала тревожные ответы во время длительных разговоров.
Программные средства Nvidia, предоставляемые бесплатно, предназначены для того, чтобы помочь компаниям защититься от нежелательных ответов чат-ботов. Некоторые из этих способов просты - создатель чат-бота для обслуживания клиентов может не захотеть, чтобы система упоминала продукты своих конкурентов.
Но инструменты Nvidia также предназначены для того, чтобы помочь создателям систем искусственного интеллекта внедрить важные меры безопасности, такие как обеспечение того, чтобы чат-боты не отвечали потенциально опасной информацией, например, о том, как создавать оружие или отправлять пользователей по неизвестным ссылкам, которые могут содержать компьютерные вирусы.
Законодатели США призвали к регулированию систем искусственного интеллекта, поскольку популярность таких приложений, как ChatGPT, резко возросла. Существует мало правовых норм или отраслевых стандартов о том, как сделать системы искусственного интеллекта безопасными.
Джонатан Коэн, вице-президент по прикладным исследованиям Nvidia, сказал, что компания стремится предоставить инструменты для внедрения этих стандартов в программный код, если и когда они появятся, будь то на основе отраслевого консенсуса или регулирования.
"Я думаю, трудно говорить о стандартах, если у вас нет способа их внедрить", - сказал он. "Если появятся стандарты, то найдется хорошее место для их внедрения".
(Репортаж Стивена Неллиса из Сан-Франциско; монтаж Ричарда Чанга)
