Автор: Стивен Неллис
(Рейтер) - Чипы искусственного интеллекта от Qualcomm Inc превзошли Nvidia Corp по двум из трех показателей энергоэффективности в новом наборе тестовых данных, опубликованных в среду, в то время как тайваньский стартап превзошел оба в одной категории.
Nvidia доминирует на рынке обучающих моделей искусственного интеллекта с огромными объемами данных. Но после того, как эти модели искусственного интеллекта обучены, они находят более широкое применение в так называемом "выводе", выполняя такие задачи, как генерация текстовых ответов на подсказки и определение того, содержит ли изображение кошку.
Аналитики полагают, что рынок чипов для вывода данных в центрах обработки данных будет быстро расти по мере того, как компании внедрят технологии искусственного интеллекта в свои продукты, но такие компании, как Google из Alphabet Inc., уже изучают, как снизить дополнительные расходы, которые это приведет.
Одной из таких основных затрат является электроэнергия, и Qualcomm использовала свой опыт разработки чипов для устройств с батарейным питанием, таких как смартфоны, для создания чипа под названием Cloud AI 100, который нацелен на экономное энергопотребление.
Согласно данным тестирования, опубликованным в среду MLCommons, инженерным консорциумом, который поддерживает тесты, широко используемые в индустрии чипов искусственного интеллекта, AI 100 от Qualcomm превзошел флагманский чип Nvidia H100 в классификации изображений, основываясь на количестве запросов сервера центра обработки данных, которые каждый чип может выполнить на ватт.
Чипы Qualcomm обрабатывают 197,6 серверных запросов на ватт против 108,4 запросов на ватт у Nvidia. Neuchips, стартап, основанный ветераном тайваньского чиповедения Юн-Лонг Лином, занял первое место с 227 запросами на ватт.
Qualcomm также превзошла Nvidia в обнаружении объектов с результатом 3,2 запроса на ватт против 2,4 запросов Nvidia на ватт. Обнаружение объектов может использоваться в таких приложениях, как анализ видеозаписей из розничных магазинов, чтобы определить, куда чаще всего ходят покупатели.
Однако Nvidia заняла первое место как по абсолютной производительности, так и по энергоэффективности в тестировании обработки естественного языка, которая является технологией искусственного интеллекта, наиболее широко используемой в таких системах, как чат-боты. Nvidia достигла 10,8 сэмплов на ватт, в то время как Neuchips заняла второе место с 8,9 сэмплами на ватт, а Qualcomm оказалась на третьем месте с 7,5 сэмплами на ватт.
(Репортаж Стивена Неллиса из Сан-Франциско; монтаж Пола Симао)
