Выберите действие
avatar

#переведено ИИ

Новый бенчмарк проверяет скорость обучения систем чат-ботам, подобным ChatGPT

0
67 просмотров

Автор: Джейн Ланхи Ли

Сан-Франциско (Рейтер) - MLCommons, группа, разрабатывающая тесты для технологии искусственного интеллекта (ИИ), во вторник обнародовала результаты нового теста, который определяет скорость работы системы при обучении алгоритмов, используемых для чат-ботов, таких как ChatGPT, и Nvidia вышла на первое место.

Тест MLPerf основан на GPT-3, модели искусственного интеллекта, используемой для обучения ChatGPT, вирусного чат-бота, разработанного OpenAI и поддерживаемого Microsoft. Однако, поскольку модель огромна, бенчмарк использует только репрезентативную часть.

"Это был наш самый дорогой бенчмарк на сегодняшний день", - сказал агентству Reuters исполнительный директор MLCommons Дэвид Кантер. "На его разработку мы потратили более 600 тысяч часов вычислительного времени на ускорителе, а также несколько фантастически талантливых инженеров".

Кантер отказался раскрывать стоимость разработки, сказав лишь, что она исчисляется миллионами долларов.

Только две фирмы, производящие чипы - Nvidia и Intel Habana Labs - представили результаты для бенчмарка, причем самое быстрое время показали системы, использующие новейший чип H100 от Nvidia, бесспорного лидера в области аппаратного обеспечения для обучения искусственного интеллекта.

Крупнейшая система Nvidia, представленная в партнерстве с облачным стартапом CoreWeave, использующим искусственный интеллект, использовала 3584 чипа H100, в результате чего время обучения составило 10,94 минуты. Habana Labs, компания по производству чипов искусственного интеллекта, приобретенная Intel, провела тест за 311,945 минуты на гораздо меньшей системе, оснащенной 384 чипами Gaudi2.

Как правило, большее количество чипов и более мощная система означают более быстрое обучение.

Джордан Плоунер из Intel, старший директор по продуктам искусственного интеллекта, сказал, что результаты продемонстрировали потенциал Gaudi2, программное обеспечение которого будет обновлено в сентябре для повышения скорости.

"Вы получите в 1,5-2 раза больше результатов по Habana. И вот тогда мы видим, что Habana Gaudi2 действительно конкурентоспособна и стоит дешевле, чем H100", - сказал Плоунер агентству Reuters.

Плоунер отказался сообщить, сколько стоит чип Gaudi2, но сказал, что отрасли нужен второй поставщик чипов для обучения ИИ, и результаты MLPerf показывают, что Intel может удовлетворить эту потребность.

(Репортаж Джейн Ланхи Ли; Редактирование Кристофера Кушинга)

Комментарии

0

/ 2500

Раскройте тему

Оставьте первый комментарий