Автор: Макс А. Черный
(Reuters) - Группа инженеров, исследователей и базирующаяся в Кремниевой долине компания по производству чипов сотрудничали над выпуском продвинутого программного обеспечения на арабском языке, которое может использоваться для создания приложений искусственного интеллекта.
Новая модель большого языка под названием Jais содержит 13 миллиардов параметров, которая была создана на основе большого пакета данных, объединяющих арабский и английский языки, часть которых взята из компьютерного кода. Группа, в которую входили ученые и инженеры, приступила к реализации проекта отчасти потому, что, по их словам, существует несколько крупных языковых моделей, которые являются двуязычными.
Новая языковая модель была создана с помощью суперкомпьютеров, производимых компанией Cerebras Systems из Кремниевой долины, которая разрабатывает чипы размером с обеденную тарелку, конкурирующие с мощным оборудованием Nvidia для искусственного интеллекта. Чипы Nvidia находятся в дефиците, что побудило компании по всему миру искать альтернативы.
Названный в честь самой высокой вершины Объединенных Арабских Эмиратов, Jais является результатом сотрудничества Cerebras, Университета искусственного интеллекта имени Мохаммеда бен Зайда и дочерней компании базирующегося в Абу-Даби технологического конгломерата G42 под названием Inception, которая специализируется на искусственном интеллекте.
По словам профессора Тимоти Болдуина из Университета искусственного интеллекта Мохаммеда бен Зайда, поскольку данных на арабском языке недостаточно для обучения модели такого размера, как Джайс, компьютерный код в данных на английском языке помог обучить модель способности рассуждать.
"(Код) дает модели большое преимущество с точки зрения способности рассуждать, потому что в нем прописаны (логические) шаги", - сказал Болдуин агентству Reuters.
Jais будет доступен по лицензии с открытым исходным кодом.
Группа обучила модель Jais на суперкомпьютере Cerebras под названием Condor Galaxy. В этом году Cerebras объявила, что продала G42 три таких устройства, причем поступление первого запланировано на этот год, а поставка остальных устройств запланирована на 2024 год.
(Репортаж Макса А. Черни из Сан-Франциско; редактирование Джози Као)
