Nvidia готовит новый специализированный ИИ-процессор для вывода нейросетевых моделей, который будет основан на архитектуре Groq. Это отдельная линейка чипов, отличная от привычных GPU, ориентированная именно на задачи инференса и минимизацию задержек при работе крупных языковых моделей.
В основе проекта лежит лицензионное соглашение Nvidia и Groq стоимостью около 20 млрд долларов. В его рамках Nvidia получила доступ к ключевым технологиям Groq, а также привлекла часть команды стартапа, включая его основателя. Первый чип на базе этих разработок планируют показать уже в марте на конференции Nvidia GTC, где компания традиционно демонстрирует свои новейшие решения для ИИ и высокопроизводительных вычислений.
Groq два года назад представила собственный языковой процессор (Language Processing Unit, LPU), который по внутренним тестам компании показал одни из лучших результатов на рынке именно в задачах вывода искусственного интеллекта. Архитектура LPU изначально проектировалась под детерминированную и предсказуемую производительность при работе с большими моделями, что сделало Groq заметным игроком в сегменте ИИ-ускорителей.
На этом фоне в декабре появилась информация, что отдельные чипы Groq LPU могут быть интегрированы в будущие ИИ-ускорители Nvidia семейства Feynman. Такое сочетание собственных GPU и лицензированных специализированных процессоров способно усилить позиции Nvidia на рынке центров обработки данных и облачных платформ, где растет спрос на эффективные решения именно для инференса.
Nvidia, основанная в 1993 году в США, начинала как производитель графических процессоров и быстро стала крупнейшим игроком на рынке компьютерной графики. Позднее компания расширила фокус на параллельные вычисления, искусственный интеллект и автономные системы. Партнерство с Groq и вывод нового класса ИИ-процессоров укладываются в стратегию Nvidia по усилению доминирования в сфере вычислительного ИИ и масштабируемых решений для работы с нейросетевыми моделями.