OpenAI GPT-OSS-20b заработала на чипах Snapdragon, но ей нужно 24 ГБ ОЗУ
Qualcomm сообщила, что языковая модель GPT-OSS-20b от OpenAI теперь способна исполняться прямо на устройствах с процессорами Snapdragon без подключения к облаку. Однако радоваться всем владельцам смартфонов пока рано: для стабильной работы движку требуется 24 ГБ оперативной памяти, тогда как даже топовые телефоны сегодня редко предлагают больше 16 ГБ.
GPT-OSS-20b насчитывает 21 млрд параметров, но использует архитектуру Mixture-of-Experts, поэтому при генерации текста задействуется лишь около 3,6 млрд параметров на токен. Это снижает нагрузку на вычислительные блоки, однако вопрос объёма ОЗУ остаётся критичным. Qualcomm называет совместимость с Snapdragon «важной вехой» и подчёркивает, что локальный запуск даёт два основных преимущества: минимальную задержку отклика и отсутствие передачи пользовательских данных на удалённые серверы.
OpenAI уже открыла доступ к модели разработчикам через площадки Hugging Face и Ollama. Теоретически GPT-OSS-20b можно использовать в чат-ботах, системах помощи при наборе текста или голосовых ассистентах, работающих автономно. На практике же попробовать новинку прямо сейчас сможет лишь ограниченное число устройств — прежде всего ноутбуки и планшеты на базе свежих однокристальных систем Qualcomm, рассчитанные на 32 ГБ памяти и выше.
Несмотря на высокие требования, анонс демонстрирует направление развития мобильного искусственного интеллекта. Инженеры Qualcomm уверены, что с дальнейшим сокращением энергопотребления и оптимизацией моделей подобные решения появятся и в массовых смартфонах. Дополнительными деталями о производительности и поддерживаемых функциях компания обещает поделиться в ближайшие месяцы.
