Статистика малых языковых моделей на устройстве (2026): более 60 показателей о поставках смартфонов с GenAI, сжатии моделей и скорости NPU

Статистика SLM на устройстве 2026: GenAI-смартфоны достигли 45% поставок, Apple запускает модель 3B на 2 бита на вес, Snapdragon выдаёт 220 токенов/с.

Смартфоны с поддержкой GenAI выйдут на 45% мировых поставок в 2026 году против 36% годом ранее (Counterpoint Research, GenAI Smartphone Share Forecast 2026), и почти все они зависят от малой языковой модели, работающей локально на нейропроцессоре. Сами модели сжались, чтобы уместиться: базовая модель Apple на устройстве вмещает около 3 миллиардов параметров при 2 битах на вес (Apple Machine Learning Research, Foundation Models 2025 Updates), а Gemma 3n E2B от Google работает всего в 2GB памяти (Google Developers Blog, Gemma 3n Developer Guide 2025). Кремний развивается так же быстро: Qualcomm заявляет до 220 токенов в секунду на своём новейшем NPU Hexagon. Мы свели данные Counterpoint Research, Gartner, IDC, MLCommons, Apple, Google, Qualcomm, MediaTek, Meta, Microsoft, Deloitte и Samsung, чтобы показать, где находятся SLM на устройстве в 2026 году. О более широкой картине по оборудованию читайте в нашем обзоре статистики периферийного ИИ.

Кратко (TL;DR)

  • 45% смартфонов, поставленных в 2026 году, будут поддерживать GenAI, против 36% в 2025 году (Counterpoint Research, 2026)
  • 559 миллионов GenAI-смартфонов прогнозируется на 2026 год после 369,3 миллиона в 2025 году (Gartner, прогноз по GenAI-смартфонам 2025)
  • USD 393,3 миллиарда конечных расходов на GenAI-смартфоны прогнозируется на 2026 год, рост на 32% (Gartner, 2025)
  • Около 3 миллиардов параметров при 2 битах на вес лежат в основе модели Apple на устройстве (Apple Machine Learning Research, 2025)
  • Объём памяти 2GB и 3GB для Gemma 3n E2B и E4B (Google Developers Blog, 2025)
  • На 56% меньше и на 41% меньше памяти у квантизованных моделей Llama 3.2 1B и 3B (Meta AI, 2024)
  • До 220 токенов в секунду на NPU Hexagon в Snapdragon 8 Elite Gen 5, на 37% быстрее предыдущего поколения (Qualcomm, 2025)
  • Gemini Nano на Tensor G5 в 2,6 раза быстрее и в 2 раза эффективнее, чем на Tensor G4 (Google, 2025)
  • 3 размера моделей Llama (1B, 3B, 8B) в новом тесте LLM MLPerf Mobile v6.0 (MLCommons, 2026)
  • Примерно четырёхкратный рост цен на мобильную память ко второму кварталу 2026 года (Counterpoint Research, 2026)
  • Прогнозируемое падение поставок смартфонов в 2026 году на 13,9%, до 1,08 миллиарда единиц, из-за дефицита памяти (Counterpoint Research, 2026)
  • Более 70% пользователей Galaxy S25 активно используют встроенные функции ИИ (Samsung, 2025)

1. Поставки GenAI-смартфонов: установленная база для SLM на устройстве

Каждый GenAI-смартфон по определению является носителем малой языковой модели: Gartner определяет эту категорию как устройства со встроенным нейронным движком или NPU, способным запускать SLM. Поэтому прогнозы поставок - самый чистый показатель того, сколько устройств могут запускать локальную модель. Counterpoint теперь ожидает, что 45% всех смартфонов, поставленных в 2026 году, будут поддерживать GenAI, а в 2027 году - 52% (Counterpoint Research, доля GenAI-смартфонов вырастет до 45% в 2026 году).

История за этой кривой - средний сегмент. По словам Counterpoint, GenAI теперь стандарт выше USD 400 в оптовой цене. Ограничение сместилось от вопроса «может ли чип запустить модель» к вопросу «может ли спецификация материалов вместить память», что количественно оценивает раздел 6. Если нужен более широкий контекст по аппаратам, наша страница о статистике рынка смартфонов охватывает общие объёмы по производителям.

ПоказательЗначениеИсточник
Доля GenAI-смартфонов в мировых поставках смартфонов, 202645% (против 36% в 2025)Counterpoint Research, июнь 2026
Прогноз доли GenAI-смартфонов, 202752%Counterpoint Research, июнь 2026
Поставки GenAI-смартфонов, прогноз на 2025Более 400 миллионов, примерно каждый третий телефонCounterpoint Research, март 2025
Доля GenAI-смартфонов в 2024Каждый пятый смартфонCounterpoint Research, март 2025
Число GenAI-смартфонов, 2024 / 2025 / 2026260,4 / 369,3 / 559 млнGartner, прогноз по GenAI-смартфонам, сентябрь 2025
Поставки GenAI-смартфонов, 2025Свыше 370 миллионов (доля 30%), рост на 73,1%IDC, мировой прогноз по смартфонам, 2025
Поставки GenAI-смартфонов, 2028912 миллионов единиц, CAGR 78,4%IDC, прогноз по смартфонам с генеративным ИИ, июль 2024

Примечание к контексту: три компании используют разные определения и даты. Релиз IDC от июля 2024 года (пресс-релиз IDC) прогнозировал, что GenAI-телефоны займут 70% рынка к 2028 году, а её прогноз 2025 года сдвинул отметку «более 70%» на 2029 год. Самые свежие долгосрочные данные IDC: июль 2024 года.

2. Расходы и размер рынка: большие деньги в оборудовании, малая выручка от моделей

Этот рынок описывают две очень разные цифры. Оборудование, запускающее SLM, - массовая потребительская категория, а рынок самих моделей пока невелик и плохо очерчен. Gartner прогнозирует USD 393,3 миллиарда конечных расходов на GenAI-смартфоны в 2026 году, рост на 32% по сравнению с USD 298,2 миллиарда в 2025 году (Gartner, пресс-релиз о конечных расходах на GenAI-смартфоны, 2025).

Что касается программной части, оценки аналитиков рынка малых языковых моделей расходятся на порядок, а это говорит скорее об определениях, чем о спросе. MarketsandMarkets оценивает 2025 год в USD 0,93 миллиарда, тогда как Research and Markets - почти в USD 9,16 миллиарда. Общая нить: все компании называют развёртывание на периферии и на устройстве самым быстрорастущим сегментом.

ПоказательЗначениеИсточник
Конечные расходы на GenAI-смартфоны, 2024 / 2025 / 2026USD 244,7 / 298,2 / 393,3 млрдGartner, сентябрь 2025
GenAI-смартфоны как доля всех конечных расходов на ИИ, 202520%Gartner, сентябрь 2025
Базовые (дешевле USD 350) GenAI-смартфоны с NPU, 202541%Gartner, сентябрь 2025
Премиальные смартфоны с поддержкой GenAI к 2029100%Gartner, сентябрь 2025
Рынок малых языковых моделей, 2025-2032USD 0,93-5,45 млрд, CAGR 28,7%MarketsandMarkets, апрель 2025
Рынок малых языковых моделей, 2025-2030USD 9,16-22,45 млрд, CAGR 19,6%Research and Markets, отчёт о рынке SLM 2026
Рынок малых языковых моделей, 2026-2030USD 11,1-20,7 млрд, CAGR 15,1%Grand View Research, отчёт о рынке SLM

Релиз MarketsandMarkets (GlobeNewswire, апрель 2025) называет развёртывание на периферии самым быстрорастущим сегментом, обусловленным требованиями к задержке и конфиденциальности на смартфонах и IoT-устройствах.

3. Размер и сжатие моделей: 3 миллиарда параметров при 2 битах

Практический потолок для модели, живущей в телефоне, задаёт оперативная память, а не амбиции. Производственные модели группируются между 1B и 4B параметров, а настоящая инженерия - в том, как мало бит достаётся каждому весу. Apple сжимает свою модель примерно на 3 миллиарда параметров на устройстве до 2 бит на вес с помощью обучения с учётом квантизации, с 4-битными эмбеддингами и 8-битным KV-кэшем (Apple Machine Learning Research, обновления базовых языковых моделей Apple на устройстве и на сервере, 2025).

Это резкий шаг вниз по сравнению с 2024 годом, когда модель Apple в среднем использовала 3,7 бита на вес. Google пошла другим путём с Gemma 3n: сохранила больше исходных параметров, но вынесла послойные эмбеддинги за пределы памяти ускорителя, так что в быстрой памяти находятся лишь около 2B или 4B «эффективных» параметров (Google Developers Blog, представление Gemma 3n, 2025). На таких уровнях сжатие стоит мало точности: Apple сообщает об улучшении MMLU на 1,5% и снижении MGSM примерно на 4,6% после сжатия.

ПоказательЗначениеИсточник
Размер модели Apple на устройствеОколо 3 миллиардов параметровApple Machine Learning Research, 2025
Точность весов модели Apple на устройстве2 бита на вес (QAT); эмбеддинги 4 бита; KV-кэш 8 битApple Machine Learning Research, 2025
Сокращение памяти KV-кэша Apple за счёт совместного использования блоков37,5%Apple Intelligence Foundation Language Models, технический отчёт, 2025
Точность модели Apple на устройстве в 2024Смешанная 2 и 4 бита, в среднем 3,7 бита на весApple Machine Learning Research, 2024
Исходные параметры Gemma 3n E2B / E4B5B / 8BGoogle Developers Blog, 2025
Объём памяти Gemma 3n E2B / E4BОт 2GB / 3GBGoogle Developers Blog, 2025
Сокращение размера и памяти квантизованных Llama 3.2 1B и 3B по сравнению с BF16На 56% меньше, на 41% меньше памятиMeta AI, квантизованные модели Llama, октябрь 2024
Размер и квантизация Phi Silica3,3B параметров, 4-битные веса, сокращение памяти около 60%Microsoft Windows Blog, декабрь 2024

Примечание к контексту: релиз квантизованных моделей Llama от Meta (блог Meta AI) и публикация Microsoft о Phi Silica (Windows Experience Blog) относятся к концу 2024 года. Самые свежие доступные данные по обеим: 2024 год. Академическое исследование на ноутбуках добавляет полезное эмпирическое правило: около 3,5 эффективного бита на вес - это порог, с которого сильно квантизованная крупная модель начинает превосходить меньшую модель с более высокой точностью (arXiv 2505.15030, систематическая оценка LLM на устройстве).

4. Пропускная способность NPU: токены в секунду на флагманском кремнии

Заявления о пропускной способности делают сами производители, и измеряют их на разных моделях, поэтому относитесь к ним как к потолкам, а не к сопоставимым оценкам. Тем не менее направление очевидно. Qualcomm заявляет, что NPU Hexagon в Snapdragon 8 Elite Gen 5 на 37% быстрее предшественника и стабильно выдаёт до 220 токенов в секунду с поддержкой INT2 и FP8 (Qualcomm, запуск Snapdragon 8 Elite Gen 5, сентябрь 2025; цифры подтверждены Futurum Group).

Более показательны цифры обработки промпта по сравнению с генерацией. Чтение промпта на NPU обходится дёшево; генерация каждого нового токена упирается в память. Gemma 3n E2B на NPU Dimensity 9500 читает более 1 600 токенов в секунду, но пишет 28, поэтому все производители борются за пропускную способность памяти и форматы с меньшей точностью. Этот разрыв важен для голосовых и ассистентских функций в реальном времени, где быстрый первый ответ скрывает медленный хвост; наша статистика голосовых помощников отслеживает, как это проявляется в использовании.

ПоказательЗначениеИсточник
Прирост NPU Snapdragon 8 Elite Gen 5На 37% быстрее предыдущего поколенияQualcomm, сентябрь 2025
Устойчивая генерация Snapdragon 8 Elite Gen 5До 220 токенов в секундуQualcomm, сентябрь 2025
Общая экономия энергии SoC Snapdragon 8 Elite Gen 516%Анализ Futurum Group данных Qualcomm, октябрь 2025
Вывод LLM на 3B параметров на Dimensity 9500В 2 раза быстрее (100%), с пиковой мощностью на 56% нижеЗапуск MediaTek Dimensity 9500, сентябрь 2025
Gemma 3n E2B на NPU Dimensity 9500 (контекст 4K)Более 1 600 токенов/с при обработке промпта, 28 токенов/с при генерацииРезультаты Google LiteRT NeuroPilot, декабрь 2025
Пропускная способность NPU в LiteRT по сравнению с CPU / GPU на MediaTekДо 12 раз быстрее CPU, до 10 раз быстрее GPUРезультаты Google LiteRT NeuroPilot, декабрь 2025
Gemini Nano на Tensor G5 по сравнению с Tensor G4В 2,6 раза быстрее, в 2 раза эффективнее; TPU до 60% мощнееGoogle, анонс Tensor G5 в Pixel 10, август 2025
Модель Apple на устройстве (iPhone 15 Pro)0,6 мс на токен промпта до первого токена; 30 токенов/сApple Machine Learning Research, 2024

Цифры MediaTek взяты из её релиза о запуске (MediaTek через PR Newswire); заявления Google о Tensor G5 - из публикации о Tensor G5 в Pixel 10. Показатель токенов в секунду у Apple - самый свежий из опубликованных: 2024 год.

5. Бенчмарки и качество: MLPerf Mobile входит в эпоху LLM

До 2026 года нейтральной меры для LLM на телефонах не существовало; каждая цифра в разделе 4 принадлежит самому производителю. MLPerf Mobile v6.0, выпущенный MLCommons 15 июня 2026 года, добавляет бенчмарки LLM на основе Llama 3.2 1B, Llama 3.2 3B и Llama 3.1 8B, оцениваемые по TinyMMLU и IFEval (MLCommons, MLPerf Mobile v6.0).

Главная новость - включение модели на 8B: MLCommons отмечает, что v6.0 поддерживает выполнение Llama 3.1 8B на NPU в Snapdragon 8 Elite Gen 5, а годом ранее такой размер был бенчмарком для дата-центров. По качеству малые модели теперь близки к более крупным аналогам в тестах на знания. Модель Apple на 3B на устройстве набирает 67,85% в MMLU, немного опережая Qwen-2.5-3B, а Phi Silica теряет менее одного пункта в PIQA после 4-битной квантизации. О семействах моделей с открытыми весами, стоящих за многими из этих бенчмарков, читайте в нашей статистике LLM с открытым исходным кодом.

ПоказательЗначениеИсточник
Модели LLM в MLPerf Mobile v6.0Llama 3.2 1B, Llama 3.2 3B, Llama 3.1 8BMLCommons, июнь 2026
SoC с новой или обновлённой поддержкой в v6.0Snapdragon 8 Elite Gen 5, Dimensity 9500, Exynos 2600MLCommons, июнь 2026
Эталонное качество MLPerf Mobile, Llama 3.1 8BTinyMMLU около 61%, IFEval около 67% (FP16)MLCommons, страница бенчмарка MLPerf Mobile
Эталонное качество MLPerf Mobile, Llama 3.2 3BTinyMMLU около 59%, IFEval около 65,5% (FP16)MLCommons, страница бенчмарка MLPerf Mobile
Интерактивные пороги малых LLM в MLPerf Inference 5.1 (Llama 3.1 8B)Первый токен в пределах 0,5 с, 30 мс на выходной токенMLCommons, сентябрь 2025
MMLU модели Apple на устройстве67,85% против Qwen-2.5-3B 66,37% и Gemma-3-4B 62,81%Apple Foundation Models, технический отчёт, 2025
Точность Phi Silica после 4-битной квантизацииPIQA 80,47% до 79,76%; ARC Challenge 63,48% до 60,49%Microsoft Windows Blog, декабрь 2024
Оценка Gemma 3n E4B в LMArenaСвыше 1300Google Developers Blog, 2025

Примечание к контексту: страница бенчмарка MLPerf Mobile (MLCommons) использует задержку 90-го процентиля как основную метрику для задач с одним потоком. Публичные результаты LLM по устройствам из v6.0 не были опубликованы в проанализированном нами анонсе релиза. Оценки Apple взяты из технического отчёта 2025 года на arXiv.

6. Ограничения по памяти и стоимости: дефицит DRAM

Главная угроза для SLM на устройстве в 2026 году - не качество моделей, а цена оперативной памяти, в которой они живут. Counterpoint сообщает, что цены на мобильную память к второму кварталу 2026 года выросли примерно в четыре раза, поскольку дата-центры ИИ поглотили большую часть выпуска DRAM и NAND (Counterpoint Research, удорожание мобильной памяти, сентябрь 2026).

Посмотрите, как за полгода ухудшился прогноз: падение поставок на 2,1% в декабре 2025 года, на 12,4% в марте 2026 года и на 13,9% к июню. Модели на 3B при 2 битах для весов нужно намного меньше гигабайта, но запас в несколько гигабайт оперативной памяти, которого ждут функции GenAI, - это именно то, что бюджетные телефоны сейчас урезают. Это объясняет, почему Counterpoint связывает следующую волну GenAI-телефонов и с предложением памяти, и с более эффективными моделями.

ПоказательЗначениеИсточник
Изменение цены мобильной памяти ко второму кварталу 2026Примерно в четыре разаCounterpoint Research, сентябрь 2026
Цена мобильной LPDDR4/5 во втором квартале 2026 по сравнению с третьим кварталом 2025Почти в 3 разаCounterpoint Research, через EE Times Asia, март 2026
Рост стоимости спецификации материалов (BoM) из-за скачка цен на DRAM, начальный / средний / высокий сегментОколо 25% / 15% / 10%Counterpoint Research, декабрь 2025
Пересмотр оптового ASP, 2026Рост на 6,9% год к годуCounterpoint Research, декабрь 2025
Прогноз поставок смартфонов на 2026, дек. 2025 / март 2026 / июнь 2026-2,1% / -12,4% / -13,9%Counterpoint Research
Мировые поставки смартфонов в 20261,08 миллиарда единиц, исторический минимумCounterpoint Research, июнь 2026
Поставки в сегменте дешевле USD 200, 2026Падение более чем на 20%Counterpoint Research, через EE Times Asia, март 2026

Источники: Counterpoint, прогнозы поставок смартфонов на 2026 год пересмотрены в сторону снижения и EE Times Asia о пересмотре в марте 2026 года. Gartner добавляет аппаратный минимум: она ожидает, что NPU мощностью выше 40 TOPS станут стандартом в премиальных телефонах к 2027 году.

7. Внедрение, использование и доверие: разработчики и потребители

Распространение больше не узкое место. Apple открыла свою модель на устройстве для сторонних приложений через фреймворк Foundation Models с бесплатным выводом, который работает офлайн и требует всего три строки на Swift (Apple Newsroom, WWDC25). Samsung заявляет, что более 70% пользователей Galaxy S25 активно используют встроенные функции ИИ, а Galaxy AI она нацеливала на более чем 400 миллионов устройств к концу 2025 года, вдвое больше цели в 200 миллионов на 2024 год (Samsung Newsroom, Galaxy Tech Forum 2025).

Доверие - противовес и самый сильный аргумент в пользу локального вывода. Deloitte установила, что 70% потребителей в США беспокоятся о конфиденциальности и безопасности данных, а высокую уверенность в защищённости своих данных имеют лишь 27%. SLM на устройстве отвечают на это беспокойство самой своей конструкцией, поэтому локальная обработка важна и для голосовых инструментов, таких как изменение голоса в реальном времени для Discord, где звук никогда не должен покидать компьютер.

ПоказательЗначениеИсточник
Пользователи Galaxy S25, активно использующие встроенный ИИБолее 70%Samsung, июль 2025
Целевой показатель устройств с Galaxy AI, конец 2025Свыше 400 миллионов (против 200 миллионов в 2024)Samsung, июль 2025
Пользователи, говорящие, что функции ИИ - часть их повседневной жизни47%Опрос Samsung / Symmetry Research, 2025
Пользователи, которые используют голосовые команды так же часто, как печатают45%Опрос Samsung / Symmetry Research, 2025
Потребители, планирующие купить GenAI-смартфон в течение года59%Опрос потребителей Counterpoint Research, декабрь 2024
Потребители в США, которые используют GenAI или пробуют её53%Deloitte Connected Consumer Survey 2025 (n=3 524)
Потребители в США, обеспокоенные конфиденциальностью и безопасностью данных70%Deloitte Connected Consumer Survey 2025
Потребители с высокой уверенностью в защищённости своих данных27%Deloitte Connected Consumer Survey 2025

Подробности опросов: пресс-релиз Deloitte о Connected Consumer 2025 и опрос Counterpoint о намерении обновиться. Опрос Counterpoint проведён в декабре 2024 года, это самые свежие данные компании о намерении обновиться.

Итоги: малые языковые модели на устройстве в цифрах

ПоказательЗначениеИсточник
Доля GenAI-смартфонов в поставках смартфонов, 202645%Counterpoint Research, 2026
Доля GenAI-смартфонов, 202752%Counterpoint Research, 2026
Число GenAI-смартфонов, 2026559 миллионовGartner, 2025
Конечные расходы на GenAI-смартфоны, 2026USD 393,3 миллиарда (+32%)Gartner, 2025
Поставки GenAI-смартфонов, 2028912 миллионовIDC, 2024
Рынок малых языковых моделей, 2032USD 5,45 миллиарда (CAGR 28,7%)MarketsandMarkets, 2025
Модель Apple на устройствеОколо 3B параметров при 2 битах на весApple Machine Learning Research, 2025
Сокращение памяти KV-кэша Apple37,5%Apple, технический отчёт, 2025
Объём памяти Gemma 3n E2BОт 2GBGoogle Developers Blog, 2025
Сокращение размера / памяти квантизованной Llama 3.256% / 41%Meta AI, 2024
NPU Snapdragon 8 Elite Gen 5До 220 токенов/с, на 37% быстрееQualcomm, 2025
Вывод LLM на 3B на Dimensity 9500В 2 раза быстрее, пиковая мощность на 56% нижеMediaTek, 2025
Gemma 3n E2B на NPU Dimensity 9500Более 1 600 токенов/с при обработке промпта, 28 токенов/с при генерацииGoogle LiteRT, 2025
Gemini Nano на Tensor G5В 2,6 раза быстрее, в 2 раза эффективнееGoogle, 2025
Размеры LLM в MLPerf Mobile v6.01B, 3B, 8BMLCommons, 2026
Цены на мобильную память ко второму кварталу 2026Примерно в четыре разаCounterpoint Research, 2026
Поставки смартфонов в 20261,08 миллиарда (-13,9%)Counterpoint Research, 2026
Пользователи Galaxy S25, активно использующие ИИБолее 70%Samsung, 2025
Потребители в США, обеспокоенные конфиденциальностью70%Deloitte, 2025

Методология и источники

Последнее обновление: 3 октября 2026 года. Мы обновляем этот обзор ежеквартально, и следующее обновление ожидается, когда Counterpoint опубликует свои трекеры по смартфонам и ценам на память за третий квартал 2026 года, а MLCommons выпустит первые публичные результаты LLM в MLPerf Mobile v6.0.

Попробуй VoxBooster — 3 дня бесплатно.

Клонирование голоса в реальном времени, саундборд и эффекты — везде, где ты говоришь.

  • Без карты
  • ~30 мс задержки
  • Discord · Teams · OBS
Попробовать 3 дня бесплатно