01
Ассистент по вашим знаниям
Отвечает сотрудникам и клиентам по регламентам, базе знаний и истории — со ссылкой на источник.
Лист 1Общий вид · кластер в разобранном виде
Локальный ИИ на Apple Silicon · MLX
Нейросети, которые работают внутри вашей компании
Собираем ИИ на Mac под ключ: подбор железа, установка моделей, дообучение и сопровождение. Без серверной и промышленного охлаждения — Mac работает в обычном офисе от розетки, а данные не покидают ваш контур.
- 0
- байт данных в сторонние облака
- от350тыс. ₽
- Mac под вашу задачу, под ключ
- 1
- розетка 220 В вместо серверной
Как читать чертёж
- видимые кромки
- невидимые кромки
- кольцо Thunderbolt · связь узлов MLX
- поток данных и граница контура
- модель делится по слоям: 64 слоя на 4 Mac
Наведите на номер позиции — деталь подсветится. Прокрутите — Mac встанут в стойку.
| Поз. | Наименование | Кол. | Примечание |
|---|---|---|---|
| 1 | Стойка-каркас | 1 | для обычного офиса |
| 2 | Mac Studio | 4 | по 16 слоёв модели |
| 3 | Полка с кронштейнами | 4 | |
| 4 | Кабель Thunderbolt | 4 | кольцо MLX |
| 5 | Ваши данные | — | не покидают контур |
| 6 | Сетевой фильтр | 1 | розетка 220 В |
| 7 | Контур компании | — | граница данных |
Лист 2Возможности · состав работ под ключ
02
Всё, что умеют нейросети, — только у вас внутри
Тексты, картинки, видео, голос, агенты и свои модели. Каждую позицию можно заказать отдельно или собрать под ключ — от замера до работающей системы.
Инструменты
- MLX
- MTPLX
- PyTorch
- ONNX Runtime
- LangGraph
- Docker
Генерация и ассистенты
02
Изображения
Генерация и правка картинок для маркетинга, карточек товаров и интерфейсов — без выгрузки в чужие сервисы.
03
Видео
Короткие ролики, анимация и озвучка по сценарию — на вашем железе, исходники остаются у вас.
04
Голосовые ассистенты
Распознают речь, отвечают голосом, принимают звонки и заявки круглосуточно.
Агенты и автоматизация
05
Мультиагентные системы
Команда агентов на LangGraph: планирует, вызывает инструменты, проверяет себя и доводит задачу до конца.
06
Интеграции
Подключаем модель к CRM, почте, телефонии и базам — она работает в ваших процессах, а не в отдельном окне.
07
Речевая аналитика
Расшифровка звонков с ролями «оператор — клиент», проверка по скрипту, отчёты для руководителя.
08
Поиск по документам
Находит ответ в тысячах договоров, писем и инструкций за секунды — и показывает, откуда он.
Инженерия моделей
09
Дообучение
LoRA и полное дообучение на ваших данных: модель говорит вашим языком и знает ваши процессы.
10
Ускорение · MTPLX
Дообучаем «двухголовые» модели: вторая голова (MTP) угадывает следующие токены, движок проверяет — ответ быстрее на том же Mac.
11
Сборка моделей
Сливаем и пересобираем веса разных моделей, чтобы собрать сильные стороны под одну задачу.
12
Исследования
Ставим опыты под вашу задачу: гипотеза, замер, протокол. Отклонённое записываем так же подробно, как принятое.
Под ключ
13
Аудит и замер
Находим процессы, где ИИ окупается, и меряем качество на ваших данных ещё до покупки железа.
14
Подбор и установка Mac
Подбираем Mac под задачу и бюджет, собираем, ставим модели и включаем у вас в офисе.
15
Обучение команды
Учим сотрудников работать с ассистентами и агентами — чтобы ИИ реально использовали каждый день.
16
Сопровождение
Следим за качеством ответов, обновляем модели и ведём журнал изменений — без сюрпризов.
Лист 3Обоснование выбора платформы
03
Почему Mac, а не GPU-сервер
Для локального ИИ главное — память, в которую помещается модель. У Mac она общая для процессора и графики, поэтому большая модель работает на компьютере размером с книгу.
| Mac Studio · кластер Mac | GPU-сервер | |
|---|---|---|
| Где стоит | в обычном офисе, на столе или в шкафу | в серверной |
| Охлаждение | встроенное, тихое | промышленное, отдельный кондиционер |
| Питание | обычная розетка 220 В | отдельная линия и мощный ИБП |
| Память под модель | до 512 ГБ общей памяти в одном Mac | видеопамять — самая дорогая часть |
| Рост | добавить Mac в кластер по Thunderbolt | новые карты, иногда новый сервер |
| Обслуживание | как у обычного компьютера | нужен администратор серверов |
Расчёт стоимости: память под большую модель
Сравниваем по главному для локального ИИ — сколько памяти получаем под модель и за какие деньги.
| Вариант А Mac Studio M5 Ultra, 512 ГБ | Вариант Б NVIDIA DGX H100, 8 × 80 ГБ | |
|---|---|---|
| Память под модель | 512 ГБ общей памяти | 640 ГБ видеопамяти |
| Цена | ≈ 2,9 млн ₽ 1 | 24,1 млн ₽ 2 |
| Цена 1 ГБ памяти | ≈ 5,7 тыс. ₽ | ≈ 37,6 тыс. ₽ |
| Потребление, макс. | 385 Вт 3 | 10 200 Вт 4 |
| Энергия за год 24/7 | ≈ 3 400 кВт·ч | ≈ 89 400 кВт·ч |
| Охлаждение и место | не нужны: стоит на столе | серверная стойка и кондиционирование |
ЦА = 22 299 $ × 100 ₽ × 1,3 ≈ 2,9 млн ₽
ЦБ / ЦА = 24,1 / 2,9 ≈ 8,3
PБ / PА = 10 200 / 385 ≈ 26
×8дешевле при сопоставимой памяти
×26меньше электроэнергии
≈1Mac на 512 ГБ стоит как одна плата H100 на 80 ГБ 5 — без сервера, процессоров и памяти
- Цена Apple в США с 28.10.2026 — $22 299; пересчёт по 100 ₽/$ с наценкой на ввоз 30 % — наша оценка, в рознице РФ возможны отклонения.
- serverflow.ru, NVIDIA DGX H100 (8× H100 SXM 80GB, RAM 2TB), под заказ 40–60 рабочих дней, на 06.11.2026.
- Apple Support 102027: Mac Studio M5 Ultra, 512 ГБ — 9 Вт в простое, 385 Вт максимум.
- NVIDIA DGX H100 User Guide: до 10,2 кВт на систему.
- serverflow.ru, NVIDIA H100 OEM 80GB — около 2,9 млн ₽ за плату.
Честно о скорости: H100 быстрее и нужен, когда моделью одновременно пользуются сотни людей или модель обучают с нуля. Для работы модели внутри компании и дообучения адаптеров переплата за GPU-сервер — в разы.
Подбираем железо под задачу
Не продаём «самый дорогой Mac». Сначала замеряем задачу на ваших данных, потом подбираем поколение чипа (M2, M3, M5) и объём памяти — под модель, нагрузку и бюджет.
Исполнение 01
Отдел
Mac Studio · M2 / M3 / M5 Max
- Память
- 64–128 ГБ
- Модели
- до ~70 млрд параметров
- Задачи
- чат-ассистент, расшифровка звонков, поиск по документам
Бюджетот 350 тыс. ₽
Исполнение 02
Компания
Mac Studio · M3 / M5 Ultra
- Память
- до 256 ГБ
- Модели
- до ~235 млрд параметров
- Задачи
- агенты, несколько моделей сразу, дообучение на ваших данных
Бюджетпо расчёту
Исполнение 03
Флагман
M5 Ultra 512 ГБ или кластер Mac
- Память
- 512 ГБ и больше
- Модели
- 400–700 млрд параметров
- Задачи
- самые крупные открытые модели, нагрузка всей компании
Бюджетот ≈ 2,9 млн ₽
Размер модели — в 4-битной квантизации, с запасом памяти на контекст. Кластер собираем из нескольких Mac по Thunderbolt — модель делится между ними по слоям.
Модели, с которыми работаем
- Qwen
- Whisper large-v3-turbo
- GigaAM v3
- pyannote
- Silero VAD
Что умеем на MLX
- дообучение LoRA
- сборка моделей без отказов
- ускоренное декодирование
- кластер из нескольких Mac
- агенты с инструментами
Лист 4Закрытый контур · 152-ФЗ · своя модель
04
Данные не покидают компанию — ни байта наружу
Модель работает на вашем Mac без интернета. Нет облака, нет третьих лиц, нет передачи за рубеж — значит, самые рискованные пункты 152-ФЗ закрыты самой схемой.
- запрос сотрудника
- ответ модели
- данные CRM
- в архив
- ✕попытка выхода наружу
| Требование | Норма | Локальная модель |
|---|---|---|
| Хранить персональные данные граждан РФ в базах на территории России | ч. 5 ст. 18 152-ФЗ | данные — на вашем Mac, в вашем офисе |
| Уведомлять Роскомнадзор перед передачей данных за рубеж | ст. 12 152-ФЗ | передачи за рубеж нет |
| Договор и контроль, если обработку поручили третьему лицу (облаку) | ч. 3 ст. 6 152-ФЗ | третьего лица нет |
| Утечка: 3–15 млн ₽, повторная — 1–3 % выручки, до 500 млн ₽ | ст. 13.11 КоАП, ред. 420-ФЗ | данные не выходят из контура |
| Утечка биометрии, в том числе записей голоса: 15–20 млн ₽ | ч. 17 ст. 13.11 КоАП | записи звонков остаются у вас |
Штрафы — в редакции 420-ФЗ, действуют с 30.05.2025. Локальная модель не отменяет обязанностей оператора (согласия, уведомление о начале обработки, защита данных), но убирает передачу третьим лицам и за рубеж. Это не юридическая консультация — финальную схему согласуем с вашим юристом.
Ваша нейросеть — ваш актив, а не подписка
01
Файлы модели — у вас
Веса модели и обученный адаптер лежат на вашем Mac. Работают без интернета и без нашего участия.
02
Не зависите от провайдера
Никто не отключит доступ, не поднимет цену за токены, не заблокирует аккаунт и не подменит модель обновлением.
03
Обучена на ваших данных
Адаптер знает вашу терминологию и процессы — это ваша разработка. Права на адаптер и датасет передаём по договору.
04
Открытые лицензии
Базовые модели разрешают коммерческое использование без отчислений — проверено по лицензиям ниже.
| Модель | Назначение | Лицензия | Коммерческое использование |
|---|---|---|---|
| Qwen | языковая модель | Apache 2.0 | разрешено |
| Whisper | распознавание речи | MIT | разрешено |
| GigaAM | распознавание русской речи | MIT | разрешено |
| Silero VAD | нарезка по паузам | MIT | разрешено |
Лист 5Обучение моделей и датасеты
05
Дообучаем модели на ваших данных
Собираем датасет из ваших звонков, документов и переписки, обезличиваем, размечаем и дообучаем модель прямо на Mac. Исходная модель не меняется — к ней добавляется небольшой адаптер, обученный под вашу задачу.
| Оп. | Операция | Что делаем | На выходе |
|---|---|---|---|
| 01 | Сбор | выгружаем звонки, документы, переписку из ваших систем | сырой архив внутри контура |
| 02 | Обезличивание | убираем ФИО, телефоны, адреса, номера договоров | данные без персональных сведений |
| 03 | Разметка | эксперт размечает, модель-помощник предлагает, спорное — второй взгляд | пары «вход — верный ответ» |
| 04 | Разбиение | делим без пересечений по клиентам и датам | три набора |
| 05 | Дообучение | LoRA на MLX, прямо на вашем Mac | адаптер к исходной модели |
| 06 | Оценка | сравниваем с исходной моделью на отложенном наборе | протокол испытаний |
Разбиение датасета
80 %10 %10 %
- Обучение — по нему настраивается адаптер
- Проверка — подбираем шаг обучения и число эпох
- Отложенный набор — модель его не видит; по нему — итоговая оценка
Лист 6Протокол испытаний
06
Колл-центр службы доставки воды
Задача: превращать записи звонков в текст с ролями «оператор — клиент», не передавая записи третьим лицам. Вся цепочка работает на одном Mac Studio.
Запись
звонка
звонка
Нарезка по паузамSilero VAD
РаспознаваниеWhisper на MLX
РаспознаваниеGigaAM v3
Сведение двух текстовQwen 27B
Голосаpyannote
РолиQwen 27B
Текст
с ролями
с ролями
| № | Показатель | До / для сравнения | Результат |
|---|---|---|---|
| 1 | Выдуманные фразы распознавания | в 8 звонках из 50 | 0 |
| 2 | Говорящие разведены верно | 77,8% — облачный сервис | 87,2% |
| 3 | Роли «оператор — клиент» верно | ручная разметка, 117 фраз | 82,1% |
| 4 | Название компании распознано | 12 раз — одна модель | 33 раза |
| 5 | Время обработки 80 минут звонков | один Mac Studio | 28 минут |
| 6 | Записей передано третьим лицам | — | 0 |
Замеры — на 50 реальных звонках. Эталона нет и у облачных сервисов, поэтому слабые места тоже записаны в протокол: звонки водителя клиенту размечаются хуже звонков оператору.
Лист 7Методика
07
Научный подход, а не демо
Каждое решение — опыт с замером. Отклонённые опыты записываем так же подробно, как принятые.
- 01Гипотезачто и насколько улучшим
- 02Отложенный наборданные, которых модель не видела
- 03Опытодно изменение за раз
- 04Замеркачество, время, память
- 05Внедрениетолько принятое
- 06Контролькачество в работе
- 01Whisper на целых записяхвыдумки в 8 из 50 · отклонено
- 02Нарезка по паузам + подсказка о темевыдумок 0 · принято
- 03Две модели распознавания, сведение Qwenназвание компании 33 vs 12 · принято
- 04Метки ролей спискомсорвалось 7 звонков из 50 · отклонено
- 05Метки объектом с номерамисрывов 0 · принято
- 06Разметка с рассуждением+1 п.п. точности, время ×8 · отклонено
$ итог: 3 принято · 3 отклонено
- Сначала замер. Раскладываем время на части — подготовка, генерация, очередь — и ускоряем самую большую.
- Отложенный набор. Подсказки настраиваем на одних звонках, а проверяем на других — иначе цифры завышены.
- Окно от часа. Короткие замеры врут: однажды 15 минут показали ложный прирост в 1,7 раза.
Лист 8Техническое задание
Пришлите задачу — ответим планом замера
Опишите процесс и данные. Предложим, что измерить сначала, какой Mac нужен и сколько стоит внедрение под ключ.
Изм.Лист№ докум.Подп.Дата
Разраб.mlab·ai2026
Пров.опытом
Утв.заказчик
mlab-ai.ruЛокальный ИИ на Apple Silicon
Лит.МасштабЛистов
Э1:18
mlab·ai