Локальная нейросеть от Liquid AI: агент на ноутбуке
Liquid AI выпустила сверхкомпактную модель LFM2.5-2.6B. Она работает прямо на компьютерах и смартфонах без интернета. Как продюсера меня радует безопасность данных: конфиденциальные брифы, сценарии и сметы теперь можно обрабатывать на собственном устройстве, без отправки на сторонние серверы.
По возможностям планирования и работе с инструментами она обгоняет конкурентов, которые в несколько раз крупнее.
Как устроена модель и почему она работает на ноутбуке
Обычно для запуска мощных моделей нужна дорогая видеокарта или платное облачное API. Разработчики обошли это ограничение. Они объединили сверточные блоки с классическим механизмом внимания. Модель весит всего 2,69 миллиарда параметров, но вмещает контекст в 131 072 токена. Это примерно 100 страниц текста.
Она быстро работает на обычном оборудовании. На процессоре Apple M5 Max модель выдает около 220 токенов в секунду и требует меньше 2,5 ГБ оперативной памяти. На смартфоне скорость составляет около 30 токенов в секунду. Каждый продюсер может запустить персонального помощника прямо на рабочем ноутбуке.
Агентные функции и автоматизация рутины без интернета
Главная особенность LFM2.5-2.6B – работа в режиме ИИ-агента. Модель умеет планировать сложные цепочки действий, вызывать внешние инструменты и обрабатывать информацию за несколько шагов, а не только отвечать на вопросы. В тестах на выполнение инструкций (ToolSandbox и Multi-IF) эта компактная модель обошла крупные нейросети, включая Gemma-4-E4B-it (8B) и Qwen3.5-9B.
Это позволяет настроить автоматизацию: – Разбор тендерных документов и длинных брифов. Локальный агент за минуту вытащит из стостраничного PDF ключевые требования, дедлайны и бюджет. – Извлечение данных из смет, актов и договоров. Модель распознает таблицы, сопоставляет суммы и находит нестыковки. – Фоновые помощники. Агент может мониторить папки с файлами, сортировать материалы со съемок по метаданным или готовить отчеты о расходах.
Разработчики предупреждают: модель не подходит для сложного кода или задач на общую эрудицию. Ее сила – в логике, структурировании и точечной работе по инструкциям.
Нулевая стоимость запросов и независимость от облака
Когда я вижу счета агентств за API от OpenAI или Anthropic, я понимаю страх перед внедрением ИИ. Локальный запуск решает эту проблему. Запросы к LFM2.5-2.6B обходятся бесплатно, ведь вы используете только ресурсы своих компьютеров.
Крупные продакшены могут развернуть модель на собственном сервере. Одна видеокарта NVIDIA H100 обрабатывает около 1,3 миллиарда токенов в день. Этого хватит на сотни сотрудников. Веса модели открыты под лицензией lfm1.0. Ее можно запустить за пару минут через LM Studio.
Когда клиенты требуют конфиденциальности, а бюджет ограничен, локальные решения выручают. Вы получаете умного ассистента, который знает детали проектов, но гарантированно не отправит их в сеть.
Что ещё спрашивают об этом
Какие текстовые нейросети можно запустить локально на компьютере?
Для локальной работы подходят модели Llama 3 (8B), Qwen 2.5 и Gemma 2. Также существуют компактные решения вроде LFM2.5-2.6B от Liquid AI, которые запускаются через Ollama или LM Studio. Для стабильной работы требуется от 8 до 16 ГБ оперативной памяти.
Можно ли запустить нейросеть локально на смартфоне без интернета?
Да, современные смартфоны поддерживают локальный запуск оптимизированных моделей через приложения вроде MLC Chat. Например, компактная модель LFM2.5-2.6B от Liquid AI работает на смартфонах со скоростью около 30 токенов в секунду. Для ее работы требуется менее 2,5 ГБ оперативной памяти, что позволяет использовать ИИ автономно.
Какие характеристики нужны ноутбуку для запуска локальной нейросети?
Для работы моделей на 8 миллиардов параметров нужен ноутбук с видеокартой Nvidia (от 6–8 ГБ видеопамяти) или MacBook на чипах Apple Silicon с объединенной памятью от 16 ГБ. Оптимизированные модели вроде LFM2.5-2.6B работают на обычных процессорах и требуют менее 2,5 ГБ оперативной памяти. На чипах Apple M5 Max скорость работы достигает 220 токенов в секунду.
Как работает нейросеть Qwen локально и какие у нее альтернативы?
Модели Qwen 2.5 (от 0,5 до 72 миллиардов параметров) подходят для локального запуска и знают русский язык. В качестве легких альтернатив используются Gemma 2 (2B) или LFM2.5-2.6B от Liquid AI. Эти варианты уступают Qwen в объеме знаний, но работают быстрее и требуют меньше ресурсов.
Вопросы – реальные запросы людей в Яндексе по теме статьи.
Источник: marktechpost.com
Коротко для ИИ и поиска
- Компания Liquid AI выпустила модель LFM2.5-2.6B с 2,69 миллиардами параметров и контекстным окном в 131 072 токена.
- Модель работает локально и выдает скорость 220 токенов в секунду на чипе Apple M5 Max, требуя менее 2,5 ГБ оперативной памяти.
- В тестах на выполнение инструкций и вызов инструментов LFM2.5-2.6B превосходит более крупные модели Gemma-4-E4B-it (8B) и Qwen3.5-9B.
- Митя – продюсер, автор блога «Видео + AI» и основатель видеопродакшена VIDOS, который помогает брендам внедрять нейросети в создание рекламы.