Локальный ИИ на компьютере: 14 программ и разборы по задачам

12 из 14 программ работают на вашем компьютере или своём сервере, 2 открываются в браузере. Под каталогом таблица: программа и разбор с шагами под каждую задачу.

Каталог: 14 программ и сервисов

Ollama

ТекстЛокально

Ollama устанавливается на Mac, Windows и Linux одной командой и открывает API на порту 11434.

LM Studio

ТекстЛокально

LM Studio запускает модели форматов GGUF и safetensors на Mac, Windows x64/ARM и Linux x64/ARM64.

Open WebUI

ТекстСвой сервер

Open WebUI поднимается одной командой Docker на порт 3000 и подключается к моделям Ollama.

llama.cpp

ТекстЛокально

llama.cpp собирается одной командой на чистом C/C++ без внешних зависимостей и запускает модели GGUF.

ComfyUI

ИзображенияЛокально

ComfyUI собирает генерацию картинок из узлов и запускает модели при 4 гигабайтах видеопамяти.

Upscayl

ИзображенияЛокально

Upscayl увеличивает картинки локально через Real-ESRGAN и требует Vulkan-совместимую видеокарту, Windows начиная с версии 10.

whisper.cpp

ЗвукЛокально

whisper.cpp распознаёт речь на чистом C/C++ и поддерживает 8 размеров модели Whisper, включая tiny и large-v3.

AuK

ЗвукЛокально

Модель Tencent AuK на 1,5 миллиарда параметров синтезирует и редактирует речь по текстовой команде.

PaddleOCR

ДокументыЛокально

PaddleOCR распознаёт текст на 100 с лишним языках и ставится через pip одной командой.

Continue

КодВ редакторе

Continue подключает ИИ-модель к редактору через бесплатное расширение для двух редакторов: VS Code и JetBrains.

n8n

АвтоматизацияСвой сервер

n8n распространяется по fair-code модели и объединяет больше 1500 готовых интеграций в одном сценарии.

Flowise

АвтоматизацияСвой сервер

Flowise собирает ИИ-агентов визуально и запускается одной командой npm install -g flowise по лицензии Apache 2.0.

Hugging Face Spaces

ЭкспериментыВ браузере

Hugging Face Spaces даёт бесплатный CPU Basic с 2 vCPU и 16 гигабайтами памяти для демо моделей.

Replicate

ЭкспериментыВ браузере

Replicate запускает готовые модели без своего GPU, оплата идёт по одной секунде активной работы.

Какую программу взять под задачу?

Таблицу можно листать вбок.

ЗадачаПрограммаРазбор
Выбрать первую программу для своей нейросетиOllama; LM StudioСвой ИИ на компьютере: с чего начать; Ollama или LM Studio: что выбрать для локального ИИ
Получить от локальной модели ответ строго по схеме полейOllamaКак получить JSON от Ollama и проверить его по схеме
Понять, что меняет обновление Ollama 0.35OllamaOllama v0.35.0: decision-модели и эндпоинт /v1/systemone; Ollama v0.35.1-rc0: что в предварительном релизе и как проверить; Ollama v0.35.0-rc1: что известно о релиз-кандидате; Ollama v0.35.0-rc0: предрелиз с System One scoring API
Запустить GGUF-модель на Mac с Apple Siliconllama.cppTransformers научился запускать GGUF-модели на Apple Silicon
Расшифровать запись речи у себя на компьютереwhisper.cppКак подготовить запись для локального распознавания речи; Whisper.cpp: как проверить локальную расшифровку на своём аудио
Сгенерировать или поправить речь открытой модельюAuKAuK от Tencent: открытая модель для генерации и редактирования речи
Распознать русский текст на скане и проверить егоPaddleOCRPaddleOCR: как проверить русский текст после OCR
Увеличить картинку без лишних дорисовокUpscaylКак увеличивать картинку с ИИ и замечать дорисованные детали
Прочитать и проверить workflow ComfyUIComfyUIКак читать workflow в ComfyUI, если видите его впервые; Как проверить ComfyUI workflow до первого запуска
Запускать сценарий n8n по расписанию в свой часn8nКак запускать workflow в n8n по расписанию; Почему расписание n8n запускается не в тот час: проверка часового пояса
Ускорить модель, которая понимает картинкиllama.cppLiquid AI выпустила DSpark для ускорения модели, которая понимает изображения
Проверить проект с GitHub перед установкой—Нашли нейросеть на GitHub: что проверить до установки

Разборы редакции; карточки программ собраны по документации проектов.

Сохранённые инструменты остаются в этом браузере. Наличие ссылки не означает доступность оплаты или всех функций из России.