Локальные модели

Запуск LLM на своём оборудовании: от первой установки до продвинутой настройки.

← Awesome AI Handbook · 🇬🇧 English

С чего начать — выберите сценарий

Абсолютный новичок

Никогда не запускал модели, не знаком с терминалом.

Сначала: basics/README.ru.md — что такое AI, как работают модели, какое нужно железо.

Затем установка: Подготовка окружения и установка — Homebrew, Ollama, первая модель за 10 минут.

Или вообще без терминала: LM Studio → описание в running-models.md.

Хочу разобраться

Уже установил Ollama, запускал модель, но хочет понимать что и как.

  1. Как найти и запустить модель — практикум
  2. Выбор модели под задачу — что выбрать для кодинга / чата / RAG
  3. Память и контекст — почему модель не влезает и как это исправить

Продвинутый пользователь

Хочу выжать максимум, настроить API, сравнить инструменты.

  1. Продвинутая настройка Ollama — Modelfile, API, env vars
  2. Сравнение инструментов — Ollama vs LM Studio vs MLX vs llama.cpp
  3. Квантизация — Q4, Q5, Q8 — что выбрать
  4. Бенчмарки Apple Silicon — tok/s на M1–M4

Справочники (для всех)

Раздел О чём
Каталог моделей 50+ моделей с характеристиками
Частые проблемы Диагностика и решения

Файлы раздела

# Файл Для кого Время
1 getting-started.md Новички 10 мин
2 running-models.md Все 15 мин
3 models.md Все 10 мин
4 memory-and-context.md Все 10 мин
5 advanced-setup.md Продвинутые 15 мин
6 tools.md Все 20 мин
7 quantization.md Продвинутые 10 мин
8 benchmarks/apple-silicon.md Все 5 мин
9 troubleshooting.md При проблемах 5 мин
10 catalog.md Справочник —

Связанные разделы

Навигация: ← На главную · Каталог