# Запустить WireCat на локальных моделях (/ru/docs/desktop/local-models)

WireCat хранит ваши сообщения, почту, заметки и файлы на вашем компьютере. Некоторые функции еще и отправляют текст,
картинки или поисковый вопрос модели ИИ, и так же делает агент, которого вы подключили к WireCat. Если эта модель
облачная, ваш личный текст попадает к компании, которая ее держит. Эта страница по шагам показывает, как запустить
модель на своем компьютере и направить на нее каждую функцию и своего агента, чтобы то, что они читают, оставалось у
вас. Нужен компьютер, на котором модель потянет, лучше с видеокартой. Несколько частей WireCat пока не умеют работать
с локальной моделью, они перечислены в конце.

## 1. Запустите модель на своем компьютере [#1-запустите-модель-на-своем-компьютере]

Проще всего начать с [Ollama](https://docs.ollama.com/quickstart), WireCat Desktop знает его по имени.

1. Установите Ollama и скачайте модель командой `ollama pull <model>`. Чтобы модель читала картинки, возьмите ту, что
   их видит, например `llava`.
2. Ollama слушает адрес `127.0.0.1:11434`, его и ждет WireCat. Оставьте этот адрес.
3. Выключите облачные модели Ollama. Модель, чье имя заканчивается на `cloud`, работает на серверах Ollama, и его
   поиск в интернете тоже уходит наружу. В [FAQ Ollama](https://docs.ollama.com/faq#how-do-i-disable-ollamas-cloud-features)
   описан режим только локально: впишите `"disable_ollama_cloud": true` в `~/.ollama/server.json` или задайте
   `OLLAMA_NO_CLOUD=1`, потом перезапустите Ollama.
4. Если на этой модели будет работать агент, дайте ей больше памяти на текст. На
   [странице о длине контекста](https://docs.ollama.com/context-length) Ollama просит для агентов и инструментов
   программиста не меньше 64000 токенов:

   ```sh
   OLLAMA_CONTEXT_LENGTH=64000 ollama serve
   ```

   Если Ollama уже работает в фоне, задайте переменную так, как описано в
   [настройках сервера Ollama](https://docs.ollama.com/faq#how-do-i-configure-ollama-server) для вашей системы.

Подойдет и любой другой сервер, который говорит на языке OpenAI. WireCat нужен его адрес, а адрес по умолчанию есть в
документации каждого сервера:

| Сервер | Адрес для WireCat |
| --- | --- |
| [Ollama](https://docs.ollama.com/api/openai-compatibility) | `http://127.0.0.1:11434/v1` |
| [LM Studio](https://lmstudio.ai/docs/developer/openai-compat), сервер запускается на вкладке Developer | `http://localhost:1234/v1` |
| [Сервер llama.cpp](https://github.com/ggml-org/llama.cpp/blob/master/tools/server/README.md), `llama-server` | `http://127.0.0.1:9931/v1` |
| [vLLM](https://docs.vllm.ai/en/latest/getting_started/quickstart/), `vllm serve` | `http://localhost:8000/v1` |

Укажите порт, который ваш сервер слушает на самом деле, и адрес на этом компьютере, например `127.0.0.1` или
`localhost`.

## 2. Что уже работает локально [#2-что-уже-работает-локально]

Здесь ничего менять не нужно:

- **Поиск по смыслу** и **поиск по картинкам** работают на моделях, которые WireCat скачивает на ваш компьютер.
- **Записи встреч** расшифровываются на вашем компьютере.
- **Связывание чатов, черновики ответов и чтение текста во вложениях моделью ИИ** выключены, пока вы сами не зададите
  для них модель.

## 3. Модель ИИ в настройках [#3-модель-ии-в-настройках]

Эта модель читает текст на картинках, которые вы добавляете в память, и может читать источники для фактов. В WireCat
Desktop откройте **Настройки**, **Модель ИИ**. Все поля описаны на странице [Модель ИИ и поиск получше](/llms.mdx/docs/ru/desktop/ai-model/content.md).

**С Ollama:**

1. В поле **Провайдер** выберите **Ollama на этом компьютере (бета)** и выберите модель из списка.
2. Отметьте **Распознавать картинки этой моделью**, если хотите, чтобы она читала картинки. Подсказка под галочкой
   скажет, что картинки остаются на этом компьютере.
3. Сохраните и нажмите **Проверить**.

То же из терминала. Здесь `--allow-remote` разрешает отдавать картинки модели, хотя модель и стоит на вашем компьютере:

```text
memo models ai set ollama --model llava --allow-remote
```

**С другим сервером на вашем компьютере:**

1. В поле **Провайдер** выберите **OpenAI или совместимый**.
2. В **Адрес (base URL)** впишите адрес сервера из таблицы выше.
3. Впишите название модели так, как его показывает ваш сервер.
4. В **API-ключ** впишите любое значение. WireCat просит ключ даже для сервера на вашем компьютере, а сервер его не
   проверяет.
5. Сохраните и нажмите **Проверить**.

## 4. Чтение фактов [#4-чтение-фактов]

В **Настройки**, **Чтение фактов** выберите **Модель ИИ**, которая теперь ваша локальная, или **Ollama**. У каждого
читателя написано, уходит ли текст с этого компьютера. Claude Code и Codex отправляют его своей модели. Нажмите
**Использовать этого читателя**. После этого [Добавить в память](/llms.mdx/docs/ru/desktop/memory/content.md#%D0%B4%D0%BE%D0%B1%D0%B0%D0%B2%D0%B8%D1%82%D1%8C-%D0%B2-%D0%BF%D0%B0%D0%BC%D1%8F%D1%82%D1%8C) предлагает факты с
помощью этой модели.

## 5. Искать тщательнее и переписывать записи для поиска [#5-искать-тщательнее-и-переписывать-записи-для-поиска]

Оба помощника по умолчанию выключены. Они находятся в подробностях Memo: на странице Инструменты нажмите
**Управление** в строке Memo.

**Искать тщательнее** переставляет первые результаты одного поиска, когда вы нажимаете кнопку. Нажмите
**Разрешить**, выберите **OpenAI**, впишите название локальной модели в **Модель** и адрес `http://127.0.0.1:11434/v1`
в **Адрес другого сервиса, совместимого с OpenAI**. Потом согласитесь кнопкой, на которой написан сервис. Ответ он
ждет только 5 секунд, поэтому модель без видеокарты, скорее всего, не успеет, и поиск оставит свой порядок.

**Переписывать записи для лучшего поиска** добавляет другие слова к вашим заметкам, документам и письмам. WireCat
Desktop предлагает для него только облачные модели, так что там его лучше не включать. Из терминала его можно
направить на локальный сервер:

```sh
memo models consents set openai --model <model> --base-url http://127.0.0.1:11434/v1 --yes
```

Искать тщательнее из терминала настраивается с тем же адресом:

```text
memo models search-consents set openai --model <model> --base-url http://127.0.0.1:11434/v1 --yes
```

## 6. Голосовые сообщения [#6-голосовые-сообщения]

По умолчанию текст голосового делает сам мессенджер из своей копии сообщения, если у него есть речевой сервис,
например Telegram Premium. Чтобы текст делался на вашем компьютере скачанной моделью, добавьте `--local`:

```sh
tg <profile> messages transcribe <chat> <message> --local
```

Агент, когда просит расшифровку, может не добавить `--local`. Попросите его об этом или запустите команду сами.

## 7. Агент на локальной модели [#7-агент-на-локальной-модели]

Агент, которого вы подключили к WireCat через MCP или в терминале, читает ваши сообщения и заметки через WireCat и
отправляет их своей модели. Чтобы это оставалось на компьютере, запустите агента на локальной модели. WireCat Desktop
работает с Claude Code, Codex, Cursor, Gemini CLI, OpenCode, Hermes и OpenClaw. Как подключить агента, описано на
странице [Подключение ИИ-агента](/llms.mdx/docs/ru/agents/content.md).

Пятерых из них Ollama запускает на локальной модели одной командой, `ollama launch <agent>`, где агент это `codex`, `claude`, `opencode`,
`hermes` или `openclaw`. Это описано на страницах
Ollama для [Codex](https://docs.ollama.com/integrations/codex),
[Claude Code](https://docs.ollama.com/integrations/claude-code), [OpenCode](https://docs.ollama.com/integrations/opencode),
[Hermes](https://docs.ollama.com/integrations/hermes) и [OpenClaw](https://docs.ollama.com/integrations/openclaw).
Когда он спросит модель, выберите скачанную, а не ту, что заканчивается на `cloud`.

```sh
ollama launch codex
```

Без `ollama launch`:

- **Codex.** В [расширенных настройках Codex](https://learn.chatgpt.com/docs/config-file/config-advanced) описан флаг
  `--oss` для локального Ollama или LM Studio и `oss_provider` в `~/.codex/config.toml`, чтобы выбрать один из них по
  умолчанию. На странице Ollama команда `codex --oss -m <model>`.
- **Claude Code.** На [странице Ollama про Claude Code](https://docs.ollama.com/integrations/claude-code) задаются
  `ANTHROPIC_BASE_URL=http://localhost:11434`, `ANTHROPIC_AUTH_TOKEN=ollama` и пустой `ANTHROPIC_API_KEY`, потом
  запускается `claude --model <model>`. Настройки Claude Code могут перекрыть эти переменные, проверьте через `/status`.
  [LM Studio](https://lmstudio.ai/docs/developer/anthropic-compat) описывает то же со своим адресом. Anthropic
  [не поддерживает](https://code.claude.com/docs/en/llm-gateway) Claude Code на моделях, кроме Claude.
- **OpenCode.** На [странице провайдеров OpenCode](https://opencode.ai/docs/providers/) написано, что он сам находит
  Ollama, LM Studio и vLLM на этом компьютере. Запустите сервер и выберите модель в OpenCode.
- **Hermes.** Запустите `hermes model` и выберите свой адрес (custom endpoint), как на
  [странице провайдеров Hermes](https://hermes-agent.nousresearch.com/docs/integrations/providers).
- **OpenClaw.** Запустите `openclaw onboard`, выберите Ollama, потом **Local only**, как на
  [странице OpenClaw про Ollama](https://docs.openclaw.ai/providers/ollama). Адрес Ollama пишите без `/v1`.

У **Cursor** и **Gemini CLI** в документации нет настройки, при которой сам агент работает на модели на вашем
компьютере.

Вся эта документация просит модель, которая умеет вызывать инструменты, и контекст не меньше 64000 токенов. Небольшая
модель на ноутбуке отвечает медленно и чаще ошибается в командах WireCat, чем облачная.

## 8. Сводки и почтовый агент [#8-сводки-и-почтовый-агент]

[Сводки](/llms.mdx/docs/ru/desktop/digests/content.md) и почтовый агент в WireCat Desktop запускают Claude Code на модели Anthropic. Они стартуют без
ваших настроек Claude Code, поэтому шаги выше до них не доходят. Сейчас они отправляют прочитанные письма и сообщения в
Anthropic. Если нужно, чтобы все было локально, не включайте их.

## Чек-лист: все локально [#чек-лист-все-локально]

1. На этом компьютере работает Ollama или другой сервер моделей, облачные модели Ollama выключены.
2. **Настройки**, **Модель ИИ** указывает на Ollama или адрес на этом компьютере.
3. **Чтение фактов** использует модель ИИ или Ollama.
4. **Искать тщательнее** выключен или направлен на локальный сервер. **Переписывать записи для лучшего поиска**
   выключено или настроено из терминала на локальный сервер.
5. Голосовые расшифровываются с `--local`.
6. Агент работает на локальной модели, или агент не подключен.
7. Сводки и почтовый агент выключены.

## Что пока уходит с компьютера [#что-пока-уходит-с-компьютера]

- Сводки и почтовый агент, они запускают Claude Code на модели Anthropic.
- Все, что читает агент, если он работает на облачной модели.

WireCat делает один переключатель, который оставит каждую функцию на вашем компьютере и покажет, что локально, а что
нет.

## Дальше [#дальше]

Каждая настройка подробнее описана на странице [Модель ИИ и поиск получше](/llms.mdx/docs/ru/desktop/ai-model/content.md).