Запустить WireCat на локальных моделях

WireCat хранит ваши сообщения, почту, заметки и файлы на вашем компьютере. Некоторые функции еще и отправляют текст, картинки или поисковый вопрос модели ИИ, и так же делает агент, которого вы подключили к WireCat. Если эта модель облачная, ваш личный текст попадает к компании, которая ее держит. Эта страница по шагам показывает, как запустить модель на своем компьютере и направить на нее каждую функцию и своего агента, чтобы то, что они читают, оставалось у вас. Нужен компьютер, на котором модель потянет, лучше с видеокартой. Несколько частей WireCat пока не умеют работать с локальной моделью, они перечислены в конце.

1. Запустите модель на своем компьютереCopy Anchor Link

Проще всего начать с Ollama, WireCat Desktop знает его по имени.

1. Установите Ollama и скачайте модель командой ollama pull <model>. Чтобы модель читала картинки, возьмите ту, что их видит, например llava.

2. Ollama слушает адрес 127.0.0.1:11434, его и ждет WireCat. Оставьте этот адрес.

3. Выключите облачные модели Ollama. Модель, чье имя заканчивается на cloud, работает на серверах Ollama, и его поиск в интернете тоже уходит наружу. В FAQ Ollama описан режим только локально: впишите "disable_ollama_cloud": true в ~/.ollama/server.json или задайте OLLAMA_NO_CLOUD=1, потом перезапустите Ollama.

4. Если на этой модели будет работать агент, дайте ей больше памяти на текст. На странице о длине контекста Ollama просит для агентов и инструментов программиста не меньше 64000 токенов:

   Copy Text

   OLLAMA_CONTEXT_LENGTH=64000 ollama serve

   Если Ollama уже работает в фоне, задайте переменную так, как описано в настройках сервера Ollama для вашей системы.

Подойдет и любой другой сервер, который говорит на языке OpenAI. WireCat нужен его адрес, а адрес по умолчанию есть в документации каждого сервера:

Укажите порт, который ваш сервер слушает на самом деле, и адрес на этом компьютере, например 127.0.0.1 или localhost.

2. Что уже работает локальноCopy Anchor Link

Здесь ничего менять не нужно:

• Поиск по смыслу и поиск по картинкам работают на моделях, которые WireCat скачивает на ваш компьютер.
• Записи встреч расшифровываются на вашем компьютере.
• Связывание чатов, черновики ответов и чтение текста во вложениях моделью ИИ выключены, пока вы сами не зададите для них модель.

3. Модель ИИ в настройкахCopy Anchor Link

Эта модель читает текст на картинках, которые вы добавляете в память, и может читать источники для фактов. В WireCat Desktop откройте Настройки, Модель ИИ. Все поля описаны на странице Модель ИИ и поиск получше.

С Ollama:

1. В поле Провайдер выберите Ollama на этом компьютере (бета) и выберите модель из списка.
2. Отметьте Распознавать картинки этой моделью, если хотите, чтобы она читала картинки. Подсказка под галочкой скажет, что картинки остаются на этом компьютере.
3. Сохраните и нажмите Проверить.

То же из терминала. Здесь --allow-remote разрешает отдавать картинки модели, хотя модель и стоит на вашем компьютере:

memo models ai set ollama --model llava --allow-remote

С другим сервером на вашем компьютере:

1. В поле Провайдер выберите OpenAI или совместимый.
2. В Адрес (base URL) впишите адрес сервера из таблицы выше.
3. Впишите название модели так, как его показывает ваш сервер.
4. В API-ключ впишите любое значение. WireCat просит ключ даже для сервера на вашем компьютере, а сервер его не проверяет.
5. Сохраните и нажмите Проверить.

4. Чтение фактовCopy Anchor Link

В Настройки, Чтение фактов выберите Модель ИИ, которая теперь ваша локальная, или Ollama. У каждого читателя написано, уходит ли текст с этого компьютера. Claude Code и Codex отправляют его своей модели. Нажмите Использовать этого читателя. После этого Добавить в память предлагает факты с помощью этой модели.

5. Искать тщательнее и переписывать записи для поискаCopy Anchor Link

Оба помощника по умолчанию выключены. Они находятся в подробностях Memo: на странице Инструменты нажмите Управление в строке Memo.

Искать тщательнее переставляет первые результаты одного поиска, когда вы нажимаете кнопку. Нажмите Разрешить, выберите OpenAI, впишите название локальной модели в Модель и адрес http://127.0.0.1:11434/v1 в Адрес другого сервиса, совместимого с OpenAI. Потом согласитесь кнопкой, на которой написан сервис. Ответ он ждет только 5 секунд, поэтому модель без видеокарты, скорее всего, не успеет, и поиск оставит свой порядок.

Переписывать записи для лучшего поиска добавляет другие слова к вашим заметкам, документам и письмам. WireCat Desktop предлагает для него только облачные модели, так что там его лучше не включать. Из терминала его можно направить на локальный сервер:

memo models consents set openai --model <model> --base-url http://127.0.0.1:11434/v1 --yes

Искать тщательнее из терминала настраивается с тем же адресом:

memo models search-consents set openai --model <model> --base-url http://127.0.0.1:11434/v1 --yes

6. Голосовые сообщенияCopy Anchor Link

По умолчанию текст голосового делает сам мессенджер из своей копии сообщения, если у него есть речевой сервис, например Telegram Premium. Чтобы текст делался на вашем компьютере скачанной моделью, добавьте --local:

tg <profile> messages transcribe <chat> <message> --local

Агент, когда просит расшифровку, может не добавить --local. Попросите его об этом или запустите команду сами.

7. Агент на локальной моделиCopy Anchor Link

Агент, которого вы подключили к WireCat через MCP или в терминале, читает ваши сообщения и заметки через WireCat и отправляет их своей модели. Чтобы это оставалось на компьютере, запустите агента на локальной модели. WireCat Desktop работает с Claude Code, Codex, Cursor, Gemini CLI, OpenCode, Hermes и OpenClaw. Как подключить агента, описано на странице Подключение ИИ-агента.

Пятерых из них Ollama запускает на локальной модели одной командой, ollama launch <agent>, где агент это codex, claude, opencode, hermes или openclaw. Это описано на страницах Ollama для Codex, Claude Code, OpenCode, Hermes и OpenClaw. Когда он спросит модель, выберите скачанную, а не ту, что заканчивается на cloud.

ollama launch codex

Без ollama launch:

• Codex. В расширенных настройках Codex описан флаг --oss для локального Ollama или LM Studio и oss_provider в ~/.codex/config.toml, чтобы выбрать один из них по умолчанию. На странице Ollama команда codex --oss -m <model>.
• Claude Code. На странице Ollama про Claude Code задаются ANTHROPIC_BASE_URL=http://localhost:11434, ANTHROPIC_AUTH_TOKEN=ollama и пустой ANTHROPIC_API_KEY, потом запускается claude --model <model>. Настройки Claude Code могут перекрыть эти переменные, проверьте через /status. LM Studio описывает то же со своим адресом. Anthropic не поддерживает Claude Code на моделях, кроме Claude.
• OpenCode. На странице провайдеров OpenCode написано, что он сам находит Ollama, LM Studio и vLLM на этом компьютере. Запустите сервер и выберите модель в OpenCode.
• Hermes. Запустите hermes model и выберите свой адрес (custom endpoint), как на странице провайдеров Hermes.
• OpenClaw. Запустите openclaw onboard, выберите Ollama, потом Local only, как на странице OpenClaw про Ollama. Адрес Ollama пишите без /v1.

У Cursor и Gemini CLI в документации нет настройки, при которой сам агент работает на модели на вашем компьютере.

Вся эта документация просит модель, которая умеет вызывать инструменты, и контекст не меньше 64000 токенов. Небольшая модель на ноутбуке отвечает медленно и чаще ошибается в командах WireCat, чем облачная.

8. Сводки и почтовый агентCopy Anchor Link

Сводки и почтовый агент в WireCat Desktop запускают Claude Code на модели Anthropic. Они стартуют без ваших настроек Claude Code, поэтому шаги выше до них не доходят. Сейчас они отправляют прочитанные письма и сообщения в Anthropic. Если нужно, чтобы все было локально, не включайте их.

Чек-лист: все локальноCopy Anchor Link

1. На этом компьютере работает Ollama или другой сервер моделей, облачные модели Ollama выключены.
2. Настройки, Модель ИИ указывает на Ollama или адрес на этом компьютере.
3. Чтение фактов использует модель ИИ или Ollama.
4. Искать тщательнее выключен или направлен на локальный сервер. Переписывать записи для лучшего поиска выключено или настроено из терминала на локальный сервер.
5. Голосовые расшифровываются с --local.
6. Агент работает на локальной модели, или агент не подключен.
7. Сводки и почтовый агент выключены.

Что пока уходит с компьютераCopy Anchor Link

• Сводки и почтовый агент, они запускают Claude Code на модели Anthropic.
• Все, что читает агент, если он работает на облачной модели.

WireCat делает один переключатель, который оставит каждую функцию на вашем компьютере и покажет, что локально, а что нет.

ДальшеCopy Anchor Link

Каждая настройка подробнее описана на странице Модель ИИ и поиск получше.