FreeDeepseekAPI
Локальный API-прокси для DeepSeek Web Chat с поддержкой OpenAI/Anthropic API, streaming, tool calling, Responses API и Open WebUI
- 501
- JavaScript
- MIT
- 7 wk ago
The maintainer has not written a description at the source.
Repo ForgetMeAI/FreeNIMAPI, read from GitHub 3 d ago. ForgetMeAI has not joined Take My Repo.
ForgetMeAI/FreeNIMAPI is a public repo on GitHub by ForgetMeAI. It declares the MIT license on GitHub. It is written mainly in JavaScript, has 15 stars and last changed on 2026-07-17. Nobody has reviewed it on Take My Repo yet, which says nothing about its quality. Read from GitHub on 2026-11-19.
In the maintainer's words. Shown from GitHub; Take My Repo does not keep a copy.
Один локальный мост между NVIDIA NIM и вашими кодинг-агентами.
Codex получает Responses, Claude Code — Messages, Hermes и OpenCode — Chat Completions.
Быстрый старт · Подключение агентов · Как это работает · Проверки · Безопасность
[!IMPORTANT] FreeNIMAPI — это локальный прокси, а не локальная модель. Код работает на вашем компьютере, но инференс выполняется на hosted-сервисе NVIDIA и зависит от trial-доступа, квот, доступности моделей и их лицензий.
| 55/55 | 3 протокола | 4 семейства клиентов | 1 локальный адрес |
|---|---|---|---|
| локальные тесты | Chat · Messages · Responses | Hermes · Codex · Claude · OpenCode | 127.0.0.1:3000 |
Современные кодинг-агенты говорят на разных API-диалектах. Hosted-маршрут NVIDIA используется FreeNIMAPI как upstream Chat Completions, а локальный мост выдаёт каждому клиенту ожидаемый формат.
| Клиент | Что он ожидает | Что отдаёт FreeNIMAPI |
|---|---|---|
| Codex | OpenAI Responses | POST /v1/responses |
| Claude Code | Anthropic Messages | POST /v1/messages |
| Hermes Agent | OpenAI Chat Completions | POST /v1/chat/completions |
| OpenCode | Chat Completions или Responses | оба маршрута |
FreeNIMAPI переводит запросы, структурные tool calls, результаты инструментов и финальные события стрима. NVIDIA-ключ остаётся внутри процесса прокси; агент получает отдельный локальный ключ.
git clone https://github.com/ForgetMeAI/FreeNIMAPI.git
cd FreeNIMAPI
npm ci
npm run start:guided
Лаунчер запросит NVIDIA-ключ без отображения символов, не запишет его на диск и поднимет прокси на http://127.0.0.1:3000. Оставьте терминал открытым. Для остановки нажмите Ctrl+C.
cd FreeNIMAPI
FREENIM_LOCAL_API_KEY=freenim-local npm run health
PowerShell:
$env:FREENIM_LOCAL_API_KEY="freenim-local"
npm run health
Успешный health-check означает, что локальный шлюз готов принимать подключения. Он не расходует NVIDIA-квоту.
[!TIP] Для уникального локального ключа используйте
npm run start:secure. Команда скрыто запросит и NVIDIA-ключ, и отдельный ключ клиентов.
npm run start:guided.Официальное описание различий между NVIDIA_API_KEY и NGC-ключом: NVIDIA authentication and API keys.
[!CAUTION] Никогда не вставляйте NVIDIA-ключ в Codex, Claude Code, Hermes, OpenCode, конфиги проекта, issue, скриншоты или команды для видео. Кодинг-агенты должны знать только отдельный
FREENIM_LOCAL_API_KEY.
Все примеры ниже рассчитаны на guided-запуск по loopback. Сначала задайте отдельный локальный ключ:
export FREENIM_LOCAL_API_KEY=freenim-local
| Клиент | Wire API | Проверенная версия | Текущая квалификация |
|---|---|---|---|
| Hermes Agent | Chat Completions | 0.16.0 | scripted transport PASS; live NVIDIA PENDING |
| Codex | Responses | 0.144.2 | historical live PASS; fresh scripted PASS |
| Claude Code | Messages | 2.1.169 | historical live PASS; fresh scripted PASS |
| OpenCode | Chat / Responses | 1.17.18 | historical live Chat PASS; Responses PENDING live |
Статусы привязаны к snapshot 2026-07-17. Что именно означает historical, scripted и live, описано в разделе проверки.
Добавьте эквивалентный custom-provider в изолированный профиль Hermes:
model:
default: nim-auto
provider: custom
base_url: http://127.0.0.1:3000/v1
api_key: freenim-local
api_mode: chat_completions
Используйте freenim-local только для loopback guided-режима. Для сетевого доступа создайте уникальный локальный ключ через npm run start:secure. Точная изолированная конфигурация, которую применяет E2E-runner, описана в docs/AGENT_E2E.md.
Добавьте провайдера в $CODEX_HOME/config.toml — обычно это ~/.codex/config.toml. Для тестов лучше использовать отдельный CODEX_HOME.
model = "nim-auto"
model_provider = "freenim"
[model_providers.freenim]
name = "FreeNIMAPI"
base_url = "http://127.0.0.1:3000/v1"
env_key = "FREENIM_LOCAL_API_KEY"
wire_api = "responses"
requires_openai_auth = false
FreeNIMAPI отвечает на Codex-запрос каталога специальными ModelInfo-метаданными и объявляет custom/freeform apply_patch.
ANTHROPIC_BASE_URL указывает на корень сервера, без /v1:
Не выбирайте пункт на экране входа Claude Code: произвольный gateway не
добавляется через это меню. Остановите этот экран через Ctrl+C, затем целиком
вставьте блок ниже в тот же терминал, из которого будете запускать claude.
Блок сам задаёт loopback-ключ guided-режима, даже если вы не выполнили общий
export FREENIM_LOCAL_API_KEY выше:
export FREENIM_LOCAL_API_KEY="${FREENIM_LOCAL_API_KEY:-freenim-local}"
export FREENIM_MODEL="${FREENIM_MODEL:-nim-auto}"
export ANTHROPIC_BASE_URL=http://127.0.0.1:3000
export ANTHROPIC_AUTH_TOKEN="$FREENIM_LOCAL_API_KEY"
export ANTHROPIC_MODEL="$FREENIM_MODEL"
export ANTHROPIC_DEFAULT_OPUS_MODEL="$FREENIM_MODEL"
export ANTHROPIC_DEFAULT_SONNET_MODEL="$FREENIM_MODEL"
export ANTHROPIC_DEFAULT_HAIKU_MODEL="$FREENIM_MODEL"
export ANTHROPIC_CUSTOM_MODEL_OPTION="$FREENIM_MODEL"
export ANTHROPIC_CUSTOM_MODEL_OPTION_NAME="FreeNIMAPI / $FREENIM_MODEL"
export CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1
claude --model "$FREENIM_MODEL"
При первом запуске могут остаться выбор темы, предупреждение безопасности и
подтверждение доверия папке — это нормально. Экрана выбора способа входа быть
не должно. В /status должны отображаться адрес http://127.0.0.1:3000 и
источник токена ANTHROPIC_AUTH_TOKEN; модель также появится в /model как
FreeNIMAPI / nim-auto. Для другой модели перед блоком задайте, например,
export FREENIM_MODEL=minimax-m3.
Это техническая совместимость через официальный механизм Claude Code LLM gateway. Anthropic не гарантирует поведение не-Claude моделей.
Добавьте провайдеры в проектный opencode.json или глобальную конфигурацию OpenCode:
{
"$schema": "https://opencode.ai/config.json",
"provider": {
"freenim-chat": {
"npm": "@ai-sdk/openai-compatible",
"name": "FreeNIMAPI Chat",
"options": {
"baseURL": "http://127.0.0.1:3000/v1",
"apiKey": "{env:FREENIM_LOCAL_API_KEY}"
},
"models": {
"nim-auto": { "name": "FreeNIM nim-auto" }
}
},
"freenim-responses": {
"npm": "@ai-sdk/openai",
"name": "FreeNIMAPI Responses",
"options": {
"baseURL": "http://127.0.0.1:3000/v1",
"apiKey": "{env:FREENIM_LOCAL_API_KEY}"
},
"models": {
"nim-auto": { "name": "FreeNIM nim-auto" }
}
}
}
}
Выберите freenim-chat/nim-auto или freenim-responses/nim-auto.
Self-hosted NVIDIA NIM может предоставлять дополнительные API напрямую. FreeNIMAPI решает конкретную задачу hosted API Catalog и единообразной локальной точки для разных клиентов.
| Метод и маршрут | Для кого | Что реализовано |
|---|---|---|
POST /v1/chat/completions |
Hermes, OpenCode, OpenClaw | текст, native tools, continuation, локальный SSE |
POST /v1/messages |
Claude Code | tool_use, tool_result, Anthropic SSE |
POST /v1/messages/count_tokens |
Claude Code | локальная оценка без расхода NVIDIA-квоты |
POST /v1/responses |
Codex, OpenCode | function/custom tools, apply_patch, строгий terminal SSE |
GET /v1/models |
OpenAI-compatible клиенты | каталог alias-моделей |
GET /v1/models?client_version=… |
Codex | Codex ModelInfo с freeform apply_patch |
GET /health |
оператор | безопасная готовность без секрета |
GET /api/diagnostics |
оператор | circuits, concurrency, sanitized status |
GET /capabilities |
оператор | возможности bridge-слоя |
Полные формы запросов: docs/API.md.
Snapshot доступности: 2026-07-17.
| Alias | NVIDIA upstream | Статус |
|---|---|---|
nim-auto, gpt-oss-120b |
openai/gpt-oss-120b |
default; historical live Codex/OpenCode Chat qualification |
minimax-m3 |
minimaxai/minimax-m3 |
candidate; historical Claude workflow, позднее нестабильный tool preflight |
glm-5.2 |
z-ai/glm-5.2 |
experimental |
deepseek-v4-flash |
deepseek-ai/deepseek-v4-flash |
experimental |
deepseek-v4-pro |
deepseek-ai/deepseek-v4-pro |
availability unverified |
kimi-k2.6 |
moonshotai/kimi-k2.6 |
deprecated / unsupported |
nim-auto — alias, а не гарантия вечной доступности. NVIDIA может менять hosted-каталог, квоты, endpoint-поведение и лицензии моделей. Проверяйте актуальную карточку модели перед использованием.
Обычный ответ 200 OK и фраза модели «я исправил код» ничего не доказывают. Номинал FreeAPI требует реальный установленный клиент и наблюдаемую работу инструментов:
| 01 | 02 | 03 | 04 | 05 | 06 | 07 |
|---|---|---|---|---|---|---|
| RED | чтение проекта | реальный tool event | edit production-кода | GREEN | точный PROOF.txt |
отдельный no-network verifier |
Защищённые тесты и package.json хешируются до и после агента. PASS требует правильного порядка failure → edit → green, финального события клиента и независимого запуска тестов после остановки процесса агента.
| Клиент / wire | Scripted real-client transport | Live NVIDIA native model |
|---|---|---|
| Hermes 0.16.0 / Chat | PASS | PENDING |
| Codex 0.144.2 / Responses | PASS | HISTORICAL PASS · GPT-OSS-120B |
| Claude Code 2.1.169 / Messages | PASS | HISTORICAL PASS · alias nim-auto, исторически атрибутирован MiniMax M3; точный upstream ID не зафиксирован; свежий GPT-OSS не завершил proof/final |
| OpenCode 1.17.18 / Chat | PASS | HISTORICAL PASS · GPT-OSS-120B |
| OpenCode / Responses | PASS | PENDING |
Scripted доказывает конфигурацию клиента, wire bridge, tool execution и проверку артефактов, но не качество native-модели. Historical live-прогоны предшествуют нормативной схеме FAAS v1.0 и не переименовываются задним числом в текущий N4 PASS. Значения HISTORICAL PASS основаны на сохранённых локальных legacy-отчётах; raw bundles не опубликованы, поэтому из одного публичного репозитория их нельзя независимо перепроверить.
# 55 local unit/integration tests; no network or credentials
npm test
# Real installed clients + deterministic transport
npm run test:agents:mock
# Live NVIDIA endpoint matrix; requires NVIDIA_API_KEY
npm run test:live
# Live coding-agent E2E; requires NVIDIA_API_KEY
npm run test:agents
# Three-language parity and link checks
npm run check:readme
Публичный sanitized snapshot: docs/evidence/agent-qualification-2026-07-17.json. Методика и ограничения: docs/VERIFICATION.md.
| Секрет | Где находится | Кому передаётся |
|---|---|---|
NVIDIA_API_KEY |
только environment процесса FreeNIMAPI | на настроенный NVIDIA_BASE_URL; по умолчанию — официальный NVIDIA hosted endpoint |
FREENIM_LOCAL_API_KEY |
локальный клиент и прокси | на настроенный адрес FreeNIMAPI; по умолчанию — loopback |
.env не загружается автоматически;[!WARNING]
freenim-localдопустим только на127.0.0.1. Если прокси доступен из сети, используйтеnpm run start:secure, TLS и собственный контроль доступа. При измененииNVIDIA_BASE_URLupstream-ключ будет отправлен новому хосту — указывайте только доверенный endpoint. ФлагFREENIM_ALLOW_UNAUTHENTICATED_REMOTE=trueнамеренно отключает защиту remote bind и не рекомендуется.
Полная модель угроз: docs/SECURITY.md.
| Переменная | По умолчанию | Назначение |
|---|---|---|
HOST |
127.0.0.1 |
адрес прослушивания |
PORT |
3000 |
локальный порт |
NVIDIA_BASE_URL |
https://integrate.api.nvidia.com/v1 |
hosted upstream |
NIM_DEFAULT_MODEL |
nim-auto |
alias по умолчанию |
NIM_TIMEOUT_MS |
120000 |
полный deadline запроса |
NIM_MAX_RETRIES |
2 |
повторы retryable ошибок |
NIM_MAX_CONCURRENCY |
1 |
одновременные upstream generation |
FREENIM_CORS_ORIGINS |
пусто | разрешённые browser origins |
FREENIM_LOCAL_API_KEY |
пусто | отдельная локальная авторизация |
FREENIM_ALLOW_UNAUTHENTICATED_REMOTE |
false |
опасное отключение remote-auth guard; не рекомендуется |
NIM_TEXT_TOOL_FALLBACK |
false |
текстовый fallback; запрещён для real-agent qualification |
Для CI или secret manager можно запускать npm start, передав NVIDIA_API_KEY и уникальный FREENIM_LOCAL_API_KEY через environment. Сначала выполните npm run doctor.
previous_response_id не хранится сервером: следующий Responses-turn должен содержать нужные conversation items.count_tokens — приблизительная локальная оценка.Перед production-использованием нужен отдельный коммерческий endpoint и повторная квалификация точной пары client × model × protocol.
| Симптом | Что проверить |
|---|---|
health возвращает 401 |
в обоих терминалах должен быть один FREENIM_LOCAL_API_KEY |
| Claude Code не подключается | ANTHROPIC_BASE_URL должен быть без /v1 |
| Codex не видит модель или tools | base_url должен оканчиваться на /v1, wire_api = "responses" |
| Агент отвечает текстом, но не вызывает tools | выбранная модель не дала structural tool call; это model/preflight failure |
| Ответ очень медленный | trial upstream может занимать минуты; проверьте diagnostics и текущую модель |
| После смены адреса запросы не идут | сначала верните loopback и проверьте auth/CORS через npm run doctor |
npm run doctor
FREENIM_LOCAL_API_KEY=freenim-local npm run health
Если проблема воспроизводится, создайте issue без ключей, cookies, полных prompt-логов и приватных путей.
| Документ | Для чего |
|---|---|
| Быстрый старт на русском | минимальная установка |
| API reference | маршруты и payloads |
| Architecture | bridge-слои и data flow |
| Agent E2E | реальный behavioral nominal |
| Verification | матрица и квалификации |
| Security | threat model и безопасный запуск |
| Public evidence snapshot | машиночитаемый sanitized status |
Для pull request:
npm test и npm run check:readme;Код FreeNIMAPI распространяется по MIT License.
Hosted NVIDIA APIs регулируются NVIDIA API Trial Terms, а каждая модель — собственной лицензией. Trial-сервис предназначен для ограниченного тестирования и оценки; не отправляйте в него конфиденциальные данные.
FreeNIMAPI оказался полезен?
Поставьте ⭐ репозиторию, сообщайте о воспроизводимых ошибках через Issues
и следите за практическими AI-инструментами в @forgetmeai.
ForgetMeAI/FreeNIMAPI is a public repo on GitHub by ForgetMeAI. Its maker has not written a description.
It declares the MIT license on GitHub.
Its maker has not tagged a system, so it is unknown here. Its README says what it needs.
Open "Take it" on its page: Take My Repo writes an install plan for your machine and hands it to your AI agent (Claude Code, Codex or Cursor), which asks you before each step. Take My Repo has not tested it on any machine.
Its last change on GitHub was on 2026-07-17. Take My Repo does not judge from that whether it is maintained.
Nobody has reviewed it on Take My Repo yet, which says nothing about its quality.
Локальный API-прокси для DeepSeek Web Chat с поддержкой OpenAI/Anthropic API, streaming, tool calling, Responses API и Open WebUI
OpenAI/Anthropic-совместимый локальный прокси для бесплатных веб-моделей GLM/Z.ai и Kimi с эмуляцией tool use для AI-агентов.
Локальный OpenAI/Anthropic/Responses-compatible прокси для бесплатного Kimi endpoint cfbt.ccwu.cc. Позволяет подключать Claude Code, Codex, Hermes, OpenCode и другие AI-агенты к Kimi через localhost API.
Skill для Hermes / Claude Code / Codex-агентов: автоматический выбор и настройка LLM inference engine под железо, модель и workload — MLX, llama.cpp, ExLlama, vLLM, SGLang, TensorRT-LLM.

Локальный API-мост к Muse для Claude Code, Hermes и OpenCode: аккаунты, импорт почты и панель мониторинга. Экспериментальный проект.
Approval-gated web design workflow for Codex and Claude Code: interview, DESIGN.md, Impeccable build, independent review, deterministic QA.
Take My Repo has not tested this on your machine. Requirements come from the project's own documentation.