最近網路出現了幾篇 OpenAI Codex 串接 Ollama 的教學,但Ollama的底層其實就是 llama.cpp,
心想,那應該是有機會讓 Codex串接llama.server 才對
經過一番實作,與AI協助,果然 找出可以串接的方法
所使用的各項元件版本
llama.server:version: 9272
Model:
1.Qwopus3.6-27B-v2-MTP-Q4_K_M.gguf
2.Qwopus3.6-35B-A3B-v1-APEX-MTP-I-Quality.gguf (PS此Model Codex有點問題 ,Claude code可以使用,未來看能不能解決)
以下是串接步驟:
Step1:啟動 llama.server
我的顯卡有 32g 電腦記憶體有64g 大家的ctx-size 167936 請依照自己電腦的配備與使用的model 縮小或放大
./build/bin/llama-server \
-m /home/xxxxxxxxx/llama.cpp/build/bin/models/Qwopus3.6-27B-v2-MTP-Q4_K_M.gguf \
--mmproj /home/xxxxxxxxx/llama.cpp/build/bin/models/mmproj-27b-BF16.gguf \
--host 0.0.0.0 \
--port 8080 \
-ngl 99 \
--tensor-split 1,1 \
--ctx-size 167936 \
--flash-attn on \
--parallel 1 \
--cont-batching \
--temp 1 \
--alias my_local_llama \
--jinja
step2:修改 codex 設定
2.1先進到設定畫面 選 Settings

2.2 修改 config.toml

按下開啟 config.toml
將以下文字 比照各自的電腦 做修改
'''config.toml
# 修改:填入您地端 llama.server 實際載入的模型名稱(如果它不在乎名稱,可以自訂)
model = "llama_local"
model_reasoning_effort = "medium"
# 【關鍵新增 1】指定 Codex 使用我們下方自訂的 Provider,而不是預設的 "openai"
model_provider = "my_local_llama"
# 【關鍵新增 2】定義地端伺服器的連線細節
[model_providers.my_local_llama]
name = "Local Llama Server"
base_url = "http://192.168.0.1:8080/v1"
api_key = "sk-local" # 告訴 Codex 假金鑰
[marketplaces.openai-bundled]
last_updated = "2026-05-28T01:36:36Z"
source_type = "local"
source = '\\?\C:\Users\xxxxxxxxx\.codex\.tmp\bundled-marketplaces\openai-bundled'
[marketplaces.openai-primary-runtime]
last_updated = "2026-05-27T00:15:53Z"
source_type = "local"
source = '\\?\C:\Users\xxxxxxxxx\.cache\codex-runtimes\codex-primary-runtime\plugins\openai-primary-runtime'
[plugins."documents@openai-primary-runtime"]
enabled = true
[plugins."spreadsheets@openai-primary-runtime"]
enabled = true
[plugins."presentations@openai-primary-runtime"]
enabled = true
[plugins."browser@openai-bundled"]
enabled = true
[features]
js_repl = false
[mcp_servers.node_repl]
args = []
command = 'C:\Users\xxxxxxxxx\AppData\Local\OpenAI\Codex\bin\3c238e29bbc930ff\node_repl.exe'
startup_timeout_sec = 120
[mcp_servers.node_repl.env]
NODE_REPL_NATIVE_PIPE_CONNECT_TIMEOUT_MS = "1000"
NODE_REPL_NODE_MODULE_DIRS = ""
NODE_REPL_NODE_PATH = 'C:\Users\xxxxxxxxx\AppData\Local\OpenAI\Codex\bin\5b9024f90663758b\node.exe'
NODE_REPL_TRUSTED_CODE_PATHS = 'C:\Users\xxxxxxxxx\.codex'
CODEX_HOME = 'C:\Users\xxxxxxxxx\.codex'
NODE_REPL_TRUSTED_BROWSER_CLIENT_SHA256S = "496c7b3cb95b4bc20cff49b513150606e0da0000c92bf752206bee5a6c248423"
BROWSER_USE_AVAILABLE_BACKENDS = "chrome,iab"
BROWSER_USE_MARKETPLACE_NAME = "openai-bundled"
NODE_REPL_UNTRUSTED_ENV_ALLOWLIST = "BROWSER_USE_MARKETPLACE_NAME"
CODEX_CLI_PATH = 'C:\Users\xxxxxxxxx\AppData\Local\OpenAI\Codex\bin\958d608b5e0546a5\codex.exe'
[desktop]
conversationDetailMode = "STEPS_COMMANDS"
ambient-suggestions-enabled = false
appearanceTheme = "dark"
localeOverride = "zh-TW"
[windows]
sandbox = "elevated"
[tui.model_availability_nux]
"gpt-5.5" = 2
'''
修改重啟 回到 Codex畫面,就會看到原先顯示 gpt-5.5的位置變成 local llmam Server

