最近網路出現了幾篇 OpenAI Codex 串接 Ollama 的教學,但Ollama的底層其實就是 llama.cpp,

心想,那應該是有機會讓 Codex串接llama.server 才對


經過一番實作,與AI協助,果然 找出可以串接的方法


所使用的各項元件版本

llama.server:version: 9272

Model:

1.Qwopus3.6-27B-v2-MTP-Q4_K_M.gguf  

2.Qwopus3.6-35B-A3B-v1-APEX-MTP-I-Quality.gguf  (PS此Model Codex有點問題 ,Claude code可以使用,未來看能不能解決)


以下是串接步驟:

Step1:啟動 llama.server

我的顯卡有 32g  電腦記憶體有64g  大家的ctx-size 167936 請依照自己電腦的配備與使用的model 縮小或放大


./build/bin/llama-server \
-m /home/xxxxxxxxx/llama.cpp/build/bin/models/Qwopus3.6-27B-v2-MTP-Q4_K_M.gguf \
--mmproj /home/xxxxxxxxx/llama.cpp/build/bin/models/mmproj-27b-BF16.gguf \
--host 0.0.0.0 \
--port 8080 \
-ngl 99 \
--tensor-split 1,1 \
--ctx-size 167936 \
--flash-attn on \
--parallel 1 \
--cont-batching \
--temp 1 \
--alias my_local_llama \
--jinja


step2:修改 codex 設定

2.1先進到設定畫面  選 Settings

2.2 修改 config.toml


按下開啟 config.toml

將以下文字 比照各自的電腦 做修改

'''config.toml

# 修改:填入您地端 llama.server 實際載入的模型名稱(如果它不在乎名稱,可以自訂)
model = "llama_local"
model_reasoning_effort = "medium"

# 【關鍵新增 1】指定 Codex 使用我們下方自訂的 Provider,而不是預設的 "openai"
model_provider = "my_local_llama"

# 【關鍵新增 2】定義地端伺服器的連線細節
[model_providers.my_local_llama]
name = "Local Llama Server"
base_url = "http://192.168.0.1:8080/v1"
api_key = "sk-local" # 告訴 Codex 假金鑰

[marketplaces.openai-bundled]
last_updated = "2026-05-28T01:36:36Z"
source_type = "local"
source = '\\?\C:\Users\xxxxxxxxx\.codex\.tmp\bundled-marketplaces\openai-bundled'

[marketplaces.openai-primary-runtime]
last_updated = "2026-05-27T00:15:53Z"
source_type = "local"
source = '\\?\C:\Users\xxxxxxxxx\.cache\codex-runtimes\codex-primary-runtime\plugins\openai-primary-runtime'

[plugins."documents@openai-primary-runtime"]
enabled = true

[plugins."spreadsheets@openai-primary-runtime"]
enabled = true

[plugins."presentations@openai-primary-runtime"]
enabled = true

[plugins."browser@openai-bundled"]
enabled = true

[features]
js_repl = false

[mcp_servers.node_repl]
args = []
command = 'C:\Users\xxxxxxxxx\AppData\Local\OpenAI\Codex\bin\3c238e29bbc930ff\node_repl.exe'
startup_timeout_sec = 120

[mcp_servers.node_repl.env]
NODE_REPL_NATIVE_PIPE_CONNECT_TIMEOUT_MS = "1000"
NODE_REPL_NODE_MODULE_DIRS = ""
NODE_REPL_NODE_PATH = 'C:\Users\xxxxxxxxx\AppData\Local\OpenAI\Codex\bin\5b9024f90663758b\node.exe'
NODE_REPL_TRUSTED_CODE_PATHS = 'C:\Users\xxxxxxxxx\.codex'
CODEX_HOME = 'C:\Users\xxxxxxxxx\.codex'
NODE_REPL_TRUSTED_BROWSER_CLIENT_SHA256S = "496c7b3cb95b4bc20cff49b513150606e0da0000c92bf752206bee5a6c248423"
BROWSER_USE_AVAILABLE_BACKENDS = "chrome,iab"
BROWSER_USE_MARKETPLACE_NAME = "openai-bundled"
NODE_REPL_UNTRUSTED_ENV_ALLOWLIST = "BROWSER_USE_MARKETPLACE_NAME"
CODEX_CLI_PATH = 'C:\Users\xxxxxxxxx\AppData\Local\OpenAI\Codex\bin\958d608b5e0546a5\codex.exe'

[desktop]
conversationDetailMode = "STEPS_COMMANDS"
ambient-suggestions-enabled = false
appearanceTheme = "dark"
localeOverride = "zh-TW"

[windows]
sandbox = "elevated"

[tui.model_availability_nux]
"gpt-5.5" = 2

'''


修改重啟 回到 Codex畫面,就會看到原先顯示 gpt-5.5的位置變成 local llmam Server 



創作者介紹
創作者 程式狂想曲 的頭像
Rh

程式狂想曲

Rh 發表在 痞客邦 留言(0) 人氣( 394 )