TWCC Ollama Proxy

TWCC Ollama Proxy 將本地端的 Ollama API 請求轉發至 TWCC（國網中心）開發型容器（CCS）執行 LLM 推論，並在 localhost:11434 提供與標準 Ollama API 相容的端點。目前支援 CrystalMind 與 GemmaPro 兩款 GGUF 模型，另有推理強化版 GemmaPro-r，適合較複雜的概念抽取任務。

任何支援自訂 Ollama URL 的工具，例如 Open WebUI 或 Continue.dev，都可直接對接使用。每次 API 呼叫都會建立一個含 1 顆 GPU 的 TWCC CCS 容器執行推論，完成後自動刪除，因此計費僅以容器的短暫存在時間計算（通常每次 1 至 2 分鐘）。使用前需準備 Windows 環境、以 uv 管理的 Python 3.10+、具 CCS 使用權限的 TWCC 帳號，以及已上傳的 SSH 金鑰；模型檔案只需一次性上傳至 TWCC 共用的 HFS 儲存空間。

維護狀態：Active——持續更新中。