自我託管 OllamaGateway

關於 OllamaGateway

OllamaGateway 專為私有 AI 基礎設施而建置。如果您需要 API 身份驗證、請求審計、虛擬模型以及 Ollama 之上的團隊友善控制,建議採用本地部署方式來運行它。

推薦
在 Docker 中運行

首先,安裝 Docker。然後在 Linux 終端機中執行以下命令:

image=aiursoft/ollamagateway
appName=ollamagateway
sudo docker pull $image
sudo docker run -d --name $appName --restart unless-stopped -p 5000:5000 -v /var/www/$appName:/data $image

這將啟動一個位於 http://localhost:5000 的 Web 伺服器,您可以測試該應用程式。

預設使用者名稱為: admin@default.com, 且預設密碼為: admin123.

容器情境
屬性
映像 aiursoft/ollamagateway
連接埠 5000
二進制路徑 /app
數據路徑 /data
設定檔路徑 /data/appsettings.json
在 Ubuntu 上執行

以下腳本將安裝或更新此應用程式到您的 Ubuntu 伺服器。支援 Ubuntu 25.04。

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash

或使用自訂連接埠:

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash -s 8080
Systemd /opt/apps
為什麼要本機部署

將提示詞、API 金鑰、使用日誌與模型路由保留在您自己的基礎設施邊界內。

這在透過 OpenAI 相容端點為團隊、內部工具或自主代理提供服務時特別有用。

開發與手動執行
前置條件
手動執行
  1. 在 `wwwroot` 資料夾執行 `npm install` 以安裝相依套件。
  2. 執行 `dotnet run` 以啟動應用程式。
  3. 造訪 http://localhost:5000。
在 Visual Studio 中執行
  1. 在專案路徑中開啟 `.sln` 檔案。
  2. 按 `F5` 以執行應用程式。