自行託管 OllamaGateway

關於 OllamaGateway

OllamaGateway 專為私人 AI 基礎設施而設計。若您希望在 Ollama 之上實現 API 身份驗證、請求審計、虛擬模型及適合團隊協作的控制功能,建議採用本地部署方式運行。

推薦
在 Docker 中運行

首先,安裝 Docker。然後在 Linux 終端機中執行以下指令:

image=aiursoft/ollamagateway
appName=ollamagateway
sudo docker pull $image
sudo docker run -d --name $appName --restart unless-stopped -p 5000:5000 -v /var/www/$appName:/data $image

這將啟動位於 http://localhost:5000 的 Web 伺服器,您可以測試該應用程式。

預設用戶名是: admin@default.com, 而預設密碼為: admin123.

容器上下文
屬性
鏡像 aiursoft/ollamagateway
連接埠 5000
二進制路徑 /app
數據路徑 /data
設定檔路徑 /data/appsettings.json
在 Ubuntu 上運行

以下腳本將安裝/更新此應用程式至您的 Ubuntu 伺服器。支援 Ubuntu 25.04。

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash

或使用自訂埠口:

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash -s 8080
Systemd /opt/apps
為何要本地部署

將提示詞、API 金鑰、使用日誌及模型路由保留在您基礎設施的邊界內。

這在透過 OpenAI 相容端點為團隊、內部工具或自主代理提供服務時特別有用。

開發與手動運行
先決條件
手動執行
  1. 執行 `npm install` 於 `wwwroot` 資料夾以安裝相依套件。
  2. 執行 `dotnet run` 以運行應用程式。
  3. 瀏覽 http://localhost:5000。
在 Visual Studio 中運行
  1. 在專案路徑中開啟 `.sln` 檔案。
  2. 按 `F5` 以執行應用程式。