自行託管 OllamaGateway
推薦
在 Docker 中運行
首先,安裝 Docker。然後在 Linux 終端機中執行以下指令:
image=aiursoft/ollamagateway
appName=ollamagateway
sudo docker pull $image
sudo docker run -d --name $appName --restart unless-stopped -p 5000:5000 -v /var/www/$appName:/data $image
這將啟動位於 http://localhost:5000 的 Web 伺服器,您可以測試該應用程式。
預設用戶名是: admin@default.com, 而預設密碼為: admin123.
容器上下文
| 屬性 | 值 |
|---|---|
| 鏡像 | aiursoft/ollamagateway |
| 連接埠 | 5000 |
| 二進制路徑 | /app |
| 數據路徑 | /data |
| 設定檔路徑 | /data/appsettings.json |
在 Ubuntu 上運行
以下腳本將安裝/更新此應用程式至您的 Ubuntu 伺服器。支援 Ubuntu 25.04。
curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash
或使用自訂埠口:
curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash -s 8080
Systemd
/opt/apps
為何要本地部署
將提示詞、API 金鑰、使用日誌及模型路由保留在您基礎設施的邊界內。
這在透過 OpenAI 相容端點為團隊、內部工具或自主代理提供服務時特別有用。
開發與手動運行
先決條件
手動執行
- 執行 `npm install` 於 `wwwroot` 資料夾以安裝相依套件。
- 執行 `dotnet run` 以運行應用程式。
- 瀏覽 http://localhost:5000。
在 Visual Studio 中運行
- 在專案路徑中開啟 `.sln` 檔案。
- 按 `F5` 以執行應用程式。