自托管 OllamaGateway

关于 OllamaGateway

OllamaGateway 专为私有 AI 基础设施而构建。如果您希望在 Ollama 之上实现 API 认证、请求审计、虚拟模型及适合团队协作的控制功能,本地部署是运行它的推荐方式。

推荐
在 Docker 中运行

首先,安装 Docker。然后在 Linux 终端中运行以下命令:

image=aiursoft/ollamagateway
appName=ollamagateway
sudo docker pull $image
sudo docker run -d --name $appName --restart unless-stopped -p 5000:5000 -v /var/www/$appName:/data $image

这将启动一个运行在 http://localhost:5000 的 Web 服务器,您可以测试该应用程序。

默认用户名为: admin@default.com, 且默认密码为: admin123.

容器上下文
属性
镜像 aiursoft/ollamagateway
端口 5000
二进制路径 /app
数据路径 /data
配置路径 /data/appsettings.json
在 Ubuntu 上运行

以下脚本将在您的 Ubuntu 服务器上安装或更新此应用。支持 Ubuntu 25.04。

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash

或使用自定义端口:

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash -s 8080
Systemd /opt/apps
为何采用本地部署

将提示词、API 密钥、使用日志和模型路由保留在您自己的基础设施边界内。

这对于通过 OpenAI 兼容端点为团队、内部工具或自主代理提供服务尤其有用。

开发与手动运行
前置条件
手动运行
  1. 在 `wwwroot` 文件夹中执行 `npm install` 以安装依赖项。
  2. 执行 `dotnet run` 以运行应用。
  3. 访问 http://localhost:5000.
在 Visual Studio 中运行
  1. 在项目路径中打开 `.sln` 文件。
  2. 按 `F5` 运行应用程序。