Zelf hosten OllamaGateway

Over OllamaGateway

OllamaGateway is gebouwd voor private AI-infrastructuur. Als u API-authenticatie, verzoekscontrole, virtuele modellen en teamvriendelijke besturingsopties bovenop Ollama wilt, is lokale implementatie de aanbevolen manier om het te draaien.

MIT licensed Docker Pulls Website
Dashboard GitHub
Aanbevolen
Uitvoeren in Docker

Installeer eerst Docker. Voer vervolgens de volgende opdrachten uit in een Linux-shell:

image=aiursoft/ollamagateway
appName=ollamagateway
sudo docker pull $image
sudo docker run -d --name $appName --restart unless-stopped -p 5000:5000 -v /var/www/$appName:/data $image

Dit start een webserver op http://localhost:5000 en u kunt de applicatie testen.

De standaard gebruikersnaam is: admin@default.com, en de standaardwachtwoord is: admin123.

Container Context
Eigenschap Waarde
Image aiursoft/ollamagateway
Poorten 5000
Binair pad /app
Gegevenspad /data
Configpad /data/appsettings.json
Uitvoeren in Ubuntu

Het volgende script installeert/deze app bijgewerkt op uw Ubuntu-server. Ondersteunt Ubuntu 25.04.

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash

Of met een aangepaste poort:

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash -s 8080
Systemd /opt/apps
Waarom lokale implementatie

Houd prompts, API-sleutels, gebruiksl logs en model routing binnen uw eigen infrastructuurgrens.

Dit is vooral handig bij het bedienen van een team, interne tools of autonome agenten via een OpenAI-compatibel eindpunt.

Ontwikkeling & Handmatige uitvoer
Vereisten
Handmatig uitvoeren
  1. Voer `npm install` uit in de map `wwwroot` om de afhankelijkheden te installeren.
  2. Voer `dotnet run` uit om de app te starten.
  3. Bezoek http://localhost:5000.
Uitvoeren in Visual Studio
  1. Open het `.sln`-bestand in het projectpad.
  2. Druk op `F5` om de app te starten.