Oma isäntä OllamaGateway
Tietoja OllamaGatewaysta
OllamaGateway on rakennettu yksityiseen tekoälyinfrastruktuuriin. Jos haluat käyttää Ollaman päällä API-todennusta, pyyntöjen auditointia, virtuaalimalleja ja tiimeille sopivia ohjausominaisuuksia, paikallinen asennus on suositeltu tapa suorittaa se.
Käytä Dockerissa
Ensinnäkin asenna Docker. Sen jälkeen suorita seuraavat komennot Linux-käskypohjassa:
image=aiursoft/ollamagateway
appName=ollamagateway
sudo docker pull $image
sudo docker run -d --name $appName --restart unless-stopped -p 5000:5000 -v /var/www/$appName:/data $image
Tämä käynnistää web-palvelimen osoitteessa http://localhost:5000 ja voit testata sovellusta.
Oletuskäyttäjänimi on: admin@default.com, ja salasana on: admin123.
Säiliön konteksti
| Ominaisuus | Arvo |
|---|---|
| Kuva | aiursoft/ollamagateway |
| Portit | 5000 |
| Binäärin polku | /app |
| Tietopolku | /data |
| Konfiguraation polku | /data/appsettings.json |
Käynnistä Ubuntussa
Seuraava skripti asentaa tai päivittää tämän sovelluksen Ubuntu-palvelimellasi. Tukee Ubuntu 25.04.
curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash
Tai mukautetulla portilla:
curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash -s 8080
Miksi paikallinen asennus
Pidä kehotteet, API-avaimet, käyttölokit ja mallien ohjaus oman infrastruktuurirajasi sisällä.
Tämä on erityisen hyödyllistä, kun palvelet tiimiä, sisäisiä työkaluja tai autonomisia agenteja OpenAI-yhteensopivan päätepisteen kautta.
Kehitys ja manuaalinen suoritus
Edellytykset
Käynnistä manuaalisesti
- Suorita `npm install` kansiossa `wwwroot` asentaaksesi riippuvuudet.
- Suorita `dotnet run` käynnistääksesi sovelluksen.
- Mene osoitteeseen http://localhost:5000.
Suorita Visual Studiossa
- Avaa `.sln`-tiedosto projektin polusta.
- Paina `F5` käynnistääksesi sovelluksen.