Host Mandiri OllamaGateway

Tentang OllamaGateway

OllamaGateway dibangun untuk infrastruktur AI pribadi. Jika Anda menginginkan autentikasi API, audit permintaan, model virtual, dan kontrol ramah tim di atas Ollama, penerapan lokal adalah cara yang direkomendasikan untuk menjalankannya.

MIT licensed Docker Pulls Website
Dasbor GitHub
Direkomendasikan
Jalankan di Docker

Pertama, instal Docker. Kemudian jalankan perintah berikut di shell Linux:

image=aiursoft/ollamagateway
appName=ollamagateway
sudo docker pull $image
sudo docker run -d --name $appName --restart unless-stopped -p 5000:5000 -v /var/www/$appName:/data $image

Itu akan memulai server web di http://localhost:5000 dan Anda dapat menguji aplikasi.

Nama pengguna default adalah: admin@default.com, dan kata sandi default adalah: admin123.

Konteks Kontainer
Sifat Nilai
Gambar aiursoft/ollamagateway
Port 5000
Jalur biner /app
Path data /data
Path konfigurasi /data/appsettings.json
Jalankan di Ubuntu

Skrip berikut akan menginstal/memperbarui aplikasi ini di server Ubuntu Anda. Mendukung Ubuntu 25.04.

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash

Atau dengan port kustom:

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash -s 8080
Systemd /opt/apps
Mengapa Deployment Lokal

Jaga prompt, kunci API, log penggunaan, dan perutean model tetap berada di dalam batas infrastruktur Anda sendiri.

Ini sangat berguna saat melayani tim, alat internal, atau agen otonom melalui endpoint yang kompatibel dengan OpenAI.

Pengembangan & Jalankan Manual
Prasyarat
Jalankan Secara Manual
  1. Eksekusi `npm install` di folder `wwwroot` untuk menginstal dependensi.
  2. Jalankan `dotnet run` untuk menjalankan aplikasi.
  3. Kunjungi http://localhost:5000.
Jalankan di Visual Studio
  1. Buka file `.sln` di jalur proyek.
  2. Tekan `F5` untuk menjalankan aplikasi.