Kendi Kendine Barındırma OllamaGateway
OllamaGateway Hakkında
OllamaGateway, özel bir AI altyapısı için geliştirilmiştir. Ollama'nın üzerine API kimlik doğrulaması, istek denetimi, sanal modeller ve ekip dostu kontroller eklemek istiyorsanız, yerel dağıtım onu çalıştırmak için önerilen yoldur.
Docker'da Çalıştır
Öncelikle Docker'ı yükleyin. Ardından aşağıdaki komutları bir Linux kabuğunda çalıştırın:
image=aiursoft/ollamagateway
appName=ollamagateway
sudo docker pull $image
sudo docker run -d --name $appName --restart unless-stopped -p 5000:5000 -v /var/www/$appName:/data $image
Bu, http://localhost:5000 adresinde bir web sunucusu başlatacak ve uygulamanızı test edebilirsiniz.
Varsayılan kullanıcı adı: admin@default.com, ve varsayılan şifre: admin123.
Konteyner Bağlamı
| Özellik | Değer |
|---|---|
| Görüntü | aiursoft/ollamagateway |
| Portlar | 5000 |
| Binary yolu | /app |
| Veri yolu | /data |
| Yapılandırma yolu | /data/appsettings.json |
Ubuntu'da Çalıştır
Aşağıdaki betik, bu uygulamayı Ubuntu sunucunuza yükleyecek/güncelleyecektir. Ubuntu 25.04'ü destekler.
curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash
Veya özel bir port ile:
curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash -s 8080
Neden yerel dağıtım
İstemleri, API anahtarlarını, kullanım loglarını ve model yönlendirmelerini kendi altyapı sınırlarınızın içinde tutun.
Bu, bir ekibe, iç araçlara veya OpenAI uyumlu bir uç nokta üzerinden otomatik ajanlara hizmet verirken özellikle yararlıdır.
Geliştirme ve Manuel Çalıştırma
Önkoşullar
Manuel Çalıştır
- `npm install` komutunu bağımlılıkları yüklemek için `wwwroot` klasöründe çalıştırın.
- `dotnet run` komutunu çalıştırarak uygulamayı başlatın.
- http://localhost:5000 adresini ziyaret edin.
Visual Studio'da Çalıştır
- `.sln` dosyasını proje yolunda açın.
- `F5` tuşuna basarak uygulamayı çalıştırın.