स्व-होस्ट OllamaGateway

ओलामागेटवे के बारे में

ओलामागेटवे निजी एआई इंफ्रास्ट्रक्चर के लिए बनाया गया है। यदि आप ओलामा के ऊपर API प्रमाणीकरण, अनुरोध ऑडिटिंग, आभासी मॉडल और टीम-अनुकूल नियंत्रण चाहते हैं, तो इसे चलाने के लिए स्थानीय विन्यास अनुशंसित तरीका है।

सिफारिश की गई
डॉकर में चलाएं

सबसे पहले, Docker इंस्टॉल करें। फिर, एक Linux शेल में निम्नलिखित कमांड चलाएं:

image=aiursoft/ollamagateway
appName=ollamagateway
sudo docker pull $image
sudo docker run -d --name $appName --restart unless-stopped -p 5000:5000 -v /var/www/$appName:/data $image

यह http://localhost:5000 पर एक वेब सर्वर चालू करेगा और आप ऐप का परीक्षण कर सकते हैं।

डिफ़ॉल्ट उपयोगकर्ता नाम है: admin@default.com, और डिफ़ॉल्ट पासवर्ड है: admin123.

कंटेनर संदर्भ
गुण मान
छवि aiursoft/ollamagateway
पोर्ट्स 5000
बाइनरी पथ /app
डेटा पथ /data
कॉन्फ़िग पथ /data/appsettings.json
उबंटु में चलाएं

निम्नलिखित स्क्रिप्ट आपके Ubuntu सर्वर पर इस ऐप को इंस्टॉल/अपडेट करेगी। यह Ubuntu 25.04 का समर्थन करती है।

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash

अथवा कस्टम पोर्ट के साथ:

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash -s 8080
Systemd /opt/apps
स्थानीय विन्यास क्यों करें

प्रॉम्प्ट्स, एपीआई कुंजियाँ, उपयोग लॉग और मॉडल रूटिंग को अपनी स्वयं की इंफ्रास्ट्रक्चर सीमा के भीतर रखें।

यह विशेष रूप से उपयोगी है जब किसी टीम, आंतरिक टूल्स, या स्वचालित एजेंट्स को ओपनएआई-सुसंगत एंडपॉइंट के माध्यम से सेवा प्रदान की जाती है।

विकास और मैनुअल रन
आवश्यकताएँ
मैन्युअल रूप से चलाएं
  1. `npm install` कमांड को `wwwroot` फोल्डर में चलाएं ताकि निर्भरताएँ स्थापित की जा सकें।
  2. `dotnet run` चलाएं।
  3. http://localhost:5000 पर जाएं।
Visual Studio में चलाएं
  1. `Open the `.sln` file in the project path.`
  2. `F5` दबाएं ताकि एप चला सकें।