Αυτόνομη Εγκατάσταση OllamaGateway
Σχετικά με το OllamaGateway
Το OllamaGateway έχει κατασκευαστεί για υποδομή ιδιωτικού AI. Εάν επιθυμείτε πιστοποίηση API, έλεγχο αιτημάτων, εικονικά μοντέλα και ελέγχους φιλικούς προς τις ομάδες επιπλέον του Ollama, η τοπική εγκατάσταση είναι ο προτεινόμενος τρόπος εκτέλεσής του.
Εκτέλεση σε Docker
Πρώτα, εγκαταστήστε το Docker. Στη συνέχεια, εκτελέστε τις παρακάτω εντολές σε ένα Linux shell:
image=aiursoft/ollamagateway
appName=ollamagateway
sudo docker pull $image
sudo docker run -d --name $appName --restart unless-stopped -p 5000:5000 -v /var/www/$appName:/data $image
Αυτό θα ξεκινήσει έναν διακομιστή ιστού στο http://localhost:5000 και μπορείτε να δοκιμάσετε την εφαρμογή.
Το προεπιλεγμένο όνομα χρήστη είναι: admin@default.com, και ο προεπιλεγμένος κωδικός πρόσβασης είναι: admin123.
Πλαίσιο Container
| Ιδιότητα | Αξία |
|---|---|
| Εικόνα | aiursoft/ollamagateway |
| Θύρες | 5000 |
| Διαδρομή εκτελέσιμου | /app |
| Διαδρομή δεδομένων | /data |
| Διαδρομή διαμόρφωσης | /data/appsettings.json |
Εκτέλεση σε Ubuntu
Το παρακάτω σενάριο θα εγκαταστήσει/ενημερώσει αυτή την εφαρμογή στον server Ubuntu σας. Υποστηρίζει Ubuntu 25.04.
curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash
Ή με μια προσαρμοσμένη θύρα:
curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash -s 8080
Γιατί τοπική εγκατάσταση
Διατηρήστε τα prompts, τα API keys, τα logs χρήσης και την δρομολόγηση μοντέλων εντός των ορίων της δικής σας υποδομής.
Αυτό είναι ιδιαίτερα χρήσιμο κατά την παροχή υπηρεσιών σε μια ομάδα, εσωτερικά εργαλεία ή αυτόνομους πράκτορες μέσω ενός συμβατού με το OpenAI endpoint.
Ανάπτυξη & Χειροκίνητη Εκτέλεση
Προαπαιτούμενα
Εκτέλεση χειροκίνητα
- Εκτελέστε `npm install` στον φάκελο `wwwroot` για να εγκαταστήσετε τις εξαρτήσεις.
- Εκτελέστε `dotnet run` για να εκτελέσετε την εφαρμογή.
- Επισκεφθείτε το http://localhost:5000.
Εκτέλεση στο Visual Studio
- Άνοιγμα του αρχείου `.sln` στη διαδρομή του έργου.
- Πατήστε το `F5` για να εκτελέσετε την εφαρμογή.