Самохостинг OllamaGateway
Про OllamaGateway
OllamaGateway створено для приватної інфраструктури ШІ. Якщо вам потрібна автентифікація API, аудит запитів, віртуальні моделі та зручні для команд контролю поверх Ollama, рекомендованим способом запуску є локальне розгортання.
Запуск у Docker
Спочатку встановіть Docker. Потім виконайте наступні команди в оболонці Linux:
image=aiursoft/ollamagateway
appName=ollamagateway
sudo docker pull $image
sudo docker run -d --name $appName --restart unless-stopped -p 5000:5000 -v /var/www/$appName:/data $image
Це запустить веб-сервер за адресою http://localhost:5000, і ви зможете протестувати додаток.
Стандартне ім'я користувача: admin@default.com, і стандартний пароль: admin123.
Контекст контейнера
| Властивість | Значення |
|---|---|
| Зображення | aiursoft/ollamagateway |
| Порти | 5000 |
| Шлях до бінарника | /app |
| Шлях до даних | /data |
| Шлях конфігурації | /data/appsettings.json |
Запуск у Ubuntu
Наступний скрипт встановить або оновить цю програму на вашому сервері Ubuntu. Підтримується Ubuntu 25.04.
curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash
Або з кастомним портом:
curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash -s 8080
Чому локальне впровадження
Зберігайте запити, API-ключі, журнали використання та маршрутизацію моделей у межах власної інфраструктури.
Це особливо корисно, коли ви обслуговуєте команду, внутрішні інструменти або автономних агентів через сумісний з OpenAI кінцевий пункт.
Розробка та ручний запуск
Передумови
Запуск вручну
- Виконайте `npm install` у папці `wwwroot` для встановлення залежностей.
- Виконайте `dotnet run`, щоб запустити додаток.
- Відвідайте http://localhost:5000.
Запуск у Visual Studio
- Відкрийте файл `.sln` у шляху до проекту.
- Натисніть `F5`, щоб запустити додаток.