โฮสต์ด้วยตนเอง OllamaGateway

เกี่ยวกับ OllamaGateway

OllamaGateway สร้างขึ้นเพื่อโครงสร้างพื้นฐาน AI แบบส่วนตัว หากคุณต้องการการตรวจสอบสิทธิ์ API การตรวจสอบคำขอ โมเดลเสมือน และคุณสมบัติควบคุมที่เอื้อต่อการทำงานเป็นทีมเหนือ Ollama การติดตั้งในท้องถิ่นเป็นวิธีที่แนะนำในการใช้งาน

แนะนำ
รันผ่าน Docker

ขั้นแรก ให้ติดตั้ง Docker จากนั้นให้รันคำสั่งต่อไปนี้ใน Linux shell:

image=aiursoft/ollamagateway
appName=ollamagateway
sudo docker pull $image
sudo docker run -d --name $appName --restart unless-stopped -p 5000:5000 -v /var/www/$appName:/data $image

สิ่งนี้จะเริ่มเซิร์ฟเวอร์เว็บที่ http://localhost:5000 และคุณสามารถทดสอบแอปได้

ชื่อผู้ใช้เริ่มต้นคือ: admin@default.com, และรหัสผ่านเริ่มต้นคือ: admin123.

บริบทของคอนเทนเนอร์
คุณสมบัติ ค่า
ภาพ aiursoft/ollamagateway
พอร์ต 5000
เส้นทางไบนารี /app
เส้นทางข้อมูล /data
เส้นทางไฟล์กำหนดค่า /data/appsettings.json
เรียกใช้บน Ubuntu

สคริปต์ต่อไปนี้จะติดตั้งหรืออัปเดตแอปนี้บนเซิร์ฟเวอร์ Ubuntu ของคุณ รองรับ Ubuntu 25.04

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash

หรือใช้พอร์ตที่กำหนดเอง:

curl -sL https://github.com/aiursoftweb/ollamaGateway/raw/master/install.sh | sudo bash -s 8080
Systemd /opt/apps
ทำไมต้องติดตั้งในท้องถิ่น

เก็บคำร้องคีย์ API บันทึกการใช้งาน และการกำหนดเส้นทางโมเดลภายในขอบเขตโครงสร้างพื้นฐานของคุณเอง

สิ่งนี้มีประโยชน์เป็นพิเศษเมื่อให้บริการทีม เครื่องมือภายใน หรือตัวแทนอัตโนมัติผ่านเอนด์พอยต์ที่เข้ากันได้กับ OpenAI

การพัฒนาและการรันด้วยตนเอง
ข้อกำหนดเบื้องต้น
รันด้วยตนเอง
  1. ดำเนินการ `npm install` ที่โฟลเดอร์ `wwwroot` เพื่อติดตั้ง dependencies
  2. Execute `dotnet run` to run the app.
  3. เข้าใช้ http://localhost:5000
เรียกใช้ใน Visual Studio
  1. เปิดไฟล์ `.sln` ในเส้นทางโปรเจกต์
  2. กด `F5` เพื่อเรียกใช้งานแอป