Tổng Quan
9Router là một công cụ định tuyến mô hình (model router) giúp bạn sử dụng nhiều nhà cung cấp AI (OpenAI, Anthropic, Google, v.v.) thông qua một endpoint duy nhất. Khi tích hợp với OpenClaw, bạn có thể:
- Xoay vòng mô hình (model rotation) giữa các nhà cung cấp
- Giảm chi phí bằng cách sử dụng mô hình rẻ hơn khi có thể
- Tăng độ tin cậy bằng cách có dự phòng khi một nhà cung cấp gặp sự cố
- Quản lý tập trung các kết nối API
Bước 1: Cài Đặt 9Router
Tải 9Router
- Tải về phiên bản mới nhất từ trang chủ 9Router
- Giải nén vào thư mục mong muốn (ví dụ:
C:\9Router) - Chạy file thực thi (thường là
9router.exehoặcendpoint-proxy.exe)
Khởi động 9Router
- Mở terminal và di chuyển đến thư mục 9Router
- Chạy lệnh:
./endpoint-proxy.exe
- Xác nhận 9Router đang chạy tại
http://localhost:20128
Bước 2: Cấu Hình Các Nhà Cung cấp trong 9Router
Truy cập giao diện quản lý
- Mở trình duyệt
- Truy cập:
http://localhost:20128/dashboard/providers - Thêm các nhà cung cấp bạn muốn sử dụng:
- OpenAI: Nhập
OPENAI_API_KEY - Anthropic: Nhập
ANTHROPIC_API_KEY - Google: Nhập
GEMINI_API_KEY - Các nhà cung cấp khác theo nhu cầu
- OpenAI: Nhập
Thiết lập chiến lược định tuyến
Trong 9Router, bạn có thể cấu hình:
- Round-robin: Luân phiên đều giữa các mô hình
- Weighted: Ưu tiên mô hình theo trọng số
- Least-cost: Chọn mô hình rẻ nhất
- Failover: Chuyển sang mô hình dự phòng khi lỗi
Bước 3: Cấu Hình OpenClaw Để Sử Dụng 9Router
Tìm file cấu hình OpenClaw
File cấu hình thường nằm ở:
~/.openclaw/config.yaml(Linux/Mac)C:\Users\<Tên người dùng>\.openclaw\config.yaml(Windows)- Hoặc trong thư mục dự án OpenClaw
Cấu hình trong config.yaml
# Cấu hình 9Router như một nhà cung cấp OpenAI-compatible
agents:
defaults:
model:
primary: "router/gpt-4o"
fallback: "router/claude-3-opus"
providers:
router:
type: openai-compatible
baseURL: http://localhost:20128/v1
apiKey: ""
models:
- gpt-4o
- gpt-4o-mini
- claude-3-opus
- claude-3-sonnet
- gemini-2.0-pro
- llama-3-70b
- mistral-large
# Cấu hình định tuyến mô hình
routing:
strategy: round-robin
providers:
- name: router
weight: 100
fallback: openai
Bước 4: Kiểm Tra Kết Nối
Khởi động lại OpenClaw
openclaw gateway restart
Kiểm tra cấu hình
- Trong terminal:
openclaw models list
Bạn sẽ thấy các mô hình từ 9Router được liệt kê.
- Thử nghiệm mô hình:
openclaw --model router/gpt-4o
Bước 5: Tối Ưu Hóa Chiến Lược Xoay Vòng
Chiến lược Round-Robin (Luân phiên đều)
routing:
strategy: round-robin
providers:
- name: router
models: ["gpt-4o", "claude-3-opus", "gemini-2.0-pro"]
Chiến lược Weighted (Theo trọng số)
routing:
strategy: weighted-round-robin
providers:
- name: router
models:
- { model: "gpt-4o-mini", weight: 70 }
- { model: "gpt-4o", weight: 20 }
- { model: "claude-3-sonnet", weight: 10 }
Chiến lược Least-Cost (Ít tốn kém nhất)
routing:
strategy: least-cost
providers:
- name: router
cost-lookup:
"gpt-4o-mini": 0.00015
"gpt-4o": 0.015
"claude-3-sonnet": 0.003
"claude-3-opus": 0.015
constraints:
max-cost-per-request: 0.10
Lợi Ích Khi Sử Dụng 9Router Với OpenClaw
1. Giảm chi phí đáng kể
- Sử dụng GPT-4o mini cho các tác vụ đơn giản
- Chuyển sang Claude cho phân tích văn bản phức tạp
- Sử dụng Gemini cho các tác vụ đa phương tiện
2. Tăng độ tin cậy
- Nếu OpenAI gặp sự cố, tự động chuyển sang Anthropic
- Có dự phòng khi một nhà cung cấp đạt giới hạn rate limit
3. Quản lý tập trung
- Một điểm cấu hình cho tất cả nhà cung cấp
- Dễ dàng điều chỉnh chiến lược định tuyến
4. Tối ưu hiệu suất
- Chọn mô hình phù hợp với từng loại tác vụ
- Giảm thời gian chờ nhờ sử dụng mô hình nhanh hơn khi có thể
Khắc Phục Sự Cố Thường Gặp
1. Không thể kết nối tới 9Router
- Dấu hiệu: Lỗi “connection refused”
- Giải pháp:
- Kiểm tra 9Router đang chạy tại
http://localhost:20128 - Xác nhận cổng 20128 không bị chiếm dụng
- Kiểm tra 9Router đang chạy tại
2. Mô hình không được nhận diện
- Dấu hiệu: Mô hình không hiện trong
openclaw models list - Giải pháp:
- Kiểm tra lại cấu hình baseURL
- Xác nhận mô hình đã được thêm trong 9Router dashboard
3. Lỗi xác thực
- Dấu hiệu: Lỗi 401 Unauthorized
- Giải pháp:
- Thêm hoặc kiểm tra lại apiKey trong cấu hình
- Xác nhận API key trong 9Router đúng
Kết Luận
Việc tích hợp 9Router với OpenClaw giúp bạn tận dụng tối đa các nhà cung cấp AI hiện có, giảm chi phí vận hành và tăng độ tin cậy cho hệ thống. Với chiến lược xoay vòng mô hình phù hợp, bạn có thể tối ưu hóa hiệu suất và chi phí cho từng loại tác vụ cụ thể.
Hãy bắt đầu với cấu hình đơn giản (round-robin) và dần dần tối ưu hóa theo nhu cầu sử dụng thực tế.
