Về chúng tôi

1. Chúng tôi xây dựng gì

InOneAPI là nền tảng tổng hợp API mô hình AI và định tuyến thông minh, được xây dựng cho môi trường sản phẩm. Chúng tôi đưa các mô hình văn bản, hình ảnh, video và âm thanh của những nhà cung cấp mô hình hàng đầu Trung Quốc phía sau một API duy nhất tương thích với SDK của OpenAI và Anthropic, để ứng dụng của bạn chọn nhà cung cấp theo ưu tiên nghiệp vụ thay vì phải duy trì một lượt tích hợp, một khóa và một quy trình đối soát riêng cho từng nhà cung cấp.

Chúng tôi chỉ kết nối với các nhà cung cấp mô hình thuộc nhóm hàng đầu Trung Quốc. Chúng tôi không thêm những kênh giá rẻ mà không thể xác minh được nguồn gốc và chất lượng.

InOneAPI không phát triển mô hình lớn và không phải là bên trực tiếp cung cấp suy luận mô hình. Các yêu cầu bạn gửi được hoàn tất bởi kênh nhà cung cấp bạn chọn, hoặc kênh do bộ định tuyến chọn. Chính sách lưu trữ, quy tắc kiểm duyệt nội dung và mức tuân thủ khu vực của một nhà cung cấp làm theo điều khoản riêng của họ.

2. Chúng tôi tập trung vào điều gì

Độ tin cậy

Khi có thể, cùng một mô hình được cung cấp qua nhiều hơn một nhà cung cấp. Gateway theo dõi các thay đổi về độ trễ, thông lượng và tỷ lệ lỗi, điều chỉnh đường đi giữa các kênh khả dụng của cùng một mô hình, và chuyển kênh khi có sự cố, nhờ đó giảm tác động của việc phụ thuộc vào một nhà cung cấp duy nhất. Chúng tôi không đưa ra cam kết vô điều kiện về tính sẵn dụng: định tuyến và chuyển đổi dự phòng làm giảm nguy cơ gián đoạn, và không thay thế cho việc xử lý thử lại và suy giảm dịch vụ trong ứng dụng của bạn.

Chi phí

Định tuyến ưu tiên giá chọn nhà cung cấp khả dụng có đơn giá thấp nhất cho cùng một mô hình. Các chế độ ưu tiên tốc độ và cân bằng sẵn dùng khi ưu tiên của bạn khác đi. Mỗi yêu cầu được tính theo giá của nhà cung cấp thực tế đã phục vụ nó, theo đúng giá nhà cung cấp và không cộng thêm. Mô hình, mức dùng token và chi phí từng yêu cầu đều xem được trong bảng điều khiển.

Quyền riêng tư

Không ghi log nội dung là phương thức vận hành tiêu chuẩn của nền tảng, không phải một tùy chọn. Prompt và phản hồi của mô hình chỉ được chuyển tiếp, stream và đếm trong bộ nhớ, và không bao giờ được ghi vào cơ sở dữ liệu. Siêu dữ liệu của yêu cầu dùng cho việc tính phí và chẩn đoán được tách khỏi nội dung và không bao giờ chứa văn bản prompt hay văn bản phản hồi.

3. Năng lực của nền tảng

  • Định tuyến thông minh: các chế độ ưu tiên giá, ưu tiên tốc độ và cân bằng, chọn đường đi dựa trên giá, thời gian tới token đầu tiên, thông lượng, tỷ lệ lỗi và tính sẵn dụng.
  • Hiệu năng gateway: một gateway viết bằng Rust giữ các pool kết nối HTTP/2 Keep-Alive bền vững tới các nhà cung cấp upstream nhằm cải thiện thời gian tới token đầu tiên.
  • Trace LLMOps tích hợp: X-Gateway-Trace-ID ở cấp độ từng yêu cầu, kèm thời điểm, số lần thử lại, mức dùng token và thông tin chẩn đoán đầu vào/đầu ra.
  • Kiểm soát lưu lượng bất thường: phát hiện agent mất kiểm soát, bão thử lại và khóa bị rò rỉ, kết hợp chủ động ngắt mạch và cảnh báo qua WeChat hoặc email tới quản trị viên.
  • Tính phí minh bạch: tính token cục bộ theo đúng thuật toán chính thức của nhà cung cấp, tính phí theo từng yêu cầu và đối chiếu được từng dòng.
  • Quản trị theo nhóm: ranh giới truy cập theo workspace, dự án, thành viên và khóa con, kèm hạn mức ngân sách và danh sách mô hình được phép.
  • Playground: kiểm chứng hành vi và tham số của mô hình trong các trang Playground và trải nghiệm mô hình trước khi bạn viết mã production.

4. Tài khoản và thanh toán

Mỗi tài khoản được gán một loại tiền bất biến và một ví tương ứng khi đăng ký (USD, nạp qua Stripe), và việc thay đổi ngôn ngữ giao diện không bao giờ làm thay đổi điều đó. Giá và hóa đơn không bị quy đổi hồi tố: mỗi mô hình mang một đơn giá USD và một đơn giá CNY độc lập.

5. Chúng tôi phục vụ ai

  • Các nhà phát triển ứng dụng AI và agent cần các mô hình Trung Quốc qua một lượt tích hợp thay vì nhiều lượt.
  • Các đội kỹ thuật và nền tảng cần phân phối khóa, kiểm soát ngân sách và phạm vi mô hình giữa các thành viên và dự án.
  • Các doanh nghiệp cần hồ sơ chi phí có thể đối chứng và không lưu trữ nội dung.

6. Nên xem gì tiếp theo

Về chúng tôi · InOneAPI