เกี่ยวกับเรา

1. สิ่งที่เราสร้าง

InOneAPI เป็นแพลตฟอร์มรวม API โมเดล AI และเลือกเส้นทางอย่างชาญฉลาดสำหรับงานระดับโปรดักชัน เราวางโมเดลข้อความ ภาพ วิดีโอ และเสียงจากผู้ให้บริการโมเดลชั้นนำของจีนไว้หลัง API เดียวที่เข้ากันได้กับ SDK ของ OpenAI และ Anthropic แอปพลิเคชันของคุณจึงเลือกผู้ให้บริการตามลำดับความสำคัญทางธุรกิจ แทนที่จะต้องดูแลการเชื่อมต่อ คีย์ และกระบวนการกระทบยอดแยกกันสำหรับผู้ให้บริการทุกราย

เราเชื่อมเฉพาะกับผู้ให้บริการโมเดลระดับสูงสุดของจีนเท่านั้น เราไม่เพิ่มช่องทางราคาถูกที่ตรวจสอบแหล่งที่มาและคุณภาพไม่ได้

InOneAPI ไม่ได้พัฒนาโมเดลขนาดใหญ่ และไม่ใช่ตัวจริงที่ให้บริการอนุมานของโมเดล คำขอที่คุณส่งจะถูกดำเนินการโดยช่องทางผู้ให้บริการที่คุณเลือก หรือช่องทางที่ระบบเลือกเส้นทางกำหนด นโยบายการจัดเก็บ กติกาการตรวจสอบเนื้อหา และความสอดคล้องตามภูมิภาคของผู้ให้บริการรายใด เป็นไปตามข้อกำหนดของผู้ให้บริการรายนั้น

2. สิ่งที่เรามุ่งเน้น

ความเสถียร

เมื่อทำได้ โมเดลเดียวกันจะพร้อมใช้งานผ่านผู้ให้บริการมากกว่าหนึ่งราย เกตเวย์ติดตามการเปลี่ยนแปลงของความหน่วง ปริมาณงาน และอัตราความผิดพลาด ปรับเส้นทางระหว่างช่องทางที่ใช้งานได้ของโมเดลเดียวกัน และสลับเมื่อเกิดข้อผิดพลาด ซึ่งช่วยลดผลกระทบของการพึ่งพาผู้ให้บริการรายเดียว เราไม่ให้คำสัญญาเรื่องความพร้อมใช้งานแบบไม่มีเงื่อนไข: การเลือกเส้นทางและการสำรองอัตโนมัติช่วยลดความเสี่ยงจากการหยุดชะงัก และไม่ได้มาแทนการจัดการการลองใหม่และการลดลงของบริการในแอปพลิเคชันของคุณ

ต้นทุน

การเราติ้งที่ให้ความสำคัญกับราคาจะเลือกผู้ให้บริการที่พร้อมใช้งานซึ่งมีราคาต่อหน่วยต่ำที่สุดสำหรับโมเดลเดียวกัน โหมดที่ให้ความสำคัญกับความเร็วและโหมดสมดุลมีไว้เมื่อลำดับความสำคัญของคุณต่างออกไป แต่ละคำขอถูกเรียกเก็บในราคาของผู้ให้บริการที่ให้บริการคำขอนั้นจริง ในราคาของผู้ให้บริการโดยไม่มีการบวกเพิ่ม คุณตรวจสอบโมเดล การใช้โทเคน และค่าใช้จ่ายรายคำขอได้ในคอนโซล

ความเป็นส่วนตัว

การไม่บันทึกเนื้อหาเป็นมาตรฐานการดำเนินงานของแพลตฟอร์ม ไม่ใช่ตัวเลือกที่เปิดปิดได้ พรอมป์และผลตอบกลับของโมเดลถูกส่งต่อ สตรีม และนับในความจำเท่านั้น ไม่เคยถูกเขียนลงฐานข้อมูล ข้อมูลเมตาของคำขอที่ใช้เพื่อการเรียกเก็บเงินและการวินิจฉัยถูกแยกจากเนื้อหา และไม่รวมข้อความพรอมป์หรือข้อความผลตอบกลับ

3. ความสามารถของแพลตฟอร์ม

  • การเลือกเส้นทางอย่างชาญฉลาด: โหมดให้ความสำคัญกับราคา ความเร็ว และสมดุล ซึ่งเลือกเส้นทางตามราคา เวลาจนได้โทเคนแรก ปริมาณงาน อัตราความผิดพลาด และความพร้อมใช้งาน
  • ประสิทธิภาพของเกตเวย์: เกตเวย์ที่เขียนด้วย Rust คงชุดการเชื่อมต่อ HTTP/2 Keep-Alive แบบถาวรไปยังผู้ให้บริการต้นทาง เพื่อปรับปรุงเวลาจนได้โทเคนแรก
  • LLMOps trace ในตัว: X-Gateway-Trace-ID ระดับคำขอ พร้อมข้อมูลจังหวะเวลา การลองใหม่ การใช้โทเคน และการวินิจฉัยนำเข้า/นำออก
  • การควบคุมทราฟฟิกผิดปกติ: ตรวจจับ Agent ที่ควบคุมไม่ได้ คลื่นการลองใหม่ และคีย์ที่รั่วไหล พร้อมตัดวงจรเชิงรุกและส่งการแจ้งเตือนผ่าน WeChat หรืออีเมลถึงผู้ดูแลระบบ
  • การเรียกเก็บเงินที่โปร่งใส: นับโทเคนในระบบของเราตามอัลกอริทึมทางการของผู้ให้บริการ เรียกเก็บเป็นรายคำขอ และกระทบยอดได้ทีละรายการ
  • การกำกับดูแลระดับทีม: ขอบเขตการเข้าถึงตามเวิร์กสเปซ โปรเจกต์ สมาชิก และคีย์ย่อย พร้อมวงเงินงบประมาณและรายการโมเดลที่อนุญาต
  • Playground: ตรวจสอบพฤติกรรมและพารามิเตอร์ของโมเดลในหน้า Playground และหน้าทดลองใช้โมเดล ก่อนที่คุณจะเขียนโค้ดสำหรับงานจริง

4. บัญชีและการเรียกเก็บเงิน

ทุกบัญชีถูกกำหนดสกุลเงินเดียวที่เปลี่ยนแปลงไม่ได้ พร้อมกระเป๋าเงินที่สอดคล้องกันตั้งแต่ตอนสมัครสมาชิก (USD เติมเงินผ่าน Stripe) และการเปลี่ยนภาษาของส่วนติดต่อไม่ทำให้สกุลเงินเปลี่ยน ราคาและใบแจ้งหนี้ไม่ถูกแปลงย้อนหลัง: แต่ละโมเดลมีราคา USD และราคา CNY กำหนดไว้แยกกัน

5. เราให้บริการใคร

  • นักพัฒนาแอปพลิเคชัน AI และ Agent ที่ต้องการโมเดลของจีนผ่านการเชื่อมต่อครั้งเดียว แทนที่จะทำหลายครั้ง
  • ทีมวิศวกรรมและทีมแพลตฟอร์มที่ต้องการแจกจ่ายคีย์ ควบคุมงบประมาณและขอบเขตโมเดลในระดับสมาชิกและโปรเจกต์
  • ธุรกิจที่ต้องการบันทึกค่าใช้จ่ายที่ตรวจสอบย้อนกลับได้ และไม่มีการจัดเก็บเนื้อหา

6. ควรไปต่อที่ใด

เกี่ยวกับเรา · InOneAPI