เอกสารคีย์ API ของ Gemma

การตรวจสอบสิทธิ์และ Base URL

ใช้คีย์ API เฉพาะของคุณเพื่อตรวจสอบสิทธิ์ทุกการร้องขอ Base URL คือ HTTPS://api.gemmaapikey.com/v1 และคุณส่งคีย์ใน header Authorization วิธีนี้ใช้งานได้กับไคลเอนต์ใดๆ ที่เข้ากันได้กับ OpenAI โดยการเปลี่ยน base_url และคีย์ API หากคุณทำหาย ให้สร้างคีย์ใหม่จากแดชบอร์ด คีย์เก่าจะหยุดทำงานทันที ข้อผิดพลาดและการปฏิเสธไม่ใช้เครดิต prepaid ของคุณ

คำขอครั้งแรก

ส่งคำขอ POST ไปยัง /v1/chat/completions พร้อม id โมเดล "uncensored" รวมคำสั่งระบบและข้อความผู้ใช้ในอาร์เรย์ messages โมเดลจะตอบสนองด้วยข้อความที่สร้างโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องกฎหมาย

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.gemmaapikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ตั้งค่า temperature และ top_p เพื่อควบคุมความสุ่ม ใช้ลำดับ stop เพื่อหยุดการสร้างก่อนเวลา การตอบกลับรวมถึงการใช้โทเค็นในชิ้นสุดท้ายหากเปิดใช้งานสตรีม

การผสานรวม Node SDK

ติดตั้ง SDK ทางการของ OpenAI สำหรับ Node.js กำหนดค่าด้วยคีย์ API และ URL พื้นฐานจากคู่มือนี้ เรียกใช้เมธอด chat.completions.create พร้อมพรอมต์ของคุณ

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.gemmaapikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

แนวทางนี้ทำให้ค่าใช้จ่ายคาดเดาได้เพราะคุณจ่ายเฉพาะสำหรับโทเค็นที่ใช้ เครดิตที่ชำระล่วงหน้าจะถูกหักตามการใช้งานจริง ไม่มีค่าธรรมเนียมรายเดือน คุณสามารถเติมเงินด้วยคริปโทเคอร์เรนซีได้ตลอดเวลา

การตอบกลับแบบสตรีมมิ่ง

เปิดใช้งานการสตรีมโดยตั้งค่า stream เป็น true ใน request ของคุณ API จะส่ง chunk ของ Server-Sent Events (SSE) แต่ละ chunk จะมีข้อความบางส่วนจนกว่า chunk สุดท้ายจะมีข้อมูลการใช้โทเค็น

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

การสตรีมลดการรับรู้ความล่าช้าสำหรับคำตอบยาว นอกจากนี้ยังช่วยให้คุณแสดงความคืบหน้าให้ผู้ใช้เห็นแบบเรียลไทม์ หน้าต่างบริบทรองรับ 100,000 โทเค็นสำหรับคำขอและการตอบกลับรวมกัน

อัตราจำกัดและบริบท

คุณจำกัดการใช้งานที่ 300 คำขอต่อนาทีต่อคีย์ มีคำขอที่ทำงานพร้อมกันได้เพียง 8 คำขอ ขนาด body ของคำขอต้องไม่เกิน 8 MB ข้อจำกัดเหล่านี้ช่วยให้การทำงานเสถียรสำหรับผู้ใช้ทุกคน

โมเดลรองรับการเรียกใช้ฟังก์ชัน โหมด JSON และพารามิเตอร์มาตรฐานเช่น seed และ presence_penalty จำนวนโทเค็นสูงสุดต่อคำขอคือ 16,000 โทเค็น หากคุณไม่ได้ตั้งค่า max_tokens ค่าเริ่มต้นจะอยู่ที่ 2,048

ข้อผิดพลาดและการแก้ไขปัญหา

รหัสข้อผิดพลาด 401 หมายถึงคีย์ API ของคุณไม่ถูกต้องหรือหมดอายุ ให้ตรวจสอบแดชบอร์ดเพื่อหาคีย์ที่ใช้งานอยู่ รหัสข้อผิดพลาด 402 หมายถึงยอดเงินล่วงหน้าไม่เพียงพอ ให้เติมเงินผ่านคริปโตเพื่อใช้งานต่อ รหัสข้อผิดพลาด 429 หมายถึงคุณได้เกินขีดจำกัดอัตราการใช้งาน ให้รอสักครู่แล้วลองใหม่

ข้อผิดพลาดไม่ใช้เครดิตของคุณ หากมีการเรียกเก็บเงินซ้ำ ให้ใช้หน้าการสนับสนุนเพื่อแก้ไข เครดิตของคุณไม่มีวันหมดอายุ ดังนั้นคุณสามารถเติมเงินเพิ่มได้ในภายหลัง

cURL

Copycurl https://api.gemmaapikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current system status"}]
  }'