API ที่เข้ากันได้กับ OpenAI ของ SillyTavern: การตั้งค่าทีละขั้นตอน

ก่อนเริ่ม

คุณต้องมีสามสิ่ง: การติดตั้ง SillyTavern ที่ทำงานอยู่ คีย์ API และรายละเอียดเอนด์พอยต์ สำหรับคีย์ ให้สมัครที่ หน้าคีย์ API ด้วย Google หรืออีเมล แล้วขอเครดิตทดลองใช้ $0.50 ด้วยคลิกเดียว ไม่ต้องใช้วิธีการชำระเงิน และใช้งานได้ 7 วัน การเติมเงินเต็มจำนวนชำระด้วยคริปโต (USDT บน TRC20 หรือ USDC บน Base) เริ่มต้นที่ $20

ค่าที่จะวาง:

ฟิลด์	ค่า
URL พื้นฐาน	https://api.nsfwaiapi.com/v1
ID โมเดล	uncensored
การตรวจสอบสิทธิ์	คีย์ Bearer ที่ส่งเป็นคีย์ API

อย่าเพิ่ม /chat/completions ใน URL พื้นฐาน เพราะ SillyTavern จะเพิ่มพาธนี้ให้เอง

โมเดลนี้ปรับแต่งมาให้ตอบโดยไม่ปฏิเสธเนื้อหาสำหรับผู้ใช้ผู้ใหญ่ที่ถูกต้องตามกฎหมาย เนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์จะไม่อนุญาตเด็ดขาด ดังนั้นควรกำหนดนิยามตัวละครให้เป็นผู้ใหญ่

ตรวจสอบคีย์นอกแอป

การทดสอบสองนาทีช่วยประหยัดการคาดเดาจำนวนมาก หาก curl ทำงานได้ ความล้มเหลวในภายหลังคือการตั้งค่าของ SillyTavern ไม่ใช่คีย์ของคุณ

Copycurl https://api.nsfwaiapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

รายการ JSON ที่มี uncensored หมายความว่าคีย์และ URL ถูกต้อง จากนั้นลองส่งคำขอ completion จริง:

Copycurl https://api.nsfwaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi in five words."}]}'

การตอบกลับที่มีอาร์เรย์ choices ยืนยันว่าการสร้างทำงานได้ หัวข้อตอบกลับ X-Balance-USD แสดงเครดิตคงเหลือของคุณ รายละเอียดเพิ่มเติมของ endpoint มีอยู่ใน เอกสาร

เชื่อมต่อ SillyTavern ทีละขั้นตอน

1. เปิดไอคอนปลั๊ก (API Connections) ในแถบด้านบน
2. ตั้งค่าประเภท API เป็น Chat Completion
3. ในเมนูแบบเลื่อนลงของแหล่งที่มา ให้เลือก กำหนดเอง (OpenAI-compatible)
4. ในช่อง endpoint แบบกำหนดเอง ให้วาง https://api.nsfwaiapi.com/v1
5. วางคีย์ของคุณลงในช่องคีย์ API และบันทึก
6. ในช่อง model ID ให้พิมพ์ uncensored หากแอปแสดงรายการโมเดลหลังจากเชื่อมต่อ ให้เลือกชื่อเดียวกัน
7. กด Connect แถบสถานะสีเขียวหมายถึงแอปเข้าถึง endpoint ได้แล้ว

ป้ายเมนูเปลี่ยนไปเล็กน้อยระหว่างเวอร์ชันของ SillyTavern ดังนั้นหากช่องมีชื่ออื่น ให้มองหาช่องที่เก็บ URL ของ endpoint แนวคิดเดียวกันในทุกเวอร์ชัน: แอปส่งคำขอรูปแบบ OpenAI มาตรฐานไปยัง URL ที่คุณระบุ

ขนาดหน้าต่างบริบทและความยาวของคำตอบ

โมเดลนี้มีหน้าต่างบริบทขนาด 100,000 โทเคน ซึ่งแชร์โดยพรอมต์และการตอบกลับ SillyTavern จะส่งนิยามตัวละคร ข้อมูลโลก ประวัติการสนทนา และพรอมต์ระบบในแต่ละเทิร์น และคุณตัดสินใจว่าจะรวมประวัติมากน้อยเพียงใดผ่านตัวเลื่อนขนาดบริบท

ขนาดที่ใหญ่กว่าไม่ได้ดีกว่าเสมอไป อินพุตคิดเงินที่ $0.15 ต่อ 1M โทเคน ดังนั้นคำขอที่เติม 32,000 โทเคนในหน้าต่างบริบทจะมีค่าใช้จ่าย 32,000 / 1,000,000 x $0.15 = $0.0048 ก่อนตอบกลับ ที่ 100,000 โทเคนคือ $0.015 ต่อคำขอ ในช่วงเย็นที่มี 200 ข้อความ ความแตกต่างนี้คือเงินจริงเมื่อเทียบกับยอดคงเหลือ $20: 200 x $0.0048 = $0.96 เทียบกับ 200 x $0.015 = $3.00 ในอินพุตเพียงอย่างเดียว โดยสมมติว่าหน้าต่างบริบทเต็มตั้งแต่ข้อความแรก ซึ่งเกินจริงสำหรับการแชทใหม่

จุดเริ่มต้นที่ใช้งานได้คือหน้าต่างบริบทขนาด 16,000 ถึง 32,000 โทเคน และความยาวการตอบกลับ 300 ถึง 500 โทเคน เพิ่มขนาดบริบทเฉพาะเมื่อตัวละครลืมสิ่งที่สำคัญ คู่มือโมเดลสำหรับการเล่นบทบาท อธิบายว่าบริบทที่ยาวส่งผลต่อฉากอย่างไร

การตั้งค่า Sampler ที่ควรลอง

เมื่อใช้แหล่งที่มาของการสนทนาแบบเสร็จสิ้น (chat completion) SillyTavern จะส่งค่า sampler ที่ API ยอมรับ บริการนี้จะส่งผ่านค่า temperature, top_p, stop, seed และค่าปรับความถี่และการปรากฏ

• Temperature: 0.85 ถึง 1.0 สำหรับฉากสร้างสรรค์, 0.6 ถึง 0.7 หากตัวละครเบี่ยงเบน
• Top P: 0.9 ถึง 0.95
• ค่าปรับความถี่และการปรากฏ: 0.2 ถึง 0.5 เพื่อตัดคำซ้ำในการแชทยาว
• การสตรีม: เปิดใช้งาน การตอบกลับจะปรากฏคำต่อคำและรู้สึกเร็วขึ้น คำขอแบบสตรีมจะครอบครองช่องว่างความพร้อมใช้งานจนกว่าสตรีมจะสิ้นสุด ซึ่งสำคัญเฉพาะเมื่อคุณรันแชทหลายรายการพร้อมกัน

การตั้งค่าที่อยู่กับแบ็กเอนด์อื่น เช่น top_k, min_p หรือค่าปรับการซ้ำจากเอนจินท้องถิ่น อาจถูกเพิกเฉย หากแถบเลื่อนไม่แสดงผลชัดเจน อย่าเสียเวลากับมัน

การแก้ไขข้อผิดพลาดทั่วไป

401 หรือการตรวจสอบสิทธิ์ล้มเหลว

คีย์ที่วางมาอาจมีช่องว่างหรือค่าผิด วางคีย์อีกครั้งแล้วกดบันทึกก่อนกดเชื่อมต่อ

404 หรือข้อผิดพลาดของโมเดล

ตรวจสอบว่า URL ฐานลงท้ายด้วย /v1 และรหัสโมเดลคือ uncensored ตัวพิมพ์เล็กทั้งหมด

429 พร้อม code rate_limited หรือ concurrency

คีย์แบบเต็มอนุญาตให้ทำคำขอได้ 300 คำขอต่อนาทีและ 8 คำขอพร้อมกัน; คีย์แบบทดลองอนุญาตให้ทำคำขอได้ 60 คำขอต่อนาทีและ 2 คำขอพร้อมกัน หากคุณเปิดหลายแท็บหรือใช้กลุ่มแชทที่สร้างข้อความพร้อมกัน คุณอาจชนขีดจำกัดความพร้อมใช้งาน (concurrency cap) ให้รอสักครู่แล้วลองใหม่ คำตอบ 429 พร้อม header Retry-After: 5 หมายถึงการโอเวอร์โหลดชั่วคราว การรอห้าวินาทีจึงเป็นวิธีที่ถูกต้อง

การตอบถูกตัดกลางประโยค

เพิ่มความยาวของคำตอบใน SillyTavern API เองอนุญาตให้ completion ใช้พื้นที่ที่เหลือของหน้าต่างบริบท

ยอดเงินหมด

คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน แต่คำขอที่สำเร็จจะถูกเรียกเก็บเงิน ตรวจสอบ ราคา เพื่อดูจำนวนเงินสำหรับเติมเงินและโบนัส

พรอมต์, พรีเซ็ต และกลุ่มแชท

โหมด Chat Completion สร้างแต่ละคำขอจากบล็อกพรอมต์: พรอมต์หลัก, คำอธิบายตัวละคร, สถานการณ์, ตัวอย่างบทสนทนา, ข้อมูลโลก และประวัติแชท คุณสามารถจัดลำดับหรือปิดการใช้งานในตัวจัดการพรอมต์ได้ สองนิสัยนี้จะคุ้มค่า

• ทำให้พรอมต์หลักสั้น เขียนสั้นๆ เกี่ยวกับน้ำเสียง ความยาว และกฎที่โมเดลจะไม่เขียนบรรทัดของผู้ใช้ คำสั่งที่ยาวและซ้ำกันใช้โทเคนอินพุตในทุกเทิร์น
• ตัดทอนตัวอย่างบทสนทนา โมเดลจะคัดลอกความยาวและสไตล์ที่มันเห็น ตัวอย่างสั้นสองตัวอย่างชนะตัวอย่างยาวหกอัน

กลุ่มแชทส่งคำขอหนึ่งคำขอต่อตัวละครที่กำลังพูด ด้วยคีย์แบบทดลองที่จำกัดไว้ที่ 2 คำขอพร้อมกัน กลุ่มสี่คนที่สร้างข้อความพร้อมกันอาจทำให้เกิดข้อผิดพลาด concurrency 429 ตั้งค่ากลุ่มให้สร้างคำตอบทีละรายการ หรือเปลี่ยนไปใช้คีย์แบบเต็มที่มีช่องว่างสำหรับคำขอพร้อมกันได้ 8 ช่อง

เมื่อคุณสลับตัวละคร โปรดจำไว้ว่าประวัติแชทจะถูกส่งใหม่ทุกครั้ง การเริ่มแชทใหม่จะมีหน้าต่างบริบทขนาดเล็กและบิลค่าใช้จ่ายขนาดเล็ก ดังนั้นให้เปิดแชทใหม่สำหรับฉากใหม่แทนที่จะลากประวัติ 60,000 โทเคนไปพร้อมกับแชท

เซสชันมีค่าใช้จ่ายเท่าไร

ลองจินตนาการถึงเย็นหนึ่งที่มี 100 ข้อความ สมมติว่าคำขอเฉลี่ยมีอินพุต 12,000 โทเคน และส่งคืน 350 โทเคน อินพุต: 100 x 12,000 = 1,200,000 โทเคน ซึ่งคือ 1.2 x $0.15 = $0.18 เอาต์พุต: 100 x 350 = 35,000 โทเคน ซึ่งคือ 0.035 x $0.50 = $0.0175 รวมแล้วประมาณ $0.20 สำหรับเย็นนั้น

เครดิตไม่หมดอายุและไม่มีสมาชิกภาพ ดังนั้นการเติมเงิน $20 ครอบคลุมเย็นประมาณ 100 คืนในอัตรานี้ โบนัสใช้กับการเติมเงินขนาดใหญ่: +5% จาก $50, +10% จาก $100, +15% จาก $200 ตัวเลขเหล่านี้เปลี่ยนแปลงตามขนาดบริบทของคุณ ซึ่งเป็นตัวควบคุมหลักที่คุณควบคุมได้

คู่มือเพิ่มเติม

• พรอมต์ระบบ LLM NSFW: โครงสร้างและตัวอย่าง
• LLM ในเครื่องที่ดีที่สุดสำหรับการเล่นบทบาท หรือ API แบบโฮสต์?