SillyTavern OpenAI संगत API: चरण-दर-चरण सेटअप

शुरू करने से पहले

आपको तीन चीज़ों की ज़रूरत है: चलता हुआ SillyTavern इंस्टॉल, एक API कुंजी, और एंडपॉइंट विवरण। कुंजी के लिए, Google या ईमेल से API कुंजी पेज पर साइन अप करें, फिर एक क्लिक से $0.50 का ट्रायल क्रेडिट क्लेम करें। इसके लिए पेमेंट विधि की ज़रूरत नहीं है और यह 7 दिनों तक चलता है। पूर्ण टॉप-अप क्रिप्टो (TRC20 पर USDT या Base पर USDC) से भुगतान किए जाते हैं, जो $20 से शुरू होते हैं।

आपको पेस्ट करने वाले मान:

फ़ील्ड	मान
बेस URL	https://api.nsfwaiapi.com/v1
मॉडल ID	uncensored
Auth	Bearer कुंजी API कुंजी के रूप में भेजी जाती है

बेस URL में /chat/completions न जोड़ें। SillyTavern ऐप स्वयं पथ जोड़ देता है।

मॉडल को कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून किया गया है। नाबालिगों से संबंधित यौन सामग्री की अनुमति कभी नहीं है, इसलिए अपनी किरदार परिभाषाओं को वयस्कों तक सीमित रखें।

ऐप के बाहर कुंजी की जाँच करें

दो मिनट का टेस्ट अनुमान लगाने की बहुत सी गुंजाइश बचाता है। अगर curl काम करता है, तो बाद की कोई भी विफलता SillyTavern की सेटिंग है, आपकी कुंजी नहीं।

Copycurl https://api.nsfwaiapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

एक JSON सूची जिसमें uncensored शामिल है, इसका मतलब है कि कुंजी और URL सही हैं। फिर एक वास्तविक चैट पूर्णता का प्रयास करें:

Copycurl https://api.nsfwaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi in five words."}]}'

एक choices सरणी के साथ एक प्रतिक्रिया पुष्टि करती है कि जनरेशन काम कर रहा है। X-Balance-USD प्रतिक्रिया हेडर आपके शेष क्रेडिट दिखाता है। अधिक एंडपॉइंट विवरण दस्तावेज़ीकरण में है।

SillyTavern को चरण दर चरण कनेक्ट करें

1. शीर्ष बार में प्लग आइकन (API कनेक्शन) खोलें।
2. API प्रकार को चैट पूर्णता पर सेट करें।
3. स्रोत ड्रॉपडाउन में, कस्टम (OpenAI-संगत) चुनें।
4. कस्टम एंडपॉइंट फ़ील्ड में https://api.nsfwaiapi.com/v1 पेस्ट करें।
5. अपनी कुंजी API कुंजी फ़ील्ड में पेस्ट करें और इसे सेव करें।
6. मॉडल ID फ़ील्ड में, uncensored टाइप करें। यदि ऐप कनेक्ट करने के बाद मॉडल सूची प्रदान करता है, तो उसी नाम का चयन करें।
7. कनेक्ट दबाएं। एक हरा स्टेटस लाइन दर्शाता है कि ऐप एंडपॉइंट तक पहुँच गया है।

मेनू लेबल्स SillyTavern रिलीज़ के बीच थोड़े बदल जाते हैं, इसलिए अगर किसी फ़ील्ड का नाम अलग है, तो उस एंडपॉइंट URL को रखने वाले फ़ील्ड को ढूंढें। हर वर्जन में विचार वही है: ऐप आपके द्वारा दिए गए URL पर स्टैंडर्ड OpenAI-फ़ॉर्मेट अनुरोध भेजता है।

संदर्भ आकार और प्रतिक्रिया की लंबाई

इस मॉडल की 100,000-टोकन कॉन्टेक्स्ट विंडो है, जो प्रॉम्प्ट और प्रतिक्रिया दोनों के लिए साझा है। SillyTavern हर टर्न पर आपका कैरेक्टर डिफ़िनिशन, वर्ल्ड इन्फो, चैट इतिहास और सिस्टम प्रॉम्प्ट भेजता है, और आप कॉन्टेक्स्ट साइज़ स्लाइडर से यह तय करते हैं कि इतिहास की कितनी मात्रा शामिल करनी है।

बड़ा होना स्वचालित रूप से बेहतर नहीं है। इनपुट $0.15 प्रति 1M टोकन के हिसाब से बिल किया जाता है, इसलिए एक अनुरोध जो कॉन्टेक्स्ट के 32,000 टोकन भरता है, उसकी लागत प्रतिक्रिया से पहले 32,000 / 1,000,000 x $0.15 = $0.0048 होती है। 100,000 टोकन पर यह प्रति अनुरोध $0.015 है। 200 संदेशों की शाम में, एक $20 के बैलेंस के सापेक्ष यह अंतर असली पैसा है: 200 x $0.0048 = $0.96 बनाम 200 x $0.015 = $3.00 केवल इनपुट में, यह मानकर कि पहली संदेश से ही कॉन्टेक्स्ट भरा है, जो इसे एक नई चैट के लिए अधिक दिखाता है।

शुरुआत के लिए 16,000 से 32,000 टोकन की संदर्भ विंडो और 300 से 500 टोकन की प्रतिक्रिया लंबाई पर्याप्त है। केवल तभी संदर्भ बढ़ाएं जब पात्र महत्वपूर्ण बातें भूल रहा हो। रोलप्ले मॉडल गाइड में बताया गया है कि लंबे संदर्भ दृश्यों को कैसे प्रभावित करते हैं।

सैम्पलर सेटिंग्स जो आप आज़मा सकते हैं

चैट कंप्लीशन स्रोत के साथ, SillyTavern API द्वारा स्वीकार किए जाने वाले सैम्पलर मान भेजता है। यह सेवा तापमान, top_p, स्टॉप, सीड और फ्रीक्वेंसी व प्रेजेंस पेनल्टीज़ को पास कर देता है।

• Temperature: रचनात्मक दृश्यों के लिए 0.85 से 1.0, यदि किरदार भटकता है तो 0.6 से 0.7।
• Top P: 0.9 से 0.95।
• फ्रीक्वेंसी और प्रेजेंस पेनल्टी: लंबी चैट में दोहराए गए वाक्यांशों को कम करने के लिए 0.2 से 0.5।
• स्ट्रीमिंग: इसे चालू करें। प्रतिक्रियाएँ शब्द-दर-शब्द प्रकट होती हैं और तेज़ लगती हैं। एक स्ट्रीम किए गए अनुरोध में समवर्ती स्लॉट तब तक बंधा रहता है जब तक स्ट्रीम समाप्त नहीं हो जाती, जो तभी मायने रखता है जब आप एक साथ कई चैट चला रहे हों।

स्थानीय इंजनों से आने वाले top_k, min_p या रिपीटिशन पेनल्टी जैसे अन्य बैकएंड सेटिंग्स को अनदेखा किया जा सकता है। यदि कोई स्लाइडर किसी भी प्रभाव का कारण नहीं बनता, तो उस पर समय न बर्बाद करें।

सामान्य त्रुटियों को ठीक करना

401 या प्रमाणीकरण विफलता

कुंजी में स्पेस या गलत मान पेस्ट हो गया है। इसे फिर से पेस्ट करें और कनेक्ट करने से पहले सेव करें।

404 या मॉडल त्रुटि

जांचें कि बेस URL /v1 पर समाप्त होता है और मॉडल ID बिल्कुल uncensored है, छोटे अक्षरों में।

429 कोड rate_limited या concurrency के साथ

एक पूर्ण कुंजी प्रति मिनट 300 अनुरोध और एक साथ 8 अनुमति देती है; एक ट्रायल कुंजी प्रति मिनट 60 और एक साथ 2 अनुमति देती है। यदि आपके पास कई टैब या एक ग्रुप चैट एक साथ जनरेट कर रहा है, तो आप समवर्ती सीमा तक पहुँच सकते हैं। कुछ देर प्रतीक्षा करें और पुनः प्रयास करें। एक 429 त्रुटि Retry-After: 5 हेडर के साथ अस्थायी ओवरलोड को दर्शाती है, इसलिए पाँच सेकंड प्रतीक्षा करना सही कदम है।

प्रतिक्रिया वाक्य के बीच में कट गई

SillyTavern में प्रतिक्रिया लंबाई बढ़ाएं। API स्वयं एक कंप्लीशन को विंडो की शेष क्षमता का उपयोग करने की अनुमति देता है।

बैलेंस खत्म हो जाता है

असफल या अस्वीकृत अनुरोधों का शुल्क नहीं लिया जाता है, लेकिन सफल अनुरोधों का लिया जाता है। टॉप-अप राशि और बोनस के लिए कीमतें देखें।

प्रॉम्प्ट, प्रीसेट और ग्रुप चैट

चैट कंप्लीशन मोड प्रॉम्प्ट ब्लॉक्स की एक सूची से हर अनुरोध बनाता है: मुख्य प्रॉम्प्ट, कैरेक्टर विवरण, परिदृश्य, उदाहरण संवाद, वर्ल्ड इन्फो और चैट इतिहास। आप प्रॉम्प्ट मैनेजर में उन्हें क्रमबद्ध या बंद कर सकते हैं। दो आदतें फायदेमंद साबित होती हैं।

• मुख्य प्रॉम्प्ट को छोटा रखें। आवाज़, लंबाई और उस नियम पर कुछ पंक्तियाँ कि मॉडल कभी भी उपयोगकर्ता की पंक्तियाँ नहीं लिखता है। लंबे, दोहराए गए निर्देश हर बारी पर इनपुट टोकन का उपयोग करते हैं।
• उदाहरण संवाद को कम करें। मॉडल उस लंबाई और शैली की नकल करता है जिसे वह देखता है। दो छोटे उदाहरण छह लंबे उदाहरणों से बेहतर हैं।

ग्रुप चैट बोलने वाले प्रत्येक किरदार के लिए एक अनुरोध भेजते हैं। एक ट्रायल कुंजी जो 2 समवर्ती अनुरोधों तक सीमित है, के साथ चार का एक समूह जो समानांतर में जनरेट कर रहा है, concurrency 429 को ट्रिगर कर सकता है। समूह को एक बार में एक प्रतिक्रिया जनरेट करने के लिए सेट करें, या 8 समवर्ती स्लॉट्स के साथ एक पूर्ण कुंजी पर जाएं।

जब आप किरदार बदलते हैं, तो याद रखें कि चैट इतिहास हर बार पुनः भेजा जाता है। एक नई चैट छोटे संदर्भ और कम बिल के साथ शुरू होती है, इसलिए नए दृश्य के लिए एक नई चैट खोलें, 60,000-टोकन के इतिहास को साथ न खींचें।

एक सत्र की लागत

एक शाम के 100 संदेश लें। मान लें कि औसत अनुरोध 12,000 टोकन इनपुट लेता है और 350 टोकन लौटाता है। इनपुट: 100 x 12,000 = 1,200,000 टोकन, जो 1.2 x $0.15 = $0.18 है। आउटपुट: 100 x 350 = 35,000 टोकन, जो 0.035 x $0.50 = $0.0175 है। कुल मिलाकर पूरे शाम के लिए लगभग $0.20 है।

क्रेडिट कभी समाप्त नहीं होता है और कोई सब्सक्रिप्शन नहीं है, इसलिए $20 का टॉप-अप उस दर से लगभग 100 शामों को कवर करता है। बड़े टॉप-अप पर बोनस लागू होते हैं: $50 से +5%, $100 से +10%, $200 से +15%। ये संख्याएं आपके कॉन्टेक्स्ट साइज के साथ बदलती हैं, जो वह मुख्य लीवर है जिसे आप नियंत्रित कर सकते हैं।

अधिक गाइड

• NSFW LLM सिस्टम प्रॉम्प्ट: संरचना और उदाहरण
• रोलप्लेइंग के लिए सर्वश्रेष्ठ लोकल LLM, या होस्टेड API?