SillyTavern OpenAI-compatible API: stap-voor-stap handleiding

Voordat je begint

Je hebt drie dingen nodig: een draaiende SillyTavern-installatie, een API-sleutel en de endpoint-details. Voor de sleutel, registreer je op de API-sleutelpagina met Google of e-mail, en claim je daarna met één klik het $0,50 aan proeftegoed. Er is geen betaalmethode nodig en het is 7 dagen geldig. Volledige top-ups worden betaald in crypto (USDT op TRC20 of USDC op Base), vanaf $20.

De waarden die je gaat plakken:

Veld	Waarde
Basis-URL	https://api.nsfwaiapi.com/v1
Model-ID	uncensored
Auth	Bearer-sleutel verzonden als API-sleutel

Voeg /chat/completions niet toe aan de basis-URL. SillyTavern voegt het pad zelf toe.

Het model is afgestemd op antwoorden zonder inhoudelijke weigeringen voor wettelijk volwassen gebruik. Seksuele inhoud met minderjarigen is nooit toegestaan, dus houd je personagebeschrijvingen bij volwassenen.

Test de sleutel buiten de app

Een test van twee minuten bespaart veel raden. Als curl werkt, komt elke latere fout door een SillyTavern-instelling, niet door je sleutel.

Copycurl https://api.nsfwaiapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Een JSON-lijst met uncensored betekent dat de sleutel en URL kloppen. Probeer dan een echte voltooiing:

Copycurl https://api.nsfwaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi in five words."}]}'

Een antwoord met een choices-array bevestigt dat generatie werkt. De X-Balance-USD antwoordkop toont je resterende tegoed. Meer endpoint-details vind je in de documentatie.

Verbind SillyTavern stap voor stap

1. Open het stekkerpictogram (API-verbindingen) in de bovenbalk.
2. Stel het API-type in op Chat Completion.
3. Kies in het dropdownmenu voor bronnen Aangepst (OpenAI-compatible).
4. Plak in het veld voor het aangepaste endpoint https://api.nsfwaiapi.com/v1.
5. Plak je sleutel in het API-sleutelveld en sla het op.
6. Typ in het model-ID-veld uncensored. Als de app na het verbinden een modellenlijst toont, kies dan dezelfde naam.
7. Druk op Connect. Een groene statusregel betekent dat de app het endpoint heeft bereikt.

Menu-etiketten verschillen iets tussen SillyTavern-releases. Als een veld een andere naam heeft, zoek dan naar die met de endpoint-URL. Het principe is in elke versie hetzelfde: de app stuurt standaard OpenAI-verzoeken naar de URL die je invoert.

Contextgrootte en responslengte

Dit model heeft een contextvenster van 100.000 tokens, gedeeld door de prompt en het antwoord. SillyTavern stuurt je personage-definitie, werkinformatie, chatgeschiedenis en systeemprompt bij elke beurt, en jij bepaalt hoeveel geschiedenis je meeneemt met de context-size slider.

Groter is niet automatisch beter. Invoer wordt gefactureerd tegen $0,15 per 1M tokens. Een verzoek dat 32.000 tokens context vult kost 32.000 / 1.000.000 x $0,15 = $0,0048 vóór het antwoord. Bij 100.000 tokens is dat $0,015 per verzoek. Over een avond met 200 berichten is dit echt geld ten opzichte van een saldo van $20: 200 x $0,0048 = $0,96 versus 200 x $0,015 = $3,00 alleen aan invoer, ervan uitgaande dat de context vanaf het eerste bericht vol is, wat voor een nieuwe chat iets overdreven is.

Een praktisch startpunt is 16.000 tot 32.000 tokens context en een responslengte van 300 tot 500 tokens. Verhoog de context alleen als het personage dingen vergeet die belangrijk zijn. De roleplay-modelgids gaat in op hoe lange contexten scènes beïnvloeden.

Sampler-instellingen om te proberen

Met de chat completion source stuurt SillyTavern de sampler-waarden die de API accepteert. Deze service doorgeeft temperature, top_p, stop, seed en de frequency en presence penalties.

• Temperatuur: 0,85 tot 1,0 voor creatieve scènes, 0,6 tot 0,7 als het personage afdwaalt.
• Top P: 0,9 tot 0,95.
• Frequency en presence penalty: 0,2 tot 0,5 om herhalende zinsdelen in lange chats te vermijden.
• Streaming: zet het aan. Antwoorden verschijnen woord voor woord en voelen sneller aan. Een gestreamd verzoek houdt een concurrency slot vast tot de stream eindigt, wat alleen relevant is als je meerdere chats tegelijk draait.

Instellingen die bij andere backends horen, zoals top_k, min_p of repetition penalty van lokale engines, mogen worden genegeerd. Als een slider geen zichtbaar effect heeft, besteed er dan geen tijd aan.

Veelvoorkomende fouten oplossen

401 of een authenticatiefout

De sleutel is geplakt met een spatie of een verkeerde waarde. Plak hem opnieuw en druk op Opslaan vóór Connect.

404 of een modelfout

Controleer of de basis-URL eindigt op /v1 en het model-ID exact uncensored is, in kleine letters.

429 met code rate_limited of concurrency

Een volledige sleutel staat 300 verzoeken per minuut en 8 tegelijk toe; een proefsleutel staat 60 per minuut en 2 tegelijk toe. Als je meerdere tabbladen hebt of een groepschat die samen genereert, kun je de limiet voor gelijktijdige verzoeken raken. Wacht even en probeer het opnieuw. Een 429 met een Retry-After: 5-header betekent tijdelijke overbelasting, dus vijf seconden wachten is de juiste zet.

Antwoord afgebroken in de zin

Verhoog de responslengte in SillyTavern. De API zelf laat een completion de rest van het venster gebruiken.

Saldo raakt op

Mislukte of geweigerde verzoeken worden niet gefactureerd, maar geslaagde wel. Controleer prijzen voor top-up-bedragen en bonussen.

Prompts, presets en groepschats

De modus Chat Completion bouwt elk verzoek uit een lijst met promptblokken: main prompt, personagebeschrijving, scenario, voorbeeldgesprek, world info en chatgeschiedenis. Je kunt ze herschikken of uitzetten in het promptbeheer. Twee gewoontes betalen zich uit.

• Houd de hoofdprompt kort. Een paar regels over stem, lengte en de regel dat het model nooit de lijnen van de gebruiker schrijft. Lange, herhalende instructies gebruiken invoertokens bij elke beurt.
• Knip voorbeelddialogen bij. Het model kopieert de lengte en stijl die het ziet. Twee korte voorbeelden zijn beter dan zes lange.

Groepschats sturen één verzoek per sprekend personage. Met een proefsleutel die beperkt is tot 2 gelijktijdige verzoeken, kan een groep van vier die parallel genereert een concurrency 429 triggeren. Stel de groep in om één antwoord tegelijk te genereren, of ga over naar een volledige sleutel met 8 concurrency slots.

Als je van personage wisselt, onthoud dan dat de chatgeschiedenis elke keer opnieuw wordt verzonden. Een nieuwe chat begint met een kleine context en een kleine rekening, dus open een nieuwe chat voor een nieuwe scène in plaats van een geschiedenis van 60.000 tokens mee te slepen.

Wat een sessie kost

Neem een avond met 100 berichten. Stel dat het gemiddelde verzoek 12.000 tokens invoer bevat en 350 tokens retourneert. Invoer: 100 x 12.000 = 1.200.000 tokens, wat 1,2 x $0,15 = $0,18 is. Uitvoer: 100 x 350 = 35.000 tokens, wat 0,035 x $0,50 = $0,0175 is. Het totaal is ongeveer $0,20 voor de hele avond.

Tegoed verloopt nooit en er is geen abonnement, dus een top-up van $20 dekt ongeveer 100 avonden tegen dat tarief. Bonussen gelden bij hogere top-ups: +5% vanaf $50, +10% vanaf $100, +15% vanaf $200. De bedragen bewegen met je contextgrootte, de belangrijkste schakelaar die je kunt bedienen.

Meer handleidingen

• NSFW LLM System Prompt: Structuur en Voorbeelden
• Beste lokale LLM voor rollenspel, of een gehoste API?