API compatibile con OpenAI per SillyTavern: configurazione passo dopo passo

Prima di iniziare

Ti servono tre cose: un'installazione di SillyTavern in esecuzione, una chiave API e i dettagli dell'endpoint. Per la chiave, registrati alla pagina delle chiavi API con Google o email, poi ottieni il credito di prova da $0,50 con un clic. Non serve un metodo di pagamento e dura 7 giorni. I ricarichi completi sono pagati in cripto (USDT su TRC20 o USDC su Base), a partire da $20.

I valori che incollerai:

Campo	Valore
URL di base	https://api.nsfwaiapi.com/v1
ID modello	uncensored
Autenticazione	Bearer key inviata come chiave API

Non aggiungere /chat/completions alla base URL. L'app SillyTavern aggiunge il percorso da sola.

Il modello è ottimizzato per rispondere senza rifiuti di contenuto per l'uso adulto lecito. I contenuti sessuali che coinvolgono minorenni non sono mai permessi, quindi mantieni le definizioni dei personaggi per adulti.

Verifica la chiave al di fuori dell'app

Un test di due minuti ti fa risparmiare molte supposizioni. Se curl funziona, ogni successivo errore è un'impostazione di SillyTavern, non della tua chiave.

Copycurl https://api.nsfwaiapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Un elenco JSON che include uncensored significa che la chiave e l'URL sono corretti. Poi prova una vera generazione:

Copycurl https://api.nsfwaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi in five words."}]}'

Una risposta con un array choices conferma che la generazione funziona. L'intestazione di risposta X-Balance-USD mostra il tuo credito residuo. Ulteriori dettagli sull'endpoint sono nella documentazione.

Collega SillyTavern passo dopo passo

1. Apri l'icona della spina (Connessioni API) nella barra in alto.
2. Imposta il tipo di API su Chat Completion.
3. Nel menu a discesa della sorgente, scegli Custom (compatibile con OpenAI).
4. Nel campo dell'endpoint personalizzato, incolla https://api.nsfwaiapi.com/v1.
5. Incolla la tua chiave nel campo della chiave API e salvala.
6. Nel campo ID del modello, digita uncensored. Se l'app offre un elenco dei modelli dopo la connessione, scegli lo stesso nome.
7. Premi Connetti. Una riga di stato verde significa che l'app ha raggiunto l'endpoint.

Le etichette del menu cambiano leggermente tra le versioni di SillyTavern, quindi se un campo ha un nome diverso, cerca quello che contiene l'URL dell'endpoint. L'idea è la stessa in ogni versione: l'app invia richieste standard nel formato OpenAI all'URL che le fornisci.

Dimensioni del contesto e lunghezza della risposta

Questo modello ha una finestra di contesto da 100.000 token, condivisa dal prompt e dalla risposta. SillyTavern invia la definizione del personaggio, le informazioni sul mondo, la cronologia delle chat e il prompt di sistema a ogni turno, e tu decidi quanto storico includere con il cursore della dimensione del contesto.

Più grande non è automaticamente meglio. L'input viene fatturato a $0,15 per 1M di token, quindi una richiesta che riempie 32.000 token di contesto costa 32.000 / 1.000.000 x $0,15 = $0,0048 prima della risposta. A 100.000 token è $0,015 per richiesta. In una serata di 200 messaggi questa differenza è denaro reale rispetto a un saldo di $20: 200 x $0,0048 = $0,96 contro 200 x $0,015 = $3,00 solo di input, assumendo che il contesto sia pieno dal primo messaggio, il che lo esagera per una nuova chat.

Un punto di partenza pratico è 16.000-32.000 token di contesto e una lunghezza di risposta di 300-500 token. Aumenta il contesto solo quando il personaggio dimentica cose importanti. La guida al modello per il roleplay entra nel dettaglio di come i contesti lunghi influenzano le scene.

Impostazioni del sampler da provare

Con la sorgente di completamento chat, SillyTavern invia i valori del sampler che l'API accetta. Questo servizio trasmette temperature, top_p, stop, seed e le penalità di frequenza e presenza.

• Temperatura: 0,85-1,0 per scene creative, 0,6-0,7 se il personaggio si distrae.
• Top P: 0,9-0,95.
• Penalità di frequenza e presenza: 0,2-0,5 per ridurre le frasi ripetute nelle chat lunghe.
• Streaming: attivalo. Le risposte appaiono parola per parola e sembrano più veloci. Una richiesta in streaming occupa uno slot di concorrenza fino alla fine dello streaming, il che conta solo se esegui più chat contemporaneamente.

Le impostazioni che appartengono ad altri backend, come top_k, min_p o la penalità di ripetizione dai motori locali, potrebbero essere ignorate. Se un cursore non ha effetto visibile, non perdere tempo con quello.

Correzione degli errori comuni

401 o errore di autenticazione

La chiave è stata incollata con uno spazio o il valore sbagliato. Incollala di nuovo e premi Salva prima di Connetti.

404 o errore del modello

Verifica che l'URL base termini con /v1 e che l'ID del modello sia esattamente uncensored, in minuscolo.

429 con codice rate_limited o concurrency

Una chiave completa permette 300 richieste al minuto e 8 contemporaneamente; una chiave di prova permette 60 al minuto e 2 contemporaneamente. Se hai più schede o una chat di gruppo che genera insieme, puoi raggiungere il limite di concorrenza. Attendi un momento e riprova. Un 429 con un'intestazione Retry-After: 5 significa sovraccarico temporaneo, quindi aspettare cinque secondi è la mossa giusta.

Risposta tagliata a metà frase

Aumenta la lunghezza della risposta in SillyTavern. L'API stessa permette a un completamento di usare il resto della finestra.

Il saldo si esaurisce

Le richieste fallite o rifiutate non vengono addebitate, ma quelle riuscite sì. Consulta la tariffazione per gli importi di ricarica e i bonus.

Prompt, preset e chat di gruppo

La modalità completamento chat costruisce ogni richiesta da un elenco di blocchi di prompt: prompt principale, descrizione del personaggio, scenario, dialogo di esempio, informazioni sul mondo e cronologia delle chat. Puoi riordinarli o disattivarli nel gestore dei prompt. Due abitudini pagano.

• Mantieni il prompt principale breve. Alcune righe su voce, lunghezza e la regola che il modello non scrive mai le righe dell'utente. Istruzioni lunghe e ripetute usano token di input a ogni turno.
• Riduci i dialoghi di esempio. Il modello copia la lunghezza e lo stile che vede. Due esempi brevi battono sei lunghi.

Le chat di gruppo inviano una richiesta per ogni personaggio che parla. Con una chiave di prova limitata a 2 richieste concorrenti, un gruppo di quattro che genera in parallelo può generare un errore concurrency 429. Imposta il gruppo per generare una risposta alla volta, oppure passa a una chiave completa con 8 slot concorrenti.

Quando cambi personaggio, ricorda che la cronologia delle chat viene inviata di nuovo ogni volta. Una nuova chat inizia con un contesto piccolo e un conto piccolo, quindi apri una nuova chat per una nuova scena invece di trascinare una cronologia da 60.000 token.

Costo di una sessione

Prendi una serata di 100 messaggi. Supponi che la richiesta media contenga 12.000 token in input e restituisca 350 token. Input: 100 x 12.000 = 1.200.000 token, che equivalgono a 1,2 x $0,15 = $0,18. Output: 100 x 350 = 35.000 token, che equivalgono a 0,035 x $0,50 = $0,0175. Il totale è di circa $0,20 per l'intera serata.

Il credito non scade mai e non c'è abbonamento, quindi un ricarico da $20 copre circa 100 serate a quel tasso. I bonus si applicano ai ricarichi più grandi: +5% da $50, +10% da $100, +15% da $200. I numeri variano con la dimensione del contesto, che è la leva principale che controlli.

Altre guide

• Prompt di sistema LLM NSFW: struttura ed esempi
• Miglior LLM locale per il roleplay o un'API ospitata?