API compatible OpenAI pour SillyTavern : configuration étape par étape

Avant de commencer

Vous avez besoin de trois éléments : une installation SillyTavern en cours d'exécution, une clé API et les détails de l'endpoint. Pour la clé, inscrivez-vous sur la page clé API avec Google ou e-mail, puis réclamez le crédit d'essai de 0,50 $ en un clic. Aucun moyen de paiement n'est requis et il dure 7 jours. Les recharges complètes sont payées en crypto (USDT sur TRC20 ou USDC sur Base), à partir de 20 $.

Les valeurs à coller :

Champ	Valeur
URL de base	https://api.nsfwaiapi.com/v1
ID du modèle	uncensored
Authentification	Clé Bearer envoyée en tant que clé API

N'ajoutez pas /chat/completions à l'URL de base. L'application SillyTavern ajoute le chemin elle-même.

Le modèle est ajusté pour répondre sans refus de génération pour un usage adulte légal. Le contenu sexuel impliquant des mineurs est toujours interdit, alors limitez les définitions de vos personnages aux adultes.

Vérifiez la clé en dehors de l'application

Un test de deux minutes évite beaucoup de devinettes. Si curl fonctionne, tout échec ultérieur est un réglage SillyTavern, pas votre clé.

Copycurl https://api.nsfwaiapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Une liste JSON incluant uncensored signifie que la clé et l'URL sont correctes. Essayez ensuite une vraie complétion :

Copycurl https://api.nsfwaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi in five words."}]}'

Une réponse avec un tableau choices confirme que la génération fonctionne. L'en-tête de réponse X-Balance-USD affiche votre crédit restant. Plus de détails sur l'endpoint sont dans la documentation.

Connectez SillyTavern étape par étape

1. Ouvrez l'icône de prise (Connexions API) dans la barre supérieure.
2. Définissez le type d'API sur Chat Completion.
3. Dans le menu déroulant de la source, choisissez Personnalisé (compatible OpenAI).
4. Dans le champ endpoint personnalisé, collez https://api.nsfwaiapi.com/v1.
5. Collez votre clé dans le champ de clé API et enregistrez-la.
6. Dans le champ ID du modèle, tapez uncensored. Si l'application propose une liste de modèles après la connexion, sélectionnez le même nom.
7. Appuyez sur Connecter. Une ligne de statut verte signifie que l'application a atteint l'endpoint.

Les étiquettes du menu varient légèrement entre les versions de SillyTavern, donc si un champ a un nom différent, cherchez celui qui contient l'URL de l'endpoint. L'idée est la même dans toutes les versions : l'application envoie des requêtes au format OpenAI standard à l'URL que vous lui donnez.

Taille du contexte et longueur de réponse

Ce modèle dispose d'une fenêtre de contexte de 100 000 tokens, partagée par le prompt et la réponse. SillyTavern envoie la définition de votre personnage, les informations mondiales, l'historique du chat et le prompt système à chaque tour, et vous décidez de la quantité d'historique à inclure avec le curseur de taille de la fenêtre de contexte.

Plus grand n'est pas automatiquement meilleur. L'entrée est facturée à $0,15 par 1M de tokens, donc une requête qui remplit 32 000 tokens de contexte coûte 32 000 / 1 000 000 x $0,15 = $0,0048 avant la réponse. À 100 000 tokens, cela fait $0,015 par requête. Sur une soirée de 200 messages, cet écart représente de l'argent réel par rapport à un solde de $20 : 200 x $0,0048 = $0,96 contre 200 x $0,015 = $3,00 en entrée seule, en supposant que le contexte est plein dès le premier message, ce qui exagère le coût pour un nouveau chat.

Un bon début pratique est une fenêtre de contexte de 16 000 à 32 000 tokens et une longueur de réponse de 300 à 500 tokens. Augmentez la fenêtre de contexte uniquement lorsque le personnage oublie des éléments importants. Le guide du modèle de jeu de rôle explique comment les fenêtres de contexte longues affectent les scènes.

Réglages du sampler à essayer

Avec la source de complétion de chat, SillyTavern envoie les valeurs du sampler que l'API accepte. Ce service transmet temperature, top_p, stop, seed et les pénalités de fréquence et de présence.

• Temperature : 0,85 à 1,0 pour des scènes créatives, 0,6 à 0,7 si le personnage divague.
• Top P : 0,9 à 0,95.
• Pénalité de fréquence et de présence : 0,2 à 0,5 pour réduire les répétitions dans les longs chats.
• Streaming : activez-le. Les réponses apparaissent mot par mot et semblent plus rapides. Une requête en streaming occupe un slot de concurrence jusqu'à la fin du flux, ce qui n'a de l'importance que si vous lancez plusieurs chats en même temps.

Les paramètres destinés à d'autres backends, comme top_k, min_p ou la pénalité de répétition des moteurs locaux, peuvent être ignorés. Si un curseur n'a aucun effet visible, ne perdez pas de temps dessus.

Correction des erreurs courantes

401 ou une erreur d'authentification

La clé a été collée avec un espace ou une mauvaise valeur. Collez-la à nouveau et appuyez sur enregistrer avant de vous connecter.

404 ou une erreur de modèle

Vérifiez que l'URL de base se termine par /v1 et que l'ID du modèle est exactement uncensored, en minuscules.

429 avec le code rate_limited ou concurrency

Une clé complète permet 300 requêtes par minute et 8 simultanément ; une clé d'essai permet 60 par minute et 2 simultanément. Si vous avez plusieurs onglets ou un chat de groupe générant ensemble, vous pouvez atteindre la limite de concurrence. Attendez un moment et réessayez. Un 429 avec un en-tête Retry-After: 5 signifie une surcharge temporaire, donc attendre cinq secondes est la bonne démarche.

Réponse coupée en plein milieu d'une phrase

Augmentez la longueur de la réponse dans SillyTavern. L'API permet elle-même à une complétion d'utiliser le reste de la fenêtre.

Le solde s'épuise

Les requêtes échouées ou refusées ne sont pas facturées, mais les réussies le sont. Consultez la tarification pour les montants de rechargement et les bonus.

Prompts, presets et chats de groupe

Le mode Chat Completion construit chaque requête à partir d'une liste de blocs de prompt : prompt principal, description du personnage, scénario, dialogue d'exemple, informations mondiales et historique du chat. Vous pouvez les réorganiser ou les désactiver dans le gestionnaire de prompts. Deux habitudes sont rentables.

• Gardez le prompt principal court. Quelques lignes sur la voix, la longueur et la règle que le modèle n'écrit jamais les lignes de l'utilisateur. Les instructions longues et répétées consomment des tokens d'entrée à chaque tour.
• Réduisez les dialogues d'exemple. Le modèle copie la longueur et le style qu'il voit. Deux exemples courts battent six longs.

Les chats de groupe envoient une requête par personnage qui parle. Avec une clé d'essai limitée à 2 requêtes simultanées, un groupe de quatre générant en parallèle peut déclencher un 429 concurrency. Réglez le groupe pour générer une réponse à la fois, ou passez à une clé complète avec 8 slots simultanés.

Lorsque vous changez de personnage, n'oubliez pas que l'historique du chat est renvoyé à chaque fois. Un nouveau chat commence avec une petite fenêtre de contexte et une petite facture, donc ouvrez un nouveau chat pour une nouvelle scène au lieu de traîner un historique de 60 000 tokens.

Coût d'une session

Prenez une soirée de 100 messages. Disons que la requête moyenne contient 12 000 tokens d'entrée et retourne 350 tokens. Entrée : 100 x 12 000 = 1 200 000 tokens, soit 1,2 x $0,15 = $0,18. Sortie : 100 x 350 = 35 000 tokens, soit 0,035 x $0,50 = $0,0175. Le total est d'environ $0,20 pour toute la soirée.

Le crédit n'expire jamais et il n'y a pas d'abonnement, donc un rechargement de $20 couvre environ 100 soirées à ce tarif. Des bonus s'appliquent sur les rechargements plus importants : +5 % à partir de $50, +10 % à partir de $100, +15 % à partir de $200. Les chiffres varient selon la taille de votre contexte, qui est le principal levier que vous contrôlez.

Plus de guides

• Prompt système LLM NSFW : structure et exemples
• Meilleur LLM local pour le jeu de rôle, ou une API hébergée ?