API compatível com OpenAI para SillyTavern: configuração passo a passo

Antes de começar

Você precisa de três coisas: uma instalação do SillyTavern em execução, uma chave de API e os detalhes do endpoint. Para a chave, entre na página da chave de API com Google ou e-mail, depois resgate o crédito de teste grátis de $0,50 com um clique. Não precisa de método de pagamento e dura 7 dias. Recargas completas são pagas em cripto (USDT na TRC20 ou USDC na Base), a partir de $20.

Os valores que você vai colar:

Campo	Valor
URL base	https://api.nsfwaiapi.com/v1
ID do modelo	uncensored
Autenticação	Token Bearer enviado como chave de API

Não adicione /chat/completions à URL base. O app SillyTavern anexa o caminho sozinho.

O modelo é ajustado para responder sem recusas de conteúdo para uso adulto lícito. Conteúdo sexual envolvendo menores de idade nunca é permitido, então mantenha as definições de personagem para adultos.

Verifique a chave fora do app

Um teste de dois minutos economiza muitas suposições. Se o curl funcionar, qualquer falha posterior é uma configuração do SillyTavern, não da sua chave.

Copycurl https://api.nsfwaiapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Uma lista JSON que inclui uncensored indica que a chave e a URL estão corretas. Então, tente uma geração real:

Copycurl https://api.nsfwaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi in five words."}]}'

Uma resposta com uma matriz choices confirma que a geração funciona. O cabeçalho de resposta X-Balance-USD mostra seu crédito restante. Mais detalhes do endpoint estão na documentação.

Conecte o SillyTavern passo a passo

1. Abra o ícone de plug (Conexões de API) na barra superior.
2. Defina o tipo de API como Chat Completion.
3. No menu suspenso de origem, escolha Custom (compatível com OpenAI).
4. No campo de endpoint personalizado, cole https://api.nsfwaiapi.com/v1.
5. Cole sua chave no campo de chave de API e salve.
6. No campo ID do modelo, digite uncensored. Se o app oferecer uma lista de modelos após a conexão, selecione o mesmo nome.
7. Pressione Connect. Uma linha de status verde significa que o app alcançou o endpoint.

Os rótulos do menu mudam um pouco entre as versões do SillyTavern, então se um campo tiver um nome diferente, procure aquele que contém a URL do endpoint. A ideia é a mesma em todas as versões: o app envia solicitações no formato padrão OpenAI para a URL que você fornece.

Tamanho do contexto e comprimento da resposta

Este modelo tem uma janela de contexto de 100.000 tokens, compartilhada pelo prompt e pela resposta. O SillyTavern envia a definição do seu personagem, informações do mundo, histórico do chat e prompt do sistema a cada turno, e você decide quanto histórico incluir com o controle deslizante de tamanho do contexto.

Maior não é automaticamente melhor. A entrada é cobrada a $0,15 por 1M de tokens, então uma requisição que preenche 32.000 tokens de contexto custa 32.000 / 1.000.000 x $0,15 = $0,0048 antes da resposta. Em 100.000 tokens, é $0,015 por requisição. Em uma noite de 200 mensagens, essa diferença é dinheiro real em relação a um saldo de $20: 200 x $0,0048 = $0,96 contra 200 x $0,015 = $3,00 apenas em entrada, assumindo que o contexto esteja cheio desde a primeira mensagem, o que exagera o custo para um novo chat.

Um começo prático é 16.000 a 32.000 tokens de contexto e um comprimento de resposta de 300 a 500 tokens. Aumente o contexto apenas quando o personagem esquecer coisas importantes. O guia do modelo de roleplay entra em detalhes sobre como contextos longos afetam cenas.

Configurações do sampler para experimentar

Com a origem de conclusão de chat, o SillyTavern envia os valores do sampler que a API aceita. Este serviço transmite temperatura, top_p, stop, seed e as penalidades de frequência e presença.

• Temperature: 0,85 a 1,0 para cenas criativas, 0,6 a 0,7 se o personagem divagar.
• Top P: 0,9 a 0,95.
• Penalidade de frequência e presença: 0,2 a 0,5 para reduzir frases repetidas em chats longos.
• Streaming: ative-o. As respostas aparecem palavra por palavra e parecem mais rápidas. Uma requisição em streaming ocupa um slot de concorrência até o fim do streaming, o que importa apenas se você executar vários chats ao mesmo tempo.

Configurações que pertencem a outros backends, como top_k, min_p ou penalidade de repetição de motores locais, podem ser ignoradas. Se um controle deslizante não tiver efeito visível, não perca tempo com ele.

Corrigindo erros comuns

401 ou falha de autenticação

A chave foi colada com um espaço ou o valor errado. Cole-a novamente e pressione salvar antes de Connect.

404 ou erro de modelo

Verifique se a URL base termina em /v1 e o ID do modelo é exatamente uncensored, em minúsculas.

429 com código rate_limited ou concurrency

Uma chave completa permite 300 requisições por minuto e 8 simultâneas; uma chave de teste permite 60 por minuto e 2 simultâneas. Se você tiver várias abas ou um chat em grupo gerando juntos, pode atingir o limite de concorrência. Aguarde um momento e tente novamente. Um 429 com um cabeçalho Retry-After: 5 significa sobrecarga temporária, então aguardar cinco segundos é a medida correta.

Resposta cortada no meio da frase

Aumente o comprimento da resposta no SillyTavern. A API em si permite que uma conclusão use o resto da janela.

Saldo esgotado

Requisições falhas ou recusadas não são cobradas, mas as bem-sucedidas são. Verifique a precificação para valores de recarga e bônus.

Prompts, presets e chats em grupo

O modo Chat Completion constrói cada solicitação a partir de uma lista de blocos de prompt: prompt principal, descrição do personagem, cenário, diálogo de exemplo, informações do mundo e histórico de chat. Você pode reordenar ou desativá-los no gerenciador de prompt. Dois hábitos valem a pena.

• Mantenha o prompt principal curto. Algumas linhas sobre voz, comprimento e a regra de que o modelo nunca escreve as linhas do usuário. Instruções longas e repetidas consomem tokens de entrada em cada turno.
• Recorte diálogos de exemplo. O modelo copia o comprimento e o estilo que ele vê. Dois exemplos curtos superam seis longos.

Chats em grupo enviam uma requisição por personagem que fala. Com uma chave de teste limitada a 2 requisições simultâneas, um grupo de quatro que gera em paralelo pode acionar um erro concurrency 429. Configure o grupo para gerar uma resposta por vez ou migre para uma chave completa com 8 slots de concorrência.

Ao trocar de personagens, lembre-se de que o histórico do chat é reenviado a cada vez. Um novo chat começa com uma janela de contexto pequena e uma fatura pequena, então abra um chat novo para uma nova cena em vez de arrastar um histórico de 60.000 tokens.

O custo de uma sessão

Tire uma noite de 100 mensagens. Digamos que a solicitação média carregue 12.000 tokens de entrada e retorne 350 tokens. Entrada: 100 x 12.000 = 1.200.000 tokens, que é 1,2 x $0,15 = $0,18. Saída: 100 x 350 = 35.000 tokens, que é 0,035 x $0,50 = $0,0175. O total é cerca de $0,20 para a noite inteira.

O crédito nunca expira e não há assinatura, então uma recarga de $20 cobre aproximadamente 100 noites a essa taxa. Bônus se aplicam em recargas maiores: +5% a partir de $50, +10% a partir de $100, +15% a partir de $200. Os valores variam conforme o tamanho do seu contexto, que é a principal alavanca que você controla.

Mais guias

• Prompt do Sistema LLM NSFW: Estrutura e Exemplos
• Melhor LLM local para roleplay ou uma API hospedada?