JA ▾
API キーを取得

NsfwAiApiガイド

SillyTavern OpenAI互換API:ステップバイステップセットアップ

SillyTavernのOpenAI互換API接続は、カスタムのチャット完了ソースを介して動作します。このページでは、入力するフィールド、このサービスに使用する値、ロールプレイのために変更する価値のある設定を示しています。

更新

チャットインターフェースをサーバーキューブに接続するプラグ、スライダーダイヤルを備え、SillyTavern APIセットアップを表す
ローカルのGPUボックスとホスト型サーバークラスターをチャットバブルでつなぐ等角イラスト

開始前に

必要なものは3つだけです:稼働中のSillyTavernのインストール、API キー、エンドポイントの詳細です。キーについては、GoogleまたはメールでAPI キーページにサインアップし、ワンクリックで$0.50の無料トライアルクレジットを取得してください。支払い方法は不要で、有効期限は7日です。チャージは暗号資産(TRC20上のUSDTまたはBase上のUSDC)で支払い、最低$20からです。

貼り付ける値:

フィールド内容
ベース URLhttps://api.nsfwaiapi.com/v1
モデル IDuncensored
認証APIキーとして送信されるBearerキー

ベースURLに/chat/completionsを追加しないでください。SillyTavernアプリがパスを自動的に付加します。

このモデルは、法的な成人向け利用においてコンテンツフィルタリングによる拒否なしで回答するようにチューニングされています。未成年者を含む性的コンテンツは決して許可されないため、キャラクター定義は成人に限定してください。

アプリ外でキーを確認

2分間のテストで推測の多くが省けます。curlが動作すれば、その後の失敗はキーの問題ではなくSillyTavernの設定の問題です。

curl https://api.nsfwaiapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

uncensoredを含むJSONリストは、APIキーとURLが正しいことを意味します。次に、実際のテキスト生成を試してください:

curl https://api.nsfwaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi in five words."}]}'

choices配列を含む応答は、生成が機能していることを確認します。X-Balance-USDレスポンスヘッダーには、残りのクレジットが表示されます。エンドポイントの詳細はdocsをご覧ください。

SillyTavernをステップバイステップで接続

  1. 上部バーのプラグアイコン(API Connections)を開きます。
  2. APIタイプをChat Completionに設定します。
  3. ソースドロップダウンでCustom (OpenAI-compatible)を選択します。
  4. カスタムエンドポイントフィールドにhttps://api.nsfwaiapi.com/v1を貼り付けます。
  5. API キーフィールドにキーを貼り付け、保存します。
  6. モデルIDフィールドにuncensoredと入力します。接続後にモデルリストが表示される場合は、同じ名前を選択します。
  7. Connectを押します。緑色のステータスラインは、アプリがエンドポイントに到達したことを意味します。

SillyTavernのバージョン間でメニューラベルが少し変わるため、フィールドの名前が異なる場合は、エンドポイントURLを保持するものを探してください。どのバージョンでも考え方は同じです:アプリは標準的なOpenAI形式のリクエストを指定したURLに送信します。

コンテキストサイズとレスポンス長

このモデルは100,000トークンのコンテキストウィンドウを持ち、プロンプトと応答で共有されます。SillyTavernは各ターンでキャラクター定義、ワールド情報、チャット履歴、システムプロンプトを送信し、コンテキストサイズスライダーで履歴のどの程度を含めるかを決定します。

大きいことが必ずしも優れているわけではありません。入力は1Mトークンあたり$0.15で課金されるため、32,000トークンのコンテキストウィンドウを埋めるリクエストの返信前のコストは、32,000 / 1,000,000 x $0.15 = $0.0048です。100,000トークンでは1リクエストあたり$0.015になります。200メッセージの夜の間、この差は$20の残高に対して実質的な金額になります:200 x $0.0048 = $0.96 対 200 x $0.015 = $3.00(入力のみのコスト)。これは最初のメッセージからコンテキストが埋まっていると仮定した場合で、新規チャットではこれを過大評価しています。

実用的な開始点は、16,000から32,000トークンのコンテキストと、300から500トークンの応答の長さです。キャラクターが重要なことを忘れた場合にのみコンテキストを上げます。ロールプレイモデルガイドでは、コンテキストの長さがシーンに与える影響について詳しく説明しています。

試すべきサンプラー設定

チャット完了ソースを使用すると、SillyTavernはAPIが受け付けるサンプラー値を送信します。このサービスは、温度、top_p、stop、seed、および頻度ペナルティと存在ペナルティをそのまま渡します。

  • 温度:クリエイティブなシーンには0.85〜1.0、キャラクターが逸脱する場合は0.6〜0.7。
  • Top P: 0.9〜0.95。
  • 頻度ペナルティと存在ペナルティ: 長いチャットでの繰り返しの表現を減らすために0.2〜0.5。
  • ストリーミング:有効にします。返信は単語ごとに現れ、より速く感じられます。ストリーミングリクエストはストリーミングが終了するまで同時実行スロットを占有し続けるため、複数のチャットを同時に実行する場合にのみこれが重要になります。

top_k、min_p、またはローカルエンジンからの反復ペナルティなど、他のバックエンドに属する設定は無視される場合があります。スライダーに目に見える効果がない場合は、そこに時間を費やさないでください。

よくあるエラーの修正

401または認証エラー

キーにスペースや誤った値が含まれた状態で貼り付けられました。再度貼り付け、Connectする前に保存を押してください。

404またはモデルエラー

ベースURLが/v1で終わっていること、およびモデルIDが小文字のuncensoredと完全に一致していることを確認してください。

429(コードrate_limitedまたはconcurrency)

フルキーは1分あたり300リクエスト、同時リクエスト8件まで許可されます。トライアルキーは1分あたり60、同時リクエスト2件までです。複数のタブやグループチャットが同時に生成している場合、同時実行数の制限に達する可能性があります。少し待ってから再試行してください。Retry-After: 5ヘッダーを持つ429は一時的な過負荷を意味するため、5秒待つのが正しい対応です。

返信が途中の文で切れる

SillyTavernでの応答の長さを上げます。API自体は、レスポンスの長さをウィンドウの残りまで伸ばすことができます。

残高が枯渇

失敗または拒否されたリクエストは課金されませんが、成功したものは課金されます。チャージ額とボーナスを確認するには料金ページを見てください。

プロンプト、プリセット、グループチャット

Chat Completionモードは、メインプロンプト、キャラクターの説明、シナリオ、例の対話、ワールド情報、チャット履歴のプロンプトブロックのリストから各リクエストを構築します。プロンプトマネージャーで順序を変更または無効にできます。2つの習慣が役立ちます。

  • メインプロンプトを短く保つ。 声、長さ、およびモデルがユーザーのセリフを絶対に書かないというルールに関する数行。長く繰り返しの指示は、毎回入力トークンを消費します。
  • 例の対話を削る。 モデルは目にする長さとスタイルをコピーします。短い例2つが長い例6つに勝ります。

グループチャットは、発言するキャラクターごとに1つのリクエストを送信します。同時に2つのリクエストに制限されたトライアルキーでは、4人のグループが並列で生成するとconcurrency 429を引き起こす可能性があります。グループが1回に1つの返信を生成するように設定するか、8つの同時実行スロットを持つフルキーに切り替えます。

キャラクターを切り替えるときは、チャット履歴が毎回再送信されることを覚えておいてください。新しいチャットは小さなコンテキストと小さな請求で始まるため、新しいシーンには60,000トークンの履歴を引きずるのではなく、新しいチャットを開いてください。

セッションのコスト

100メッセージの夜の例を考えます。平均的なリクエストが入力12,000トークンを運び、350トークンを返すとします。入力:100 x 12,000 = 1,200,000トークン、これは1.2 x $0.15 = $0.18。出力:100 x 350 = 35,000トークン、これは0.035 x $0.50 = $0.0175。合計は約$0.20です。

クレジットは期限切れにならず、サブスクリプションもないため、$20のチャージでそのレートで約100回のイブニング分をカバーできます。より大きなチャージにはボーナスが適用されます:$50から+5%、$100から+10%、$200から+15%。この数字はコンテキストサイズに依存し、これがあなたが制御できる主な要素です。

質問と回答

SillyTavernでどのソースを選択しますか?

チャット補完、次にカスタム(OpenAI互換)ソース。ベースURL、キー、モデルID uncensoredを入力します。

URLに/chat/completionsを追加しますか?

いいえ。/v1 で終わるベースURLを使用し、パスを追加させるのはSillyTavernに任せます。

コンテキストウィンドウのサイズはどのように設定すべきですか?

16,000から32,000トークンから始めてください。ウィンドウは100,000ですが、各ターンでこれを埋めると入力コストが上昇します。

無料トライアルは使えますか?

はい。新規ユーザーは、サインアップ後にワンクリックで$0.50のトライアルクレジットを取得できます。これは7日間有効で、レート制限が低くなります。

フォーム1つでキーが手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得

NsfwAiApiNSFWテキスト生成用の無検閲LLM API