API SillyTavern yang Kompatibel dengan OpenAI: Penyiapan Langkah demi Langkah

Sebelum Anda memulai

Anda membutuhkan tiga hal: instalasi SillyTavern yang berjalan, kunci API, dan detail endpoint. Untuk kunci, daftar di halaman kunci API dengan Google atau email, lalu klaim kredit uji coba senilai $0,50 dengan satu klik. Tidak memerlukan metode pembayaran dan berlaku selama 7 hari. Top-up penuh dibayar dengan kripto (USDT pada TRC20 atau USDC pada Base), dimulai dari $20.

Nilai yang akan Anda tempel:

Bidang	Nilai
URL dasar	https://api.nsfwaiapi.com/v1
ID model	uncensored
Otentikasi	Kunci Bearer dikirim sebagai kunci API

Jangan tambahkan /chat/completions ke URL dasar. Aplikasi SillyTavern menambahkan jalur secara otomatis.

Model ini disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Konten seksual yang melibatkan anak di bawah umur tidak pernah diizinkan, jadi pertahankan definisi karakter Anda hanya untuk orang dewasa.

Periksa kunci di luar aplikasi

Tes dua menit menghemat banyak tebak-tebakan. Jika curl berhasil, kegagalan selanjutnya adalah pengaturan SillyTavern, bukan kunci Anda.

Copycurl https://api.nsfwaiapi.com/v1/models \
  -H "Authorization: Bearer YOUR_KEY"

Daftar JSON yang menyertakan uncensored berarti kunci dan URL sudah benar. Lalu coba penyelesaian sungguhan:

Copycurl https://api.nsfwaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hi in five words."}]}'

Balasan dengan larik choices mengonfirmasi pembuatan berfungsi. Header respons X-Balance-USD menunjukkan sisa saldo Anda. Detail endpoint lebih lanjut ada di dokumentasi.

Hubungkan SillyTavern langkah demi langkah

1. Buka ikon steker (Koneksi API) di bilah atas.
2. Atur jenis API menjadi Chat Completion.
3. Di dropdown sumber, pilih Kustom (kompatibel OpenAI).
4. Di bidang endpoint kustom, tempelkan https://api.nsfwaiapi.com/v1.
5. Tempelkan kunci Anda ke bidang kunci API dan simpan.
6. Di bidang ID model, ketik uncensored. Jika aplikasi menawarkan daftar model setelah terhubung, pilih nama yang sama.
7. Tekan Sambungkan. Garis status hijau berarti aplikasi mencapai endpoint.

Label menu berubah sedikit di setiap rilis SillyTavern, jadi jika bidang memiliki nama yang berbeda, cari yang berisi URL endpoint. Tujuannya sama di setiap versi: aplikasi mengirim permintaan format OpenAI standar ke URL yang Anda berikan.

Ukuran konteks dan panjang respons

Model ini memiliki jendela konteks 100.000 token, yang dibagi oleh prompt dan balasan. SillyTavern mengirim definisi karakter Anda, info dunia, riwayat obrolan, dan prompt sistem setiap giliran, dan Anda memutuskan berapa banyak riwayat yang akan disertakan dengan penggeser ukuran konteks.

Lebih besar tidak otomatis lebih baik. Input ditagihkan sebesar $0,15 per 1 juta token, sehingga permintaan yang mengisi 32.000 token konteks biaya 32.000 / 1.000.000 x $0,15 = $0,0048 sebelum balasan. Pada 100.000 token, biayanya adalah $0,015 per permintaan. Selama malam dengan 200 pesan, selisih ini adalah uang nyata relatif terhadap saldo $20: 200 x $0,0048 = $0,96 versus 200 x $0,015 = $3,00 hanya untuk input, dengan asumsi konteks penuh sejak pesan pertama, yang melebih-lebihkan untuk obrolan baru.

Awal yang praktis adalah 16.000 hingga 32.000 token konteks dan panjang respons 300 hingga 500 token. Tingkatkan konteks hanya ketika karakter melupakan hal-hal penting. Panduan model roleplay membahas bagaimana konteks panjang mempengaruhi adegan.

Pengaturan sampler yang dicoba

Dengan sumber penyelesaian obrolan, SillyTavern mengirim nilai sampler yang diterima API. Layanan ini meneruskan suhu, top_p, stop, seed, dan penalti frekuensi serta kehadiran.

• Suhu: 0,85 hingga 1,0 untuk adegan kreatif, 0,6 hingga 0,7 jika karakter menyimpang.
• Top P: 0,9 hingga 0,95.
• Penalti frekuensi dan kehadiran: 0,2 hingga 0,5 untuk mengurangi pengulangan frasa dalam obrolan panjang.
• Streaming: aktifkan. Balasan muncul kata demi kata dan terasa lebih cepat. Permintaan yang dialirkan memegang slot konkurensi hingga aliran berakhir, yang hanya penting jika Anda menjalankan beberapa obrolan sekaligus.

Pengaturan yang milik backend lain, seperti top_k, min_p, atau penalti pengulangan dari mesin lokal, mungkin diabaikan. Jika penggeser tidak memiliki efek yang terlihat, jangan habiskan waktu untuk itu.

Memperbaiki kesalahan umum

401 atau kegagalan autentikasi

Kunci ditempelkan dengan spasi atau nilai yang salah. Tempelkan lagi dan tekan simpan sebelum Sambungkan.

404 atau kesalahan model

Periksa URL dasar berakhiran /v1 dan ID model persis uncensored, huruf kecil.

429 dengan kode rate_limited atau konkurensi

Sebuah kunci penuh mengizinkan 300 permintaan per menit dan 8 sekaligus; sebuah kunci uji coba mengizinkan 60 per menit dan 2 sekaligus. Jika Anda memiliki beberapa tab atau obrolan grup yang menghasilkan bersama, Anda dapat mencapai batas konkurensi. Tunggu sebentar dan coba lagi. Kode 429 dengan header Retry-After: 5 berarti kelebihan beban sementara, sehingga menunggu lima detik adalah langkah yang tepat.

Balasan terpotong di tengah kalimat

Tingkatkan panjang respons di SillyTavern. API itu sendiri memungkinkan penyelesaian menggunakan sisa jendela.

Saldo habis

Permintaan yang gagal atau ditolak tidak dikenakan biaya, tetapi yang berhasil iya. Periksa harga untuk jumlah top-up dan bonus.

Prompt, preset, dan obrolan grup

Mode Chat Completion membangun setiap permintaan dari daftar blok prompt: prompt utama, deskripsi karakter, skenario, dialog contoh, info dunia, dan riwayat obrolan. Anda dapat menyusun ulang atau mematikannya di manajer prompt. Dua kebiasaan memberikan hasil.

• Jaga prompt utama tetap pendek. Beberapa baris tentang suara, panjang, dan aturan bahwa model tidak pernah menulis baris pengguna. Instruksi panjang dan berulang menggunakan token input setiap giliran.
• Potong dialog contoh. Model menyalin panjang dan gaya yang dilihatnya. Dua contoh pendek mengalahkan enam contoh panjang.

Obrolan grup mengirim satu permintaan per karakter. Dengan kunci uji coba terbatas pada 2 permintaan paralel, grup empat yang menghasilkan secara paralel dapat memicu concurrency 429. Atur grup untuk menghasilkan satu balasan pada satu waktu, atau beralih ke kunci penuh dengan 8 slot konkuren.

Saat Anda mengganti karakter, ingat bahwa riwayat obrolan dikirim ulang setiap kali. Obrolan baru dimulai dengan konteks kecil dan tagihan kecil, jadi buka obrolan baru untuk adegan baru daripada menyeret riwayat 60.000 token.

Biaya sesi

Ambil satu malam dengan 100 pesan. Katakan rata-rata permintaan membawa 12.000 token input dan mengembalikan 350 token. Input: 100 x 12.000 = 1.200.000 token, yang merupakan 1,2 x $0,15 = $0,18. Output: 100 x 350 = 35.000 token, yang merupakan 0,035 x $0,50 = $0,0175. Totalnya sekitar $0,20 untuk seluruh malam.

Kredit tidak pernah kedaluwarsa dan tidak ada langganan, sehingga top-up $20 mencakup sekitar 100 malam pada tingkat tersebut. Bonus berlaku pada top-up yang lebih besar: +5% dari $50, +10% dari $100, +15% dari $200. Angka-angka bergerak sesuai ukuran konteks Anda, yang merupakan tuas utama yang Anda kendalikan.

Panduan lainnya

• Prompt Sistem LLM NSFW: Struktur dan Contoh
• LLM Lokal Terbaik untuk Roleplaying, atau API yang Dihosting?