API LLM mana yang gratis? Opsi, batas, dan uji coba nyata

Jawaban singkatnya: tiga jenis gratis

Ketika orang bertanya apa api llm gratis, mereka biasanya berarti salah satu dari tiga hal berbeda, dan perbedaannya lebih penting daripada label harganya.

• Tier gratis dari penyedia yang dikelola. Anda mendapatkan jumlah penggunaan yang dibatasi, sering kali dengan batas laju yang ketat, dan syaratnya dapat berubah tanpa pemberitahuan yang cukup.
• Model yang Anda jalankan sendiri. Bobot banyak model open-source gratis untuk diunduh. GPU, listrik, dan waktu penyiapan Anda tidak.
• Kredit uji coba. Saldo prabayar kecil yang memungkinkan Anda menguji layanan nyata dengan permintaan nyata sebelum Anda memasukkan uang.

Tidak ada yang menjadi API gratis permanen untuk produk dengan pengguna. Jika Anda hanya perlu mencoba model, menulis prototipe, atau memeriksa apakah endpoint berfungsi dengan klien Anda, salah satu dari tiga dapat melakukan pekerjaan itu. Jika Anda membangun sesuatu yang akan digunakan orang setiap hari, rencanakan jalur berbayar dari awal, karena saat tier gratis berakhir biasanya saat proyek Anda paling sibuk.

Seperti apa biasanya tier gratis

Tingkat gratis berbeda antar penyedia dan sering berubah, jadi anggap bagian ini sebagai daftar periksa hal-hal yang harus dicari, bukan pernyataan tentang satu perusahaan. Untuk angka saat ini, periksa halaman harga dan persyaratan mereka.

• Batas permintaan. Penggunaan gratis biasanya dibatasi per menit dan per hari. Aplikasi obrolan dengan beberapa pengguna dapat mencapai batas tersebut dalam satu sore.
• Pilihan model. Akses gratis mungkin hanya mencakup model yang lebih kecil atau lebih lama, atau antrian dengan prioritas lebih rendah.
• Ketentuan data. Beberapa penawaran gratis memungkinkan penyedia menggunakan prompt Anda untuk meningkatkan produk mereka. Itu baik untuk pengujian dengan teks publik. Itu tidak cocok untuk dokumen pribadi, pesan pelanggan, atau fiksi pribadi.
• Aturan konten. Penyedia utama menerapkan filter keamanan mereka sendiri. Jika penggunaan Anda sah secara hukum tetapi bernada dewasa, seperti fiksi, roleplay, atau aplikasi teman untuk orang dewasa, model yang disensor akan sering menolak, dan penolakan masih memakan kuota gratis Anda.

Titik konten adalah yang mengejutkan orang. Permintaan gratis yang mengembalikan penolakan tidak gratis dalam arti yang berguna apa pun, karena Anda menghabiskan waktu dan sebagian dari batas Anda untuk apa-apa. Jika model tanpa filter adalah apa yang Anda butuhkan, filter daftar opsi gratis berdasarkan itu terlebih dahulu.

Self-hosting model bobot terbuka

Menjalankan model di mesin Anda sendiri adalah hal terdekat dengan benar-benar gratis, dengan catatan: Anda membayar dalam perangkat keras dan perhatian. Bobot sering gratis untuk diunduh, meskipun masing-masing memiliki lisensinya sendiri, jadi bacalah jika Anda berencana membangun produk di atasnya.

Yang sebenarnya Anda habiskan:

• Memori. Model harus muat dalam memori GPU, atau dalam memori sistem jika Anda menerima output yang jauh lebih lambat. Model yang lebih besar membutuhkan lebih banyak dari itu, dan mengecilkan model dengan kuantisasi menukar beberapa kualitas untuk ruang.
• Waktu penyiapan. Anda menginstal runtime, memilih kuantisasi, menyesuaikan ukuran konteks, dan memperbarui semuanya.
• Daya dan kebisingan. GPU di bawah beban menarik listrik nyata, dan laptop akan memberi tahu Anda tentang itu.
• Konkurensi. Satu GPU melayani satu atau dua permintaan dengan nyaman. Melayani sepuluh pengguna sekaligus adalah proyek yang berbeda.

Untuk pembelajaran, kerja offline, dan privasi secara default, lokal sangat bagus. Untuk aplikasi kecil yang harus menjawab dari perangkat apa pun kapan saja, banyak pengembang berakhir menyewa kapasitas. API yang di-hosting mengubah biaya tetap perangkat keras menjadi biaya per token, yang lebih murah ketika penggunaan Anda kecil dan tidak merata.

Kunci bersama dan proxy komunitas

Cari API gratis dan Anda akan menemukan daftar endpoint publik, kunci bersama, dan proxy yang dijalankan oleh hobi. Perlakukan ini dengan curiga. Kunci bersama dapat dicabut di tengah demo. Orang yang menjalankan proxy dapat membaca setiap prompt yang melewatinya. Tidak ada dukungan, tidak ada batas yang dinyatakan, dan seringkali tidak ada cara untuk mengetahui model mana yang menjawab Anda.

Jika prompt Anda berisi apa pun yang tidak akan Anda tempel ke forum publik, lewati kategori ini sepenuhnya. Saldo berbayar kecil dengan kebijakan data yang jelas adalah kesepakatan yang lebih baik daripada endpoint gratis yang pemiliknya tidak dapat Anda identifikasi.

Apa yang diberikan uji coba di situs ini

Layanan ini adalah API teks yang dikelola, kompatibel dengan OpenAI, dengan satu model, uncensored, yang disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah. Layanan ini tidak memiliki tier gratis permanen. Layanan ini memiliki uji coba: setelah Anda masuk dengan Google, atau dengan email dan kata sandi, halaman kunci API menampilkan tombol yang mengklaim kredit uji coba senilai $0,50. Ini membutuhkan satu klik, tidak memerlukan detail pembayaran, berlaku selama 7 hari, dan dibatasi satu per orang.

Kunci uji coba berjalan pada 2 permintaan konkuren dan 60 permintaan per menit, yang cukup untuk menguji klien atau prompt. Harganya adalah $0.15 per 1M token input dan $0.50 per 1M token output. Berikut adalah apa yang dibeli $0.50 untuk beberapa ukuran permintaan tipikal, dihitung secara tepat:

Ukuran permintaan	Biaya per permintaan	Permintaan untuk $0,50
500 token masuk, 200 keluar (giliran obrolan pendek)	$0,000075 + $0,000100 = $0,000175	sekitar 2,857
2.000 masuk, 500 keluar (obrolan dengan beberapa riwayat)	$0,000300 + $0,000250 = $0,000550	sekitar 909
20.000 input, 1.000 output (pemandangan atau dokumen panjang)	$0,003000 + $0,000500 = $0,003500	sekitar 142
90.000 masuk, 2.000 keluar (mendekati jendela 100.000)	$0,013500 + $0,001000 = $0,014500	sekitar 34

Jadi, uji coba ini cukup untuk menjalankan beberapa ratus permintaan realistis, menguji streaming, mencoba mode JSON dan pemanggilan fungsi, serta melihat bagaimana model berperilaku dengan prompt Anda. Ini tidak dimaksudkan untuk menjalankan produk. Untuk langkah penyiapan yang tepat, panduan awal di dokumentasi memiliki kode yang berfungsi untuk SDK OpenAI, Node, dan curl.

Kapan saldo prabayar masuk akal

Setelah uji coba dihabiskan, model adalah bayar sesuai penggunaan dari saldo prabayar. Tidak ada langganan. Anda mengisi saldo dengan jumlah bulat apa pun dari $20 hingga $500, dan saldo tidak pernah kedaluwarsa, sehingga saldo yang tidak Anda gunakan bulan ini masih ada bulan depan. Permintaan yang gagal atau ditolak tidak dikenakan biaya. Top-up yang lebih besar membawa bonus: +5% dari $50, +10% dari $100, dan +15% dari $200.

Bonus bekerja seperti ini:

• $20 membeli $20,00 kredit.
• $50 membeli $52,50 (bonus 5% sebesar $2,50).
• $100 membeli $110,00 (bonus 10% sebesar $10).
• $200 membeli $230,00 (bonus 15% sebesar $30).

Situs ini hanya menerima top-up kripto: USDT pada TRC20 atau USDC di Base. Jika Anda tidak memegang salah satunya, itu adalah hambatan nyata dan layak diketahui sebelum Anda memulai. Halaman harga memiliki detail saat ini.

Untuk melihat apa artinya top-up $20 secara praktis, gunakan ukuran permintaan yang sama seperti di atas. Pada 500 token masuk dan 200 keluar, $20 mencakup sekitar 114.000 permintaan. Pada 2.000 masuk dan 500 keluar, itu mencakup sekitar 36.000. Aplikasi obrolan hobi dengan beberapa pengguna jarang menghabiskan itu dalam sebulan, itulah mengapa minimumnya dapat bekerja bahkan untuk proyek kecil.

Cara menguji opsi gratis sebelum Anda bergantung padanya

Terlepas dari rute yang Anda pilih, luangkan satu sore untuk pengujian yang tepat alih-alih panggilan hello-world tunggal.

1. Gunakan prompt asli Anda. Model yang menulis haiku yang bagus masih bisa gagal pada prompt sistem Anda, bahasa Anda, atau format output Anda.
2. Ukur penolakan. Kirim dua puluh prompt dari kasus penggunaan Anda yang sebenarnya dan hitung berapa banyak yang ditolak atau diencerkan.
3. Picu batas secara sengaja. Kirim permintaan secara paralel dan lihat seperti apa errornya. Di sini, melewati batas per menit mengembalikan HTTP 429 dengan kode rate_limited, dan terlalu banyak permintaan simultan mengembalikan 429 dengan concurrency. Beban berlebih sementara juga mengembalikan 429 dengan header Retry-After: 5, jadi klien Anda harus menunggu dan mencoba lagi.
4. Baca ketentuan data. Prompt di sini tidak digunakan untuk pelatihan. Untuk layanan lain, temukan pernyataan tersebut secara tertulis.
5. Perkirakan biaya yang dibayar. Ambil rata-rata token per permintaan, kalikan dengan jumlah permintaan yang diharapkan, dan bandingkan. Perhitungan ini memakan waktu lima menit dan mencegah sebagian besar kejutan.

Layanan ini hanya teks. Tidak ada pembuatan gambar, audio, atau video, tidak ada embedding, dan tidak ada penyesuaian halus, dan ada batas tegas: tidak ada konten seksual yang melibatkan anak di bawah umur. Jika proyek Anda memerlukan salah satu dari bagian yang hilang tersebut, opsi gratis di tempat lain tidak akan memperbaikinya, jadi selesaikan terlebih dahulu. Halaman tentang model teks kompatibel OpenAI menjelaskan apa yang dilakukan endpoint dan apa yang tidak dicakupnya.

Panduan lainnya

• LLM Lokal Terbaik untuk Roleplaying, atau API yang Dihosting?
• API LLM NSFW dalam Python: Streaming, JSON, dan Alat
• API LLM Tanpa Sensor: Model Teks Kompatibel OpenAI