Qual è l'API LLM gratuita? Opzioni, limiti e una vera prova

La risposta breve: tre tipi di gratuito

Quando le persone chiedono quale api LLM sia gratuita, intendono solitamente una di tre cose diverse e le differenze contano più del prezzo.

• Un piano gratuito da un provider ospitato. Ricevi una quantità limitata di utilizzo, spesso con limiti di richieste stretti, e i termini possono cambiare senza molto preavviso.
• Un modello che esegui tu stesso. I pesi di molti modelli open sono gratuiti da scaricare. GPU, elettricità e tempo di configurazione non lo sono.
• Credito di prova. Un piccolo saldo prepagato che ti permette di testare il servizio reale con richieste reali prima di inserire denaro.

Nessuna di queste è un'API gratuita permanente per un prodotto con utenti. Se devi solo provare un modello, scrivere un prototipo o verificare se un endpoint funziona con il tuo client, una delle tre può fare il lavoro. Se stai costruendo qualcosa che le persone useranno ogni giorno, pianifica un percorso a pagamento fin dall'inizio, perché il momento in cui finisce un piano gratuito è solitamente il momento in cui il tuo progetto è più carico.

Come appaiono solitamente i piani gratuiti

I piani gratuiti variano tra provider e cambiano spesso, quindi tratta questa sezione come una checklist di cose da cercare, non come un'affermazione su una singola azienda. Per i numeri attuali, controlla le pagine di prezzi e termini correnti.

• Limiti di richieste. L'utilizzo gratuito è solitamente limitato al minuto e al giorno. Un'app chat con pochi utenti può raggiungere quei limiti nel pomeriggio.
• Scelta del modello. L'accesso gratuito potrebbe coprire solo modelli più piccoli o più vecchi, o una coda con priorità inferiore.
• Termini sui dati. Alcune offerte gratuite permettono al provider di usare i tuoi prompt per migliorare i loro prodotti. Va bene per un test con testo pubblico. È un'opzione pessima per documenti privati, messaggi di clienti o narrativa personale.
• Regole sui contenuti. I provider mainstream applicano i loro filtri di sicurezza. Se il tuo uso è legale ma a sfondo adulto, come narrativa, roleplay o un'app companion per adulti, un modello filtrato rifiuterà spesso e i rifiuti consumano ancora la tua quota gratuita.

Il punto sui contenuti è quello che sorprende le persone. Una richiesta gratuita che restituisce un rifiuto non è gratuita in alcun senso utile, perché hai speso il tuo tempo e parte del tuo limite per nulla. Se ti serve un modello senza filtri, filtra la lista delle opzioni gratuite per quello prima.

Self-hosting di un modello a pesi aperti

Eseguire un modello sulla tua macchina è la cosa più vicina al gratuito vero, con un'eccezione: paghi in hardware e attenzione. I pesi sono spesso gratuiti da scaricare, anche se ognuno ha la sua licenza, quindi leggila se prevedi di costruire un prodotto su di essa.

Quello che spendi effettivamente:

• Memoria. Un modello deve entrare nella memoria GPU o nella memoria di sistema se accetti output molto più lenti. I modelli più grandi ne hanno bisogno di più e rimpicciolire un modello quantizzandolo scambia parte della qualità per spazio.
• Tempo di configurazione. Installi un runtime, scegli una quantizzazione, regoli la dimensione del contesto e mantieni tutto aggiornato.
• Energia e rumore. Una GPU sotto carico consuma vera elettricità e un laptop te lo farà notare.
• Concorrenza. Una GPU serve comodamente una o due richieste. Servire dieci utenti contemporaneamente è un progetto diverso.

Per apprendimento, lavoro offline e privacy di default, il locale è eccellente. Per un'app piccola che deve rispondere da qualsiasi dispositivo a qualsiasi ora, molti sviluppatori finiscono per noleggiare capacità. Un'API in hosting trasforma il costo fisso dell'hardware in un costo per token, che è più conveniente quando il tuo utilizzo è piccolo e irregolare.

Chiavi condivise e proxy community

Cerca un'API gratuita e troverai elenchi di endpoint pubblici, chiavi condivise e proxy gestiti da appassionati. Trattali con sospetto. Una chiave condivisa può essere revocata a metà di una demo. La persona che gestisce un proxy può leggere ogni prompt che passa attraverso di essa. Non c'è supporto, non ci sono limiti dichiarati e spesso nessun modo per sapere quale modello ti stia rispondendo.

Se i tuoi prompt contengono qualcosa che non incolleresti in un forum pubblico, salta questa categoria del tutto. Un piccolo saldo a pagamento con una chiara politica sui dati è un affare migliore rispetto a un endpoint gratuito il cui proprietario non puoi identificare.

Cosa offre la prova su questo sito

Questo servizio è un'API testuale in hosting compatibile con OpenAI con un modello, uncensored, ottimizzato per rispondere senza rifiuti sui contenuti per uso adulto legale. Non ha un piano gratuito permanente. Ha una prova: dopo esserti registrato con Google o con email e password, la pagina della chiave API mostra un pulsante che richiede $0,50 di credito di prova. Richiede un clic, non serve dati di pagamento, è valida per 7 giorni ed è limitata a una per persona.

Una chiave di prova funziona con 2 richieste concorrenti e 60 richieste al minuto, che è più che sufficiente per testare un client o un prompt. I prezzi sono $0,15 per 1M di token in input e $0,50 per 1M di token in output. Ecco cosa compra $0,50 per alcune dimensioni di richiesta tipiche, calcolati esattamente:

Dimensione	Costo per richiesta	Richieste per $0,50
500 token in, 200 out (scambio di chat breve)	$0.000075 + $0.000100 = $0.000175	circa 2.857
2,000 in, 500 out (chat con un po' di cronologia)	$0.000300 + $0.000250 = $0.000550	circa 909
20.000 in, 1.000 out (scena lunga o documento)	$0.003000 + $0.000500 = $0.003500	circa 142
90,000 in, 2,000 out (vicino alla finestra di contesto da 100,000)	$0.013500 + $0.001000 = $0.014500	circa 34

Quindi la prova è sufficiente per eseguire alcune centinaia di richieste realistiche, testare lo streaming, provare la modalità JSON e la chiamata di funzioni e vedere come si comporta il modello con i tuoi prompt. Non è pensata per far girare un prodotto. Per i passaggi esatti di configurazione, la guida rapida nella documentazione ha codice funzionante per l'SDK OpenAI, Node e curl.

Quando conviene il credito prepagato

Una volta esaurita la prova, il modello passa al pagamento a consumo con credito prepagato. Non c'è abbonamento. Ricarichi qualsiasi importo intero da $20 a $500 e il credito non scade mai, quindi un saldo non usato questo mese è ancora lì il mese prossimo. Le richieste fallite o rifiutate non vengono addebitate. Ricariche più grandi hanno un bonus: +5% da $50, +10% da $100 e +15% da $200.

I bonus funzionano così:

• $20 compra $20,00 di credito.
• $50 compra $52,50 (un bonus del 5% di $2,50).
• $100 compra $110,00 (un bonus del 10% di $10).
• $200 compra $230,00 (un bonus del 15% di $30).

Questo sito accetta ricariche in cripto solo: USDT su TRC20 o USDC su Base. Se non possiedi almeno uno di questi token, è un ostacolo concreto e vale la pena saperlo prima di iniziare. La pagina prezzi contiene i dettagli attuali.

Per vedere cosa significa una ricarica da $20 nella pratica, usa le stesse dimensioni delle richieste di cui sopra. A 500 token in entrata e 200 in uscita, $20 coprono circa 114,000 richieste. A 2,000 in entrata e 500 in uscita, coprono circa 36,000. Un'app chat hobby con pochi utenti raramente spende così tanto in un mese, motivo per cui il minimo è fattibile anche per piccoli progetti.

Come testare qualsiasi opzione gratuita prima di affidarti ad essa

Qualunque strada tu scelga, spendi un pomeriggio in un test adeguato invece di una singola chiamata hello-world.

1. Usa i tuoi prompt reali. Un modello che scrive un bel haiku può comunque fallire sul tuo system prompt, sulla tua lingua o sul formato di output.
2. Misura i rifiuti. Invia venti prompt dal tuo caso d'uso reale e conta quanti vengono rifiutati o diluiti.
3. Attiva i limiti apposta. Invia richieste in parallelo e vedi come appare l'errore. Qui, superare il limite per minuto restituisce HTTP 429 con il codice rate_limited e troppe richieste simultanee restituisce 429 con concurrency. Un sovraccarico temporaneo restituisce anche 429 con un'intestazione Retry-After: 5, quindi il tuo client dovrebbe aspettare e riprovare.
4. Leggi i termini di servizio. I prompt qui non sono usati per l'addestramento. Per qualsiasi altro servizio, trova la dichiarazione per iscritto.
5. Stima il costo. Prendi la media dei token per richiesta, moltiplicala per il numero di richieste previste e confronta. Il calcolo richiede cinque minuti ed evita la maggior parte delle sorprese.

Il servizio è solo testuale. Non ci sono generazione di immagini, audio o video, embedding né fine-tuning, e c'è un limite rigido: nessun contenuto sessuale che coinvolga minorenni. Se il tuo progetto ha bisogno di una di queste funzionalità mancanti, un'opzione gratuita altrove non lo risolverà, quindi chiariscilo prima. La pagina sul modello di testo compatibile con OpenAI spiega cosa fa e cosa non copre l'endpoint.

Altre guide

• Miglior LLM locale per il roleplay o un'API ospitata?
• API LLM NSFW in Python: streaming, JSON e strumenti
• API LLM senza censura: modello di testo compatibile con OpenAI