什麼是免費的 LLM API？選項、限制與真實試用

簡短答案：三種免費類型

當人們詢問什麼是免費的 LLM API 時，他們通常指的是三種不同的情況，而這些差異比價格標籤更重要。

• 來自託管供應商的免費層級。你獲得有限的用量，通常伴有嚴格的速率限制，且條款可能在未事先通知的情況下變更。
• 你自行運行的模型。 許多開放模型的權重下載免費。但 GPU、電力和你的設定時間都需要代價。
• 試用額度。 一小筆預付餘額，讓你在投入資金前，使用真實請求測試真實服務。

這些都不是面向有使用者的產品的永久免費 API。如果你只需嘗試模型、撰寫原型或檢查端點是否與你的客戶端配合，這三種都能勝任。但如果你正在構建人們每天都會使用的產品，請從一開始就規劃付費路徑，因為免費層級結束的時刻通常也是你的專案最繁忙的時刻。

免費層級通常的外觀

免費層級因供應商而异且經常變更，因此請將此部分視為檢查清單，而非針對任何單一公司的聲明。如需當前數據，請查閱他們的當前定價與條款頁面。

• 請求上限。 免費用量通常限制每分鐘和每天的請求數。擁有少量使用者的聊天應用程式可能在一個下午就達到這些上限。
• 模型選擇。 免費存取可能僅涵蓋較小或較舊的模型，或優先級較低的佇列。
• 資料條款。 某些免費方案允許供應商使用你的提示詞來改進他們的產品。對於公開文字的測試這沒問題，但對於私人文件、客戶訊息或個人小說則不太適合。
• 內容規則。 主流供應商會套用他們自己的安全過濾器。如果你的用途合法但帶有成人語調（例如小說、角色扮演或成人伴侶應用程式），經過過濾的模型會經常拒絕，且這些拒絕仍會消耗你的免費配額。

內容這一點常讓人驚訝。一個返回拒絕的免費請求在任何實用意義上都不是免費的，因為你花費了時間和部分配額卻一無所獲。如果你需要無過濾的模型，請先按此條件篩選免費選項列表。

自行架設開放權重模型

在自己的機器上運行模型是最接近真正免費的方式，但有一個缺點：你需要花費硬體和注意力。權重通常免費下載，但每個權重都有其自己的授權，因此如果你計劃在其上構建產品，請閱讀授權條款。

你實際上的花費：

• 記憶體。 模型必須適合 GPU 記憶體，或者如果你接受較慢的輸出，則適合系統記憶體。較大的模型需要更多記憶體，而通過量化縮小模型會在品質與空間之間進行取捨。
• 設定時間。 你需要安裝運行時、選擇量化、調整上下文視窗大小並保持所有內容更新。
• 電力與噪音。 GPU 在高負載下會消耗大量電力，筆記型電腦會讓你感受到這一點。
• 並行請求。 一塊 GPU 舒適地服務一兩個請求。同時服務十個使用者則是另一個專案。

對於學習、離線工作和預設隱私，本地運行非常出色。對於必須在任何時間從任何裝置回答的小型應用程式，許多開發者最終選擇租用容量。託管 API 將硬體固定成本轉化為每 token 成本，當你的用量小且不均勻時，這更便宜。

共用金鑰與社群代理

搜尋免費 API 你會找到公共端點、共用金鑰和業餘愛好者運行的代理列表。請對這些保持懷疑。共用金鑰可能在演示過程中被撤銷。運行代理的人可以讀取經過它的所有提示詞。沒有支援，沒有明確的限制，通常也無法知道是哪個模型在回答你。

如果你的提示詞包含任何你不會貼到公共論壇的內容，請完全跳過此類別。具有明確資料政策的小額付費餘額比無法識別擁有者的免費端點更划算。

本站試用提供什麼

此服務是一個託管的 OpenAI 相容文字 API，僅有一個模型 uncensored，經過調整以在法律允許的成人用途中無內容拒絕地回答。它沒有永久免費層級。它有試用：在你使用 Google 或電子郵件與密碼註冊後，API 金鑰頁面 會顯示一個按鈕，可領取 $0.50 的試用額度。只需一鍵，無需付款資訊，有效期 7 天，每人限領一次。

試用金鑰以 2 個並行請求和每分鐘 60 個請求的速度運行，這足以測試客戶端或提示詞。定價為每 1M 輸入 token $0.15，每 1M 輸出 token $0.50。以下是 $0.50 可購買幾種典型請求大小的精確計算結果：

請求大小	每次請求成本	每次請求費用 $0.50
輸入 500 token，輸出 200（短聊天回合）	$0.000075 + $0.000100 = $0.000175	約 2,857
輸入 2,000，輸出 500（帶有對話歷史的聊天）	$0.000300 + $0.000250 = $0.000550	約 909
輸入 20,000，輸出 1,000（長場景或文件）	$0.003000 + $0.000500 = $0.003500	約 142
輸入 90,000，輸出 2,000（接近 100,000 上下文視窗）	$0.013500 + $0.001000 = $0.014500	約 34

因此，試用額度足以運行幾百個真實請求，測試串流輸出，嘗試 JSON 模式和函式呼叫，並觀察模型如何處理你的提示詞。它並非用於運行產品。如需確切的設定步驟，文件中的快速入門指南 提供了 OpenAI SDK、Node 和 curl 的可用程式碼。

何時使用預付額度更划算

試用額度耗盡後，模型將從預付額度按量付費。無訂閱制。你可儲值 $20 至 $500 之間的任意整數金額，且額度永不過期，因此本月未使用的餘額下個月仍然存在。失敗或被拒絕的請求不會收費。較大的儲值享有獎金：$50 起 +5%，$100 起 +10%，$200 起 +15%。

獎金計算方式如下：

• $20 可購買 $20.00 的額度。
• $50 可獲得 $52.50（$2.50 的 5% 獎金）。
• $100 可獲得 $110.00（$10 的 10% 獎金）。
• $200 可獲得 $230.00（$30 的 15% 獎金）。

本站僅接受加密貨幣儲值：TRC20 上的 USDT 或 Base 上的 USDC。如果你沒有持有其中任一種，這將是一個實際的障礙，值得在開始前了解。定價頁面有目前的詳細資訊。

要了解 $20 儲值在實際上的意義，請使用與上述相同的請求大小。輸入 500 token、輸出 200 token 的情況下，$20 可涵蓋約 114,000 次請求。輸入 2,000 token、輸出 500 token 的情況下，可涵蓋約 36,000 次。業餘聊天應用程式若用戶不多，每月很少會花到這麼多錢，因此即使對於小型專案，最低儲值金額也是可行的。

在依賴任何免費選項前如何測試

無論你選擇哪條路，請花一個下午進行適當的測試，而不僅僅是發出一個 hello-world 請求。

1. 使用你的實際提示詞。 能寫出漂亮俳句的模型仍可能在你的系統提示詞、語言或輸出格式上失敗。
2. 測量拒絕次數。 發送二十個來自你實際用例的提示詞，並計算有多少被拒絕或弱化。
3. 故意觸發速率限制。發送並行請求，看看錯誤訊息長什麼樣子。在此情況下，超過每分鐘速率限制會返回 HTTP 429，並帶有 rate_limited 錯誤碼；同時請求過多則會返回 429，並帶有 concurrency 錯誤碼。暫時過載也會返回 429，並帶有 Retry-After: 5 標頭，因此你的客戶端應等待並重試。
4. 閱讀資料條款。 此處的提示詞不會用於訓練。對於任何其他服務，請取得書面聲明。
5. 估算付費成本。取你每次請求的平均 token 數，乘以預期請求數，然後進行比較。這項計算只需五分鐘，即可避免大多數意外狀況。

該服務僅限文字。沒有圖像、音訊或影片生成，沒有嵌入向量，也沒有微調，並且有一個硬性限制：禁止涉及未成年人的性內容。如果你的專案需要上述任何缺失的功能，其他地方的免費選項無法解決這個問題，所以請先解決這個問題。OpenAI 相容文字模型頁面說明了該端點涵蓋和不涵蓋的內容。

更多指南

• 角色扮演最佳本地 LLM，還是託管 API？
• Python 中的 NSFW LLM API：串流輸出、JSON 與工具
• 無審查 LLM API：OpenAI 相容文字模型