無料のLLM APIは？選択肢、制限、実際のトライアル

短い答え：3種類の無料

「無料のLLM APIは何ですか？」と尋ねる人は、通常3つの異なる意味で質問しています。その違いは、価格タグよりも重要です。

• ホスト型プロバイダーからの無料枠。制限付きの使用量を得られ、多くの場合レート制限が厳しく、条項はあまり通知なく変更される可能性があります。
• 自分で実行するモデル。多くのオープンモデルの重みはダウンロードにコストがかかりません。GPU、電気、セットアップ時間は無料ではありません。
• トライアルクレジット。 お金を投入する前に、実際のリクエストで実際のサービスをテストできる小さな前払い残高です。

これらはすべて、ユーザーを持つ製品のための恒久的な無料APIではありません。モデルを試すだけ、プロトタイプを書くだけ、またはエンドポイントがクライアントと動作するか確認したいだけなら、3つのオプションのいずれかが要件を満たすことができます。しかし、毎日人が使うものを作っている場合は、無料枠が終了する瞬間は通常プロジェクトが最も忙しい時期であるため、最初から有料のパスを計画してください。

無料枠は通常どのようなものか

無料枠はプロバイダーによって異なり、頻繁に変更されるため、このセクションは特定の企業に関する声明ではなく、確認すべき事項のチェックリストとして扱ってください。現在の数値については、各社の現在の価格ページと利用規約ページを確認してください。

• リクエストの制限。 無料の使用量は通常、1分あたりおよび1日あたりに制限されます。数人のユーザーを持つチャットアプリは、午後にはこれらの制限に達する可能性があります。
• モデルの選択。 無料アクセスは、小さく古いモデルのみ、または優先度の低いキューのみをカバーする場合があります。
• データ条項。 一部の無料提供では、プロバイダーがプロンプトを使用して製品を改善することを許可しています。これは公開テキストでのテストには適していますが、プライベートな文書、顧客メッセージ、または個人のフィクションには適していません。
• コンテンツルール。 メインストリームのプロバイダーは独自の安全フィルターを適用します。あなたの用途が合法的だが大人向けのトーン（フィクション、ロールプレイ、または大人向けのコンパニオンアプリなど）である場合、フィルター付きモデルは頻繁に拒否し、拒否は無料クォータを消費します。

コンテンツの拒否は人々を驚かせる点です。拒否を返すだけの無料リクエストは、有用な意味では無料ではありません。なぜなら、あなたは時間と上限の一部を何のためにも費やしたことになるからです。フィルタなしのモデルが必要なら、無料オプションのリストをまずそれに基づいて絞り込んでください。

オープンウェイトモデルのセルフホスティング

自分のマシンでモデルを実行するのは、真に無料に最も近い方法ですが、代償があります：ハードウェアと注意力で支払うことになります。重みパラメータは多くの場合無料でダウンロードできますが、それぞれに独自のライセンスがあるため、製品を構築する予定ならライセンスを読んでください。

実際に費やすもの：

• メモリ。 モデルはGPUメモリ、またはより遅い出力を受け入れるならシステムメモリに収まる必要があります。大きなモデルはより多くのメモリを必要とし、量子化によってモデルを小さくすると、品質を犠牲にしてスペースを節約することになります。
• セットアップ時間。 ランタイムをインストールし、量子化を選択し、コンテキストサイズを調整し、すべてを更新し続けます。
• 電力とノイズ。 負荷がかかるGPUは実際の電力を消費し、ラップトップはそれを知らせてくれます。
• 同時実行数。 1つのGPUは快適に1〜2つのリクエストを処理します。10人のユーザーを同時にサービスすることは、異なるプロジェクトです。

学習、オフライン作業、デフォルトのプライバシーにはローカルが最適です。いつでもどこからでも応答する小さなアプリの場合、多くの開発者は最終的に容量をレンタルすることになります。ホスト型APIはハードウェアの固定コストをトークンごとのコストに変換し、使用量が少なく不均等な場合に安価になります。

共有キーとコミュニティプロキシ

無料のAPIを検索すると、パブリックエンドポイント、共有キー、およびホビーティストが運営するプロキシのリストが見つかります。これらは疑ってかかる必要があります。共有キーはデモの途中で取り消される可能性があります。プロキシを運営している人は、通過するすべてのプロンプトを読むことができます。サポートはなく、明示された制限もなく、どのモデルがあなたに応答しているかを判断する方法がないことも多いです。

プロンプトに公共フォーラムに貼り付けたくないものが含まれている場合は、このカテゴリを完全にスキップしてください。明確なデータポリシーを持つ小さな有料残高は、所有者が特定できない無料エンドポイントよりも良い取引です。

このサイトのトライアルで得られるもの

このサービスは、1つのモデルuncensoredを持つホストされたOpenAI互換テキストAPIで、法的な成人向け利用のためにコンテンツ拒否なしで回答するようにチューニングされています。恒久的な無料枠はありません。トライアルがあります：Google、またはメールとパスワードでサインアップした後、APIキーページに$0.50のトライアルクレジットを取得するボタンが表示されます。ワンクリックで完了し、支払い情報の登録は不要で、有効期限は7日間、1人あたり1回限りの制限があります。

トライアルキーは同時2リクエスト、1分あたり60リクエストで動作し、クライアントやプロンプトのテストには十分です。価格は1M入力トークンあたり$0.15、1M出力トークンあたり$0.50です。$0.50でいくつかの典型的なリクエストサイズで何ができるか、正確に計算したものが以下です：

リクエストサイズ	リクエストあたりのコスト	0.50ドルあたりのリクエスト数
500トークン入力、200トークン出力（短いチャットターン）	$0.000075 + $0.000100 = $0.000175	約2,857
2,000トークン入力、500トークン出力（履歴付きチャット）	$0.000300 + $0.000250 = $0.000550	約909
20,000トークン入力、1,000トークン出力（長いシーンまたはドキュメント）	$0.003000 + $0.000500 = $0.003500	約142
90,000トークン入力、2,000トークン出力（100,000ウィンドウに近い）	$0.013500 + $0.001000 = $0.014500	約34

つまり、トライアルクレジットでは数百件の実用的なリクエストを実行し、ストリーミングを試したり、JSON モードや関数呼び出しを試したり、プロンプトに対するモデルの動作を確認するのに十分な量です。製品を稼働させる目的ではありません。正確なセットアップ手順については、ドキュメントのクイックスタートに、OpenAI SDK、Node.js、curl の動作コードが記載されています。

前払いクレジットが適切な場合

トライアルクレジットを使い切ると、モデルは前払いクレジットからの従量課金になります。サブスクリプションはありません。$20から$500までの任意の整数金額でチャージでき、クレジットの有効期限はないため、今月使わなかった残高は翌月にも残ります。失敗または拒否されたリクエストには課金されません。大きなチャージにはボーナスが付きます：$50から+5%、$100から+10%、$200から+15%。

ボーナスは以下のように計算されます：

• $20は$20.00のクレジットを購入します。
• $50は$52.50を購入します（$2.50の5%ボーナス）。
• $100は$110.00を購入します（$10の10%ボーナス）。
• $200は$230.00を購入します（$30の15%ボーナス）。

当サイトでは暗号資産のチャージのみを受け付けます：TRC20上のUSDTまたはBase上のUSDC。どちらかを持っていない場合は、それは大きな障壁であり、始める前に知っておく価値があります。現在の詳細は価格ページをご覧ください。

$20のチャージが実際に何を意味するかを確認するには、上記と同じリクエストサイズを使用してください。入力500トークン、出力200トークンの場合、$20は約114,000件のリクエストをカバーします。入力2,000トークン、出力500トークンの場合、約36,000件をカバーします。数人のユーザーを持つホビーチャットアプリが1ヶ月でそれだけ消費することは滅多にないため、最小額でも小規模なプロジェクトで実用的です。

信頼する前に無料のオプションをテストする方法

どのルートを選んでも、単なるhello-world呼び出しではなく、適切なテストに1午後を費やしてください。

1. 実際のプロンプトを使用する。 美しい俳句を書くモデルでも、システムプロンプト、言語、または出力形式で失敗する可能性があります。
2. 拒否を測定する。 実際のユースケースからの20個のプロンプトを送信し、拒否または緩和された応答で返ってくるものの数をカウントします。
3. 意図的に制限をトリガーする。 リクエストを並行して送信し、エラーがどのように見えるかを確認します。ここでは、1分あたりの制限を超えるとHTTP 429が返され、コードはrate_limitedになります。同時リクエストが多すぎると、429が返され、concurrencyになります。一時的な過負荷も、Retry-After: 5ヘッダーとともに429を返すため、クライアントは待機して再試行する必要があります。
4. データ利用規約を読む。 ここで送られたプロンプトはトレーニングには使用されません。他のサービスについては、書面での規定を確認してください。
5. 有料のコストを見積もる。 1リクエストあたりの平均トークン数に期待されるリクエスト数を掛け、比較してください。この計算には5分しかかかりませんし、予期せぬコストの発生を防げます。

このサービスはテキストのみです。画像、音声、動画の生成、埋め込み、ファインチューニングはなく、未成年者が関わる性的コンテンツは禁止されています。プロジェクトにこれらの欠けている機能のいずれかが必要なら、他の場所の無料オプションでは解決しないため、まずそれを解決してください。OpenAI互換テキストモデルのページで、エンドポイントが何をカバーし、何をカバーしないかが説明されています。

その他のガイド

• ロールプレイに最適なローカルLLMか、ホスト型APIか？
• PythonでのNSFW LLM API：ストリーミング、JSON、ツール
• 無検閲LLM API：OpenAI互換テキストモデル