LLM API ฟรีมีอะไรบ้าง? ตัวเลือก ขีดจำกัด และการทดลองใช้จริง ขีดจำกัด และการทดลองใช้จริง

คำตอบสั้นๆ: ประเภทฟรีมีสามแบบ

เมื่อผู้คนถามว่า llm api แบบไหนฟรี พวกเขามักหมายถึงสิ่งใดสิ่งหนึ่งในสามอย่างนี้ และความแตกต่างเหล่านี้สำคัญกว่าป้ายราคา

• แพ็กเกจฟรี จากผู้ให้บริการแบบโฮสต์ คุณจะได้รับปริมาณการใช้งานที่จำกัด มักมีขีดจำกัดอัตราการใช้งานที่เข้มงวด และเงื่อนไขอาจเปลี่ยนแปลงได้โดยมีการแจ้งให้ทราบไม่มากนัก
• โมเดลที่คุณรันเอง น้ำหนักของโมเดลแบบเปิดจำนวนมากสามารถดาวน์โหลดได้ฟรี แต่การ์ดจอ ไฟฟ้า และเวลาในการตั้งค่าของคุณนั้นไม่ฟรี
• เครดิตทดลอง ยอดเงินแบบเติมเงินล่วงหน้าจำนวนเล็กน้อยที่ให้คุณทดสอบบริการจริงด้วยคำขอจริง ก่อนที่จะเติมเงิน

ไม่มีสิ่งใดในนี้ที่เป็น API ฟรีถาวรสำหรับผลิตภัณฑ์ที่มีผู้ใช้งาน หากคุณต้องการเพียงลองโมเดล เขียนโปรโตไทป์ หรือตรวจสอบว่าเอนด์พอยต์ทำงานกับไคลเอนต์ของคุณหรือไม่ ตัวเลือกทั้งสามอย่างนี้สามารถทำได้ หากคุณกำลังสร้างสิ่งที่ผู้คนจะใช้ทุกวัน ให้วางแผนเส้นทางแบบเสียเงินตั้งแต่เริ่มต้น เพราะช่วงเวลาที่ระดับฟรีหมดลง มักเป็นช่วงเวลาที่คุณมีงานมากที่สุด

ระดับฟรีโดยทั่วไปมีลักษณะอย่างไร

ระดับฟรีแตกต่างกันไปตามผู้ให้บริการและเปลี่ยนแปลงอยู่บ่อยครั้ง ดังนั้นให้พิจารณาส่วนนี้เป็นรายการสิ่งที่ต้องตรวจสอบ ไม่ใช่การระบุเจาะจงถึงบริษัทใดบริษัทหนึ่ง สำหรับตัวเลขปัจจุบัน โปรดตรวจสอบหน้าราคาและเงื่อนไขปัจจุบันของพวกเขา

• ขีดจำกัดคำขอ การใช้งานฟรีมักจำกัดต่อนาทีและต่อวัน แอปแชทที่มีผู้ใช้ไม่กี่คนอาจถึงขีดจำกัดเหล่านี้ได้ในบ่ายวันเดียว
• ตัวเลือกโมเดล การเข้าถึงแบบฟรีอาจครอบคลุมเฉพาะโมเดลขนาดเล็กหรือรุ่นเก่า หรือคิวที่มีความสำคัญต่ำกว่า
• เงื่อนไขข้อมูล ข้อเสนอฟรีบางรายการอนุญาตให้ผู้ให้บริการนำพรอมต์ของคุณไปปรับปรุงผลิตภัณฑ์ของตน ซึ่งใช้ได้กับการทดสอบด้วยข้อความสาธารณะ แต่ไม่เหมาะสำหรับเอกสารส่วนตัว ข้อความลูกค้า หรืองานเขียนเชิงสร้างสรรค์ส่วนบุคคล
• กฎเนื้อหา ผู้ให้บริการกระแสหลักใช้ตัวกรองความปลอดภัยของตนเอง หากคุณใช้งานถูกต้องตามกฎหมายแต่มีโทนสำหรับผู้ใหญ่ เช่น งานเขียนเชิงสร้างสรรค์ บทบาทสมมติ หรือแอปเพื่อนสำหรับผู้ใหญ่ โมเดลที่มีตัวกรองจะปฏิเสธบ่อยครั้ง และการปฏิเสธเหล่านั้นยังคงกินโควตาฟรีของคุณ

ประเด็นเรื่องเนื้อหาเป็นสิ่งที่ทำให้ผู้คนประหลาดใจ คำขอฟรีที่ส่งผลการปฏิเสธออกมานั้นไม่ได้ "ฟรี" ในความหมายใดเลย เพราะคุณเสียเวลาและส่วนหนึ่งของข้อจำกัดของคุณไปโดยเปล่าประโยชน์ หากคุณต้องการโมเดลที่ไม่มีการกรอง ให้กรองรายการตัวเลือกฟรีโดยพิจารณาจากจุดนี้เป็นอันดับแรก

โฮสต์โมเดลแบบเปิดน้ำหนักเอง

การรันโมเดลบนเครื่องของคุณเองคือสิ่งที่ใกล้เคียงกับการได้ใช้ฟรีอย่างแท้จริง โดยมีเงื่อนไข: คุณจ่ายด้วยฮาร์ดแวร์และความเอาใจใส่ น้ำหนักโมเดลมักดาวน์โหลดได้ฟรี แม้แต่ละอันจะมีใบอนุญาตเป็นของตัวเอง ดังนั้นโปรดอ่านหากคุณวางแผนสร้างผลิตภัณฑ์จากมัน

สิ่งที่คุณใช้จ่ายจริง:

• หน่วยความจำ โมเดลต้องพอดีกับหน่วยความจำ GPU หรือในหน่วยความจำระบบหากคุณยอมรับผลลัพธ์ที่ช้ากว่า โมเดลขนาดใหญ่ต้องการมากกว่านั้น และการลดขนาดโมเดลด้วยการทำให้เป็นควอนไทซ์เป็นการแลกเปลี่ยนคุณภาพบางส่วนเพื่อประหยัดพื้นที่
• เวลาในการตั้งค่า คุณติดตั้งรันไทม์ เลือกการทำให้เป็นควอนไทซ์ ปรับขนาดหน้าต่างบริบท และอัปเดตทุกอย่างให้ทันสมัย
• พลังงานและเสียงรบกวน GPU ที่ทำงานหนักใช้ไฟฟ้าจริง และแล็ปท็อปจะบอกคุณเกี่ยวกับเรื่องนี้
• ความสามารถในการรองรับคำขอพร้อมกัน GPU หนึ่งตัวให้บริการคำขอหนึ่งหรือสองคำขอได้อย่างสบาย การให้บริการผู้ใช้สิบคนพร้อมกันคือโครงการที่แตกต่างออกไป

สำหรับการเรียนรู้ งานออฟไลน์ และความเป็นส่วนตัวโดยค่าเริ่มต้น การใช้งานในเครื่องนั้นยอดเยี่ยมมาก สำหรับแอปขนาดเล็กที่ต้องตอบจากอุปกรณ์ใดๆ ก็ได้ในทุกเวลา ผู้พัฒนาจำนวนมากลงเอยด้วยการเช่าความจุ API แบบโฮสต์เปลี่ยนต้นทุนคงที่ของฮาร์ดแวร์เป็นต้นทุนต่อโทเคน ซึ่งถูกกว่าเมื่อการใช้งานของคุณมีขนาดเล็กและไม่สม่ำเสมอ

คีย์ API ร่วมและพร็อกซ์ชุมชน

ค้นหา API ฟรีแล้วคุณจะพบรายการเอนด์พอยต์สาธารณะ คีย์ API ร่วม และพร็อกซ์ที่ดำเนินการโดยนักอดิเรก ให้พิจารณาสิ่งเหล่านี้ด้วยความสงสัย คีย์ API ร่วมสามารถเพิกถอนได้ระหว่างการทำสาธิต คนที่ดูแลพร็อกซ์สามารถอ่านพรอมต์ทั้งหมดที่ผ่านมันได้ ไม่มีบริการช่วยเหลือ ไม่มีข้อจำกัดที่ระบุชัดเจน และมักไม่มีวิธีที่จะบอกได้ว่าโมเดลใดกำลังตอบคุณ

หากพรอมต์ของคุณมีเนื้อหาที่คุณไม่ต้องการวางในฟอรัมสาธารณะ ให้ข้ามหมวดหมู่นี้ไปเลย ยอดเงินแบบเสียเงินที่มีนโยบายข้อมูลชัดเจนเป็นตัวเลือกที่ดีกว่าเอนด์พอยต์ฟรีที่คุณไม่สามารถระบุตัวเจ้าของได้

เครดิตทดลองใช้บนเว็บไซต์นี้ให้คุณอย่างไร

บริการนี้คือ API ข้อความที่เข้ากันได้กับ OpenAI แบบโฮสต์ โดยมีโมเดลหนึ่งตัวคือ uncensored ซึ่งปรับแต่งมาให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ไม่มีระดับฟรีถาวร มีเพียงเครดิตทดลองใช้: หลังจากคุณเข้าสู่ระบบด้วย Google หรือด้วยอีเมลและรหัสผ่าน หน้า คีย์ API จะแสดงปุ่มที่อ้างเครดิตทดลองใช้มูลค่า $0.50 ใช้คลิกเพียงครั้งเดียว ไม่ต้องใส่รายละเอียดการชำระเงิน มีอายุการใช้งาน 7 วัน และจำกัดเพียงหนึ่งต่อบุคคล

คีย์ทดลองทำงานที่ 2 คำขอพร้อมกันและ 60 คำขอต่อนาที ซึ่งเพียงพอสำหรับการทดสอบไคลเอนต์หรือพรอมต์ ราคาอยู่ที่ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต นี่คือสิ่งที่ $0.50 ซื้อได้สำหรับขนาดคำขอทั่วไปบางรายการ คำนวณอย่างแม่นยำ:

ขนาดคำขอ	ต้นทุนต่อคำขอ	คำขอสำหรับ $0.50
500 โทเคนเข้า, 200 ออก (การสนทนาสั้นๆ)	$0.000075 + $0.000100 = $0.000175	ประมาณ 2,857
2,000 เข้า, 500 ออก (แชทที่มีประวัติ)	$0.000300 + $0.000250 = $0.000550	ประมาณ 909
20,000 เข้า, 1,000 ออก (ฉากยาวหรือเอกสาร)	$0.003000 + $0.000500 = $0.003500	ประมาณ 142
90,000 เข้า, 2,000 ออก (ใกล้กับหน้าต่าง 100,000)	$0.013500 + $0.001000 = $0.014500	ประมาณ 34

ดังนั้นเครดิตทดลองจึงเพียงพอสำหรับรันคำขอจริงจำนวนหลายร้อยคำขอ ทดสอบสตรีมมิง ลองใช้โหมด JSON และการเรียกใช้ฟังก์ชัน และดูพฤติกรรมของโมเดลกับพรอมต์ของคุณ ไม่ได้มีไว้สำหรับรันผลิตภัณฑ์ สำหรับขั้นตอนการตั้งค่าที่ถูกต้อง ดูขั้นตอนเริ่มต้นอย่างรวดเร็วในเอกสาร ซึ่งมีโค้ดตัวอย่างสำหรับ OpenAI SDK, Node และ curl

เมื่อใดที่เครดิตแบบเติมเงินล่วงหน้ามีความเหมาะสม

เมื่อเครดิตทดลองหมด การเรียกเก็บเงินจะดำเนินการแบบจ่ายตามการใช้งานจากเครดิตแบบเติมเงินล่วงหน้า ไม่มีระบบสมาชิก คุณสามารถเติมเงินจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 และเครดิตจะไม่หมดอายุ ดังนั้นยอดเงินที่คุณไม่ได้ใช้ในเดือนนี้ยังคงอยู่ในเดือนถัดไป คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน การเติมเงินจำนวนมากขึ้นจะได้รับโบนัส: +5% จาก $50, +10% จาก $100 และ +15% จาก $200

โบนัสทำงานได้ดังนี้:

• $20 ซื้อเครดิตมูลค่า $20.00
• $50 ซื้อเครดิตมูลค่า $52.50 (โบนัส 5% มูลค่า $2.50)
• $100 ซื้อเครดิตมูลค่า $110.00 (โบนัส 10% มูลค่า $10)
• $200 ซื้อเครดิตมูลค่า $230.00 (โบนัส 15% มูลค่า $30)

เว็บไซต์นี้รับเติมเงินด้วยคริปโตเท่านั้น: USDT บน TRC20 หรือ USDC บน Base หากคุณไม่ได้ถือครองอย่างใดอย่างหนึ่ง นั่นเป็นอุปสรรคจริงและควรทราบก่อนเริ่ม ดูรายละเอียดปัจจุบันได้ที่ หน้าราคา

เพื่อดูว่าเติมเงิน $20 ใช้งานได้จริงอย่างไร ให้ใช้ขนาดคำขอเหมือนด้านบน ที่ 500 โทเคนเข้าและ 200 ออก $20 ครอบคลุมคำขอประมาณ 114,000 คำขอ ที่ 2,000 เข้าและ 500 ออก ครอบคลุมประมาณ 36,000 แอปแชทงานอดิเรกที่มีผู้ใช้ไม่กี่คนมักไม่ใช้จ่ายขนาดนั้นในหนึ่งเดือน ซึ่งเป็นเหตุผลที่ขั้นต่ำใช้งานได้แม้กับโปรเจกต์ขนาดเล็ก

วิธีการทดสอบตัวเลือกฟรีใดๆ ก่อนที่จะพึ่งพา

ไม่ว่าคุณจะเลือกเส้นทางใด ให้ใช้เวลาหนึ่งบ่ายกับการทดสอบอย่างจริงจังแทนที่จะเป็นแค่การเรียกโปรแกรมเริ่มต้น

1. ใช้พรอมต์จริงของคุณ โมเดลที่เขียนกลอนไฮกุได้สวยงามอาจยังล้มเหลวกับระบบพรอมต์ ภาษา หรือรูปแบบเอาต์พุตของคุณ
2. วัดการปฏิเสธ ส่งพรอมต์ยี่สิบอันจากกรณีใช้งานจริงของคุณและนับจำนวนที่กลับมาในสถานะถูกปฏิเสธหรือถูกปรับลด
3. กระตุ้นขีดจำกัดโดยเจตนา ส่งคำขอแบบขนานและดูรูปแบบข้อผิดพลาด การเกินขีดจำกัดต่อนาทีจะส่ง HTTP 429 พร้อมโค้ด rate_limited และการส่งคำขอพร้อมกันมากเกินไปจะส่ง 429 พร้อม concurrency การโอเวอร์โหลดชั่วคราวก็ส่ง 429 พร้อมหัว Retry-After: 5 ดังนั้นไคลเอนต์ของคุณควรรอและลองใหม่
4. อ่านข้อกำหนดข้อมูล พรอมต์ที่นี่ไม่ถูกนำไปใช้สำหรับการฝึกโมเดล สำหรับบริการอื่นๆ ให้หาข้อความดังกล่าวเป็นลายลักษณ์อักษร
5. ประมาณการค่าใช้จ่ายแบบเสียเงิน นำจำนวนโทเคนเฉลี่ยต่อคำขอ คูณกับจำนวนคำขอที่คาดการณ์ แล้วเปรียบเทียบ การคำนวณใช้เวลาห้านาทีและป้องกันความประหลาดใจส่วนใหญ่

บริการนี้รองรับเฉพาะข้อความ ไม่มีสร้างภาพ เสียง หรือวิดีโอ ไม่มี embeddings และไม่มี fine-tuning และมีขีดจำกัดชัดเจน: ไม่มีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ หากโปรเจกต์ของคุณต้องการฟีเจอร์ที่ขาดไปเหล่านี้ ตัวเลือกฟรีที่อื่นก็ไม่สามารถแก้ไขได้ ดังนั้นควรจัดการเรื่องนี้ให้เรียบร้อยก่อน หน้าโมเดลข้อความที่เข้ากันได้กับ OpenAIอธิบายว่าเอนด์พอยต์นี้ทำอะไรและครอบคลุมอะไรบ้าง

คู่มือเพิ่มเติม

• LLM ท้องถิ่นที่ดีที่สุดสำหรับบทบาทสมมติ หรือ API แบบโฮสต์?
• NSFW LLM API ใน Python: การสตรีมมิง, JSON และเครื่องมือ
• API LLM แบบไม่เซ็นเซอร์: โมเดลข้อความที่เข้ากันได้กับ OpenAI