Prompt hệ thống LLM NSFW: Cấu trúc và Ví dụ

Prompt hệ thống làm gì trong ứng dụng truyện người lớn

Tin nhắn hệ thống là mục đầu tiên trong mảng messages. Mô hình đọc nó trước mỗi lượt và coi đó là hướng dẫn thường trực. Với một mô hình không kiểm duyệt, prompt quan trọng hơn so với mô hình lọc kỹ, vì không có lớp ẩn nào quyết định giọng điệu thay bạn. Những gì bạn không chỉ định, mô hình sẽ điền vào bằng các mặc định của riêng nó, và những mặc định đó thường phẳng, lặp lại hoặc quá dài.

Vì vậy, nhiệm vụ của prompt không phải là "jailbreak" thứ gì. Mô hình trên dịch vụ này được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người lớn hợp pháp, nên bạn không cần mẹo. Bạn cần định hướng: ai đang nói, ở đâu, theo phong cách nào, và ranh giới của câu chuyện ở đâu. Một prompt làm tốt việc này sẽ tạo ra các nhân vật nhất quán qua hàng trăm lượt.

Một quy tắc nằm ngoài khả năng kiểm soát của bạn và ngoài mọi prompt: nghiêm cấm nội dung tình dục liên quan đến người chưa thành niên. Hãy nêu trong prompt của bạn rằng mọi nhân vật đều là người lớn. Điều này giữ câu chuyện sạch sẽ và phù hợp với quy tắc dịch vụ trong tài liệu API.

Cấu trúc năm phần

Hầu hết các prompt duy trì được qua phiên dài đều có cùng khung xương. Hãy giữ mỗi phần chỉ vài dòng.

1. Vai diễn. Một câu về việc mô hình là ai. Hãy đưa ra một tên và công việc, không phải một danh sách tính từ.
2. Bối cảnh. Địa điểm, thời gian, mối quan hệ với nhân vật người dùng, và lưu ý rằng tất cả nhân vật đều là người lớn.
3. Giọng điệu. Nhân xưng và thì, độ dài câu, mức độ hài hước, vốn từ vựng. Hãy nói độ dài câu trả lời nên là bao nhiêu từ.
4. Quy tắc. Một vài hướng dẫn tích cực, chẳng hạn như "không bao giờ nói thay nhân vật người dùng" và "giữ các cảnh lịch sự và không mô tả chi tiết trừ khi người dùng điều hướng khác".
5. Dòng thoát. Những gì cần làm khi người dùng hỏi điều gì đó ngoài câu chuyện. Một câu ngắn ngoài vai, sau đó quay lại cảnh.

Chớ vội thêm phần thứ sáu, thứ bảy hay thứ tám. Mỗi đoạn văn bổ sung đều cạnh tranh sự chú ý, và các mô hình thường tuân thủ các dòng đầu và cuối của một prompt đáng tin cậy hơn phần giữa.

Ví dụ hoạt động bạn có thể gửi ngay hôm nay

Script bên dưới sử dụng OpenAI Python SDK. Chỉ base URL, khóa và model ID khác với thiết lập OpenAI tiêu chuẩn. Nếu bạn mới với endpoint, hướng dẫn Python bao gồm cài đặt và xử lý lỗi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.nsfwaiapi.com/v1", api_key="YOUR_KEY")

SYSTEM = """You are Mara, a ship's navigator in a slow-burn space drama.
Setting: the freighter Calloway, year 2412. Adults only, all characters are 18+.
Voice: dry, warm, quick with a joke. Replies are 80-150 words.
Write in third person past tense for narration, first person for dialogue.
Never speak or act for the user's character.
Stay in character. If the user asks for something outside the story, answer in one short out-of-character line, then offer to continue."""

history = [{"role": "system", "content": SYSTEM}]

def say(text):
    history.append({"role": "user", "content": text})
    r = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.9,
        top_p=0.95,
        presence_penalty=0.3,
    )
    reply = r.choices[0].message.content
    history.append({"role": "assistant", "content": reply})
    return reply

print(say("Mara, the engines are quiet tonight. Can't sleep?"))

Hãy chú ý những gì prompt không chứa. Không có đoạn xin lỗi, không có danh sách hai mươi từ bị cấm, không có hướng dẫn "hãy càng lộ liễu càng tốt". Nó cung cấp một nhân vật, một nơi, một giọng điệu và một độ dài. Mức độ lộ liễu sau đó tuân theo sự dẫn dắt của người dùng trong cuộc trò chuyện, đây là cách hầu hết độc giả truyện người lớn muốn nó hoạt động.

Yêu cầu tương tự với curl

Nếu bạn muốn kiểm thử một prompt trước khi tích hợp vào mã, curl rất nhanh. Tin nhắn hệ thống nằm ở vị trí đầu tiên, chính xác như trong Python.

Copycurl https://api.nsfwaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [
      {"role": "system", "content": "You are Mara, a navigator. Adults only. Stay in character. Replies under 120 words."},
      {"role": "user", "content": "Mara, are you still awake?"}
    ],
    "temperature": 0.9
  }'

Phản hồi là JSON hoàn thành trò chuyện tiêu chuẩn. Văn bản phản hồi nằm trong choices[0].message.content, và tiêu đề phản hồi X-Balance-USD hiển thị tín dụng còn lại của bạn sau cuộc gọi.

Cài đặt tương tác với prompt

Prompt chỉ là một nửa của hành vi. Các cài đặt lấy mẫu thay đổi mức độ mô hình tuân theo nó.

• temperature từ 0.8 đến 1.0 mang lại văn phong sinh động. Giảm xuống 0.6 nếu nhân vật đi chệch khỏi kịch bản.
• top_p khoảng 0.9 đến 0.95 cắt bỏ các lựa chọn từ ngữ kỳ lạ mà không làm phẳng giọng điệu.
• presence_penalty hoặc frequency_penalty từ 0,2 đến 0,5 giảm các cụm từ lặp lại trong các cuộc trò chuyện dài. Những cài đặt này được chuyển đến mô hình.
• seed hữu ích khi bạn so sánh hai phiên bản của một prompt: cố định seed và chỉ thay đổi văn bản.
• max_tokens là tùy chọn. Một hướng dẫn độ dài bên trong prompt thường hoạt động tốt hơn một giới hạn cứng, vì giới hạn cứng có thể cắt ngang một câu.

Thay đổi một thứ tại một thời điểm. Nếu bạn chỉnh sửa prompt và nhiệt độ cùng lúc, bạn sẽ không biết thay đổi nào đã giúp ích.

Các lỗi phổ biến và cách khắc phục

Mô hình nói thay người dùng

Thêm một dòng rõ ràng: "Không bao giờ viết lời nói, suy nghĩ hoặc hành động của nhân vật người dùng." Lặp lại nó như dòng cuối cùng của prompt. Mô hình đánh giá cao phần cuối của tin nhắn hệ thống.

Câu trả lời ngày càng dài hơn

Đưa ra một con số, chẳng hạn như "80 đến 150 từ". Từ ngữ mơ hồ như "súc tích" được đọc khác nhau ở mỗi lượt. Cũng hãy kiểm tra xem các tin nhắn ví dụ của chính bạn trong lịch sử có không dài, vì mô hình sao chép độ dài nó thấy.

Nhân vật quên bối cảnh sau nhiều lượt

Tin nhắn hệ thống luôn ở đầu, nên nó không bị rơi khỏi cửa sổ ngữ cảnh 100.000 token, nhưng chi tiết bị trôi trong lịch sử dài. Cứ sau 30 hoặc 40 lượt, hãy thêm một bản tóm tắt ngắn dưới dạng tin nhắn người dùng, hoặc tóm tắt các lượt cũ và thay thế chúng. hướng dẫn mô hình roleplay thảo luận về cách kích thước ngữ cảnh ảnh hưởng đến các cảnh dài.

Giọng điệu trở nên lặp lại

Thêm một gợi ý biến thể vào phần giọng điệu, chẳng hạn như "thay đổi cách mở đầu câu và tránh lặp lại một cụm từ đã dùng trong ba câu trả lời gần nhất", và tăng nhẹ presence penalty.

Trò chuyện ngoài vai

Xác định dòng thoát. Không có nó, mô hình tự diễn các lời tuyên bố miễn trừ.

Chi phí của system prompt

Tin nhắn hệ thống được gửi kèm theo mọi yêu cầu, nên nó được tính là đầu vào mỗi lần. Hãy lấy một prompt gồm 400 token. Với giá $0,15 cho 1M token đầu vào, 400 token tốn 400 / 1.000.000 x $0,15 = $0,00006 cho mỗi yêu cầu. Với 1.000 yêu cầu, đó là 400.000 token, tương đương $0,06.

Một cuộc hội thoại cũng mang theo lịch sử của nó, thường tốn kém hơn nhiều so với tin nhắn hệ thống. Giá output là $0,50 cho mỗi 1 triệu token, vì vậy một câu trả lời 150 từ (khoảng 200 token) tốn 200 / 1.000.000 x $0,50 = $0,0001. Các yêu cầu thất bại hoặc bị từ chối sẽ không bị tính phí. Giá hiện tại và số tiền nạp tiền là trên trang giá, và bạn có thể bắt đầu với một khóa dùng thử từ trang khóa API. Thanh toán bằng tiền mã hóa (USDT trên TRC20 hoặc USDC trên Base).

Bài học rút ra: một prompt 600 token không phải là vấn đề chi phí. Hãy viết prompt bạn cần và dành nỗ lực để kiểm tra nó thay vì cắt giảm nó.

Thêm hướng dẫn

• SillyTavern API tương thích OpenAI: Thiết lập từng bước
• LLM địa phương tốt nhất cho roleplaying, hay một API được lưu trữ?