Khóa API DeepSeek trong SillyTavern: Kết nối API của chúng tôi

Cài đặt nhanh

Để thiết lập khóa API DeepSeek trong SillyTavern, hãy làm rõ một điểm trước tiên. Khóa do nền tảng chính thức của DeepSeek cấp dùng cho endpoint của DeepSeek. Khóa bạn nhận được trên trang web này thuộc về một dịch vụ riêng biệt: một API độc lập, tương thích OpenAI, chạy một mô hình trọng số mở, được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp. Đây không phải là API chính thức của DeepSeek, nên hãy chỉ dùng khóa của trang web này với base URL của trang web này.

Các giá trị cần nhập trong SillyTavern là:

• Nguồn: Chat Completion, rồi Custom (tương thích OpenAI)
• Endpoint tùy chỉnh (URL cơ sở): https://api.deepseekapikey.com/v1
• Khóa API: khóa từ tài khoản của bạn
• ID mô hình: uncensored

SillyTavern thường xuyên cập nhật và nhãn menu có thể thay đổi nhẹ giữa các bản phát hành, vì vậy hãy khớp theo ý nghĩa nếu tên khác biệt. Phần còn lại của trang này sẽ hướng dẫn từng bước và các cài đặt quan trọng cho các cuộc chat nhân vật dài.

Hướng dẫn từng bước trên giao diện

1. Lấy khóa. Đăng ký trên trang khóa API bằng Google hoặc bằng email và mật khẩu. Người dùng mới có thể nhận $0,50 tín dụng dùng thử với một cú nhấp chuột, có hiệu lực trong 7 ngày, một người một lần, không cần thẻ.
2. Mở bảng kết nối API. Trong SillyTavern, hãy nhấp vào biểu tượng phích cắm ở đầu trang để mở API Connections.
3. Chọn loại API. Chọn Chat Completion từ menu thả xuống API. Các chế độ hoàn thành văn bản dành cho các backend nhận prompt thô; API này sử dụng các tin nhắn chat.
4. Chọn nguồn. Trong danh sách Chat Completion Source, chọn Custom (tương thích OpenAI).
5. Nhập endpoint. Dán https://api.deepseekapikey.com/v1 vào trường custom endpoint. SillyTavern tự thêm đường dẫn chat completions, vì vậy hãy để trống nó. Nếu bạn gặp lỗi 404 sau đó, hãy thử đường dẫn đầy đủ như một nỗ lực thứ hai.
6. Nhập khóa. Dán khóa vào trường custom API key.
7. Nhập mô hình. Nhập uncensored vào trường model ID. Nếu menu thả xuống mô hình tải từ endpoint GET /v1/models, bạn có thể chọn nó từ đó.
8. Kết nối. Nhấn Connect. Trạng thái màu xanh lá và tên mô hình cho thấy lệnh gọi đã thành công. Hãy gửi một tin nhắn cho nhân vật để xác nhận.

Nếu Connect thất bại, hãy thử nghiệm bên ngoài SillyTavern trong terminal. Thao tác này giúp cô lập vấn đề:

Copycurl https://api.deepseekapikey.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "uncensored", "messages": [{"role": "user", "content": "Reply with the word ready."}], "max_tokens": 10}'

Một phản hồi JSON bình thường có nghĩa là khóa và URL đều hợp lệ và vấn đề nằm ở các trường SillyTavern. Hướng dẫn nhanh liệt kê thêm các ví dụ.

Kích thước ngữ cảnh và độ dài phản hồi

Đây là nơi các cấu hình nhập vai hoạt động tốt hoặc lãng phí tiền. Mô hình có cửa sổ ngữ cảnh 100.000 token, tính cả prompt và phản hồi cộng lại. SillyTavern có thanh trượt Context Size riêng trong cài đặt sampling, điều khiển lượng lịch sử và dữ liệu nhân vật được gói vào mỗi yêu cầu.

Bạn có thể đặt nó cao đến 100.000, nhưng hãy nghĩ về ý nghĩa của điều đó. SillyTavern xây dựng toàn bộ prompt ở mỗi lượt: prompt hệ thống, thẻ nhân vật, mục lorebook, persona, sau đó là nhiều lịch sử chat nhất có thể. Cài đặt lớn hơn có nghĩa là mô hình thấy nhiều hơn quá khứ, và bạn phải trả tiền cho từng token đó lại trong mỗi tin nhắn.

Một cách thực tế để chọn:

• 8.000 đến 16.000 token: các cảnh ngắn và chat nhanh. Rẻ và nhanh.
• 30.000 đến 50.000 token: một câu chuyện dài với thẻ nhân vật chi tiết và lorebook. Tốt cho hầu hết người dùng.
• Lên đến 100.000 token: lorebook lớn hoặc câu chuyện liên tục rất dài. Hãy để lại một khoảng trống để prompt cộng phản hồi vẫn nằm dưới cửa sổ.

Đối với độ dài phản hồi, đặt Max Response Length từ 300 đến 600 token cho một phản hồi nhập vai điển hình. Tham số max tokens là tùy chọn trong API, nhưng SillyTavern gửi một giá trị và giới hạn này ngăn phản hồi quá dài làm tăng hóa đơn. Bật tùy chọn streaming để văn bản xuất hiện khi nó được tạo; API hỗ trợ server-sent events với stream: true.

Việc truyền các giá trị penalty và sampling hoạt động như giao diện gợi ý. Temperature, Top P, frequency penalty và presence penalty được gửi đến mô hình, và các chuỗi dừng cùng seed cố định cũng được truyền qua. Hãy bắt đầu với temperature khoảng 0.8 và điều chỉnh: thấp hơn nếu nhân vật mất dấu các dữ kiện, cao hơn nếu phản hồi có vẻ lặp lại.

Chi phí nhập vai

Giá là $0,15 cho mỗi 1M token đầu vào và $0,50 cho mỗi 1M token đầu ra. Đầu vào chiếm ưu thế do lịch sử được gửi lại. Các ví dụ đã tính toán, với một phản hồi 400 token mỗi lần:

Kiểm tra một hàng: 20.000 / 1.000.000 x $0,15 = $0,003, và 400 / 1.000.000 x $0,50 = $0,0002, cho ra $0,0032. Ở kích thước đó, tín dụng dùng thử $0,50 bao gồm khoảng 156 tin nhắn. Các yêu cầu thất bại hoặc bị từ chối không bị tính phí, vì vậy các lần thử lại sau lỗi không làm tăng hóa đơn. Swipe và tạo lại đều được tính, vì mỗi lần là một yêu cầu hoàn tất mới.

Tín dụng là tín dụng trả trước, không bao giờ hết hạn, và không có gói đăng ký. Nạp tiền bất kỳ số nguyên nào từ $20 đến $500, với +5% từ $50, +10% từ $100 và +15% từ $200. Ví dụ, nạp $100 sẽ được $110 tín dụng. Bạn có thể thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Trang bảng giá có danh sách hiện tại.

Chat nhóm, swipe và giới hạn tốc độ

SillyTavern có thể gửi nhiều yêu cầu gần nhau: chat nhóm nơi nhiều nhân vật trả lời theo trình tự, swipe và các tiện ích mở rộng tóm tắt hoặc tạo nội dung phụ. Khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút.

Nếu bạn thấy lỗi với mã concurrency, nghĩa là quá nhiều yêu cầu đang chạy cùng lúc. Bạn hãy đợi luồng hiện tại kết thúc trước khi gửi lại, vì một yêu cầu đang truyền phát sẽ giữ slot của nó cho đến khi luồng kết thúc. Lỗi với mã rate_limited nghĩa là bạn đã vượt quá giới hạn số lượng yêu cầu mỗi phút. Mã 429 kèm tiêu đề Retry-After: 5 là tình trạng quá tải tạm thời và sẽ tự hết nhanh chóng.

Đối với các câu chuyện dài, bạn hãy cân nhắc sử dụng phần mở rộng tóm tắt hoặc các mục trong lorebook để duy trì các sự kiện quan trọng, giúp bạn giữ kích thước ngữ cảnh ở mức thấp hơn. Một bản tóm tắt ngắn về các sự kiện trước đó ở đầu prompt sẽ tốn ít token hơn nhiều so với việc giữ nguyên năm mươi nghìn token lịch sử thô.

Khắc phục các vấn đề phổ biến

Kết nối báo lỗi không được ủy quyền

Khóa API của bạn không đúng, có thể có khoảng trắng ở cuối hoặc được tạo từ một dịch vụ khác. Khóa do nền tảng DeepSeek cấp phát sẽ không hoạt động với base URL này.

Kết nối báo lỗi không tìm thấy

Bạn hãy kiểm tra lại chính tả của endpoint. Trong cấu hình phổ biến, endpoint của bạn nên kết thúc bằng /v1. Một số phiên bản yêu cầu đường dẫn đầy đủ cho các lệnh hoàn thành hội thoại, vì vậy nếu dạng ngắn không hoạt động, bạn hãy thử https://api.deepseekapikey.com/v1/chat/completions.

Các phản hồi ngắn hoặc bị cắt ngang

Bạn hãy tăng chiều dài phản hồi tối đa. Nếu việc bị cắt ngang chỉ xảy ra trong các cuộc hội thoại dài, có thể prompt của bạn đang gần giới hạn cửa sổ ngữ cảnh; bạn hãy giảm kích thước ngữ cảnh một chút để dành chỗ cho phản hồi.

Nhân vật quên các sự kiện trước đó

Đó là do cài đặt ngữ cảnh. Bạn hãy tăng giá trị này, hoặc đưa các sự kiện quan trọng vào thẻ nhân vật, persona hoặc một mục trong lorebook để chúng luôn xuất hiện trong mỗi prompt.

Phản hồi bị từ chối

Mô hình được tinh chỉnh để tránh việc từ chối nội dung cho mục đích người trưởng thành hợp pháp, nhưng một quy tắc không thay đổi: không có nội dung tình dục liên quan đến người chưa thành niên. Các nhân vật và kịch bản thuộc lĩnh vực đó sẽ bị từ chối. Dịch vụ chỉ hỗ trợ văn bản, vì vậy việc tạo ảnh trong SillyTavern cần một backend khác.

Các prompt gửi qua API không được dùng để huấn luyện. Các tệp trò chuyện của bạn vẫn nằm trong thư mục dữ liệu của SillyTavern trên máy của bạn trừ khi bạn di chuyển chúng. Nếu bạn muốn tìm hiểu thêm về sự khác biệt giữa dịch vụ này với dịch vụ của DeepSeek, hãy xem DeepSeek API: những hiểu lầm và sự thật.

Hướng dẫn khác

• Khóa API DeepSeek trong Janitor AI: Hướng dẫn thiết lập với API của chúng tôi
• Khóa API DeepSeek trong VS Code: Hướng dẫn sử dụng API của chúng tôi
• API DeepSeek: Hiểu lầm vs. Sự thật về truy cập không kiểm duyệt