Tài liệu tham khảo API: Chat Completions

Bắt đầu nhanh: Yêu cầu Đầu tiên

Gửi yêu cầu hoàn tất hội thoại đầu tiên của bạn trong dưới một phút. Điểm cuối chấp nhận các tải trọng OpenAI tiêu chuẩn và trả về các phản hồi văn bản không giới hạn. Khởi tạo khách hàng với khóa API và URL cơ sở của bạn. Sau đó gọi điểm cuối hoàn tất hội thoại với ID mô hình được đặt là "uncensored". Mô hình tạo văn bản mà không có từ chối nội dung cho việc sử dụng người lớn hợp pháp.

Bạn có thể xác minh kết nối bằng cách liệt kê các mô hình có sẵn. Điều này xác nhận máy chủ có thể truy cập được và thông tin xác thực của bạn là hợp lệ. Phản hồi xác nhận ID mô hình và khả năng truy cập của điểm cuối.

Xác thực và Base URL

Sử dụng khóa API của bạn cho mọi yêu cầu đến URL cơ sở https://api.geminisemcensura.com/v1. Khóa được tạo ngay lập tức khi bạn đăng ký qua Google hoặc email. Chuyển nó trong Authorization header dưới dạng mã Bearer. Nếu bạn tạo khóa mới, khóa cũ sẽ không còn hiệu lực ngay lập tức. Điều này giúp đơn giản hóa việc quản lý thông tin xác thực cho các ứng dụng của bạn. Bạn có thể tạo lại khóa trực tiếp từ bảng điều khiển mà không mất tín dụng trả trước.

Tham số: Nhiệt độ, Top P và Dừng

Kiểm soát độ ngẫu nhiên trong sinh văn bản bằng các tham số tiêu chuẩn. Đặt temperature để điều chỉnh sự sáng tạo. Các giá trị thấp hơn tạo ra các đầu ra mang tính xác định hơn. Các giá trị cao hơn đưa ra sự biến đổi. Sử dụng top_p để lấy mẫu nucleus nhằm giới hạn tập hợp token. Mô stop tham số dừng quá trình tạo khi một chuỗi cụ thể xuất hiện. Điều này hữu ích để kiểm soát độ dài hoặc cấu trúc đầu ra.

Các tham số này hoạt động chính xác như trong SDK OpenAI. Bạn có thể tinh chỉnh phong cách phản hồi mà không thay đổi mô hình. Mô hình không kiểm duyệt tôn trọng các ràng buộc này trong khi duy trì khả năng không từ chối nội dung của nó. Điều chỉnh chúng cho phù hợp với trường hợp sử dụng cụ thể của bạn.

Phản hồi luồng (SSE)

Bật phát trực tiếp bằng cách đặt stream thành true. Máy chủ trả về một chuỗi các Sự kiện được gửi qua máy chủ. Mỗi sự kiện chứa một đoạn văn bản được tạo ra một phần. Điều này cho phép bạn hiển thị đầu ra theo thời gian thực. Nó làm giảm độ trễ cảm nhận đối với người dùng cuối.

Chunk cuối cùng bao gồm thống kê sử dụng token. Bạn có thể theo dõi token đầu vào và đầu ra để đảm bảo tính chính xác khi tính phí. Lỗi trong quá trình streaming được gửi dưới dạng sự kiện cuối cùng kèm theo đối tượng lỗi. Hãy xử lý các sự kiện này để quản lý các gián đoạn mạng một cách duyên dáng.

Gọi công cụ và chế độ JSON

Sử dụng gọi hàm để tích hợp các công cụ bên ngoài. Xác định các hàm trong tools tham số. Mô hình trả về các đối số có cấu trúc cho hàm được chỉ định. Bạn thực thi hàm và gửi kết quả trở lại mô hình. Điều này cho phép các quy trình làm việc nhiều bước phức tạp. Chế độ JSON bắt buộc đầu ra JSON nghiêm ngặt. Sử dụng response_format với json_object cho việc phân tích đáng tin cậy.

Mô hình không kiểm duyệt xử lý các định nghĩa công cụ mà không từ chối dựa trên chủ đề. Nó hỗ trợ các lược đồ công cụ tiêu chuẩn của OpenAI. Điều này đảm bảo tương thích với các thư viện sử dụng công cụ hiện có. Bạn có thể xây dựng các tác nhân tương tác với API hoặc cơ sở dữ liệu một cách liền mạch.

Giới hạn và Hạn ngạch

API áp dụng các giới hạn tốc độ nghiêm ngặt để đảm bảo sự ổn định. Bạn được phép 300 yêu cầu mỗi phút mỗi khóa. Độ đồng bộ được giới hạn ở 8 yêu cầu đồng thời. Kích thước thân yêu cầu tối đa là 8 MB. Cửa sổ ngữ cảnh hỗ trợ 100,000 token cho đầu vào và đầu ra kết hợp. Đầu ra tối đa mặc định là 2,048 token trừ khi bạn chỉ định khác.

Nếu bạn vượt quá giới hạn tốc độ, bạn sẽ nhận được lỗi 429. Phản hồi bao gồm tiêu đề retry-after. Theo dõi việc sử dụng để tránh gián đoạn. Các giới hạn này áp dụng cho tất cả các điểm cuối, bao gồm cả các yêu cầu streaming. Hãy lên kế hoạch cho các tác vụ batch của bạn accordingly.

cURL

Copycurl https://api.geminisemcensura.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the release date of the last update"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.geminisemcensura.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.geminisemcensura.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)