API-viite: Chat Completions

Pika-aloitus: Ensimmäinen pyyntö

Lähetä ensimmäinen chat-valmiuspyyntö alle minuutissa. Päätepiste hyväksyy vakiomuotoiset OpenAI-tietopaketit ja palauttaa rajoittamattomat tekstivastaukset. Alusta asiakas ohjelmakoodillasi ja perus-URL:lla. Sitten kutsu chat-valmiuspäätepistettä asettamalla mallin tunnus arvoksi "sensuroimaton". Malli tuottaa tekstiä ilman sisältöestoa lailliseen aikuiskäyttöön.

Voit varmistaa yhteyden luomalla listan saatavilla olevista malleista. Tämä vahvistaa, että palvelin on saavutettavissa ja kirjautumistietosi ovat voimassa. Vastaus vahvistaa mallin tunnuksen ja päätepisteen saatavuuden.

Todennus ja base URL

Käytä API-avaintasi jokaiseen pyyntöön base URLiin https://api.geminisemcensura.com/v1. Avain luodaan välittömästi rekisteröitymisen jälkeen Googlen tai sähköpostin kautta. Syötä se kenttään Authorization header Bearer-tokenina. Jos luot uuden avaimen, vanha muuttuu heti voimattomaksi. Tämä yksinkertaistaa tunnuslukujen hallintaa sovelluksissasi. Voit regeneroida avaimia suoraan hallintapaneelista menettämättä esimaksukrediittiäsi.

Parametrit: Lämpötila, Top P ja Stop

Säädä tuotannon satunnaisuutta käyttämällä yleisiä parametreja. Aseta temperature säätämään luovuutta. Alhaisemmat arvot tuottavat deterministisempiä tuloksia. Korkeammat arvot tuovat vaihtelua. Käytä top_p ytimenäytteistykseen token-puolin rajoittamiseksi. The stop parametri estää tuotannon, kun tietty sekvenssi ilmestyy. Tämä on hyödyllistä ohjaamaan tuotannon pituutta tai rakennetta.

Nämä parametrit toimivat täsmälleen kuten OpenAI SDK:ssa. Voit hienosäätää vastauksen tyyliä muuttamatta mallia. Uncensored-malli kunnioittaa näitä rajoituksia säilyttäen samalla sisällön kieltäytymisten puuttumisen. Säädä niitä sopimaan spesifeihin käyttötarkoituksiisi.

Streamausvastaukset (SSE)

Ota streamaus käyttöön asettamalla stream arvoon true. Palvelin lähettää peräkkäisiä Server-Sent Events -tapahtumia. Jokainen tapahtuma sisältää osan luodusta tekstistä. Tämä mahdollistaa tulosten näyttämisen reaaliajassa. Se vähentää pääkäyttäjien havaitsemaa viivettä.

Viimeinen palikka sisältää token-käyttötilastot. Voit seurata syöte- ja tulostokeneita laskutuksen tarkkuuden varmistamiseksi. Virheet streamauksen aikana lähetetään viimeisenä tapahtumana virkohteen kanssa. Käsittele nämä tapahtumat hallitaksesi verkkokatkoksia siististi.

Työkalukutsu ja JSON-tila

Käytä funktiokutsuja ulkoisten työkalujen integrointiin. Määrittele funktiot pyynnössä tools parametri. Malli palauttaa rakenteellisia argumentteja määritellylle toiminnolle. Suoritat toiminnon ja lähetät tuloksen takaisin mallille. Tämä mahdollistaa monimutkaiset monivaiheiset työvuorot. JSON-tilo pakottaa tiukan JSON-tuoton. Käytä response_format kanssa json_object luotettavalle jäsentämiselle.

Epäsuodattamaton malli käsittelee työkalumäärittelyjä kieltäytymättä aiheen perusteella. Se tukee standardia OpenAI-työkaluskeemaa. Tämä varmistaa yhteensopivuuden olemassa olevien työkalukirjastojen kanssa. Voit rakentaa agenteja, jotka vuorovaikuttavat saumattomasti API:iden tai tietokantojen kanssa.

Rajoitukset ja kiintiöt

API asettaa tiukat nopeusrajoitukset varmistamaan vakauden. Sinulla on oikeus 300 pyyntöön minuutissa avainta kohti. Samanaikaisuus on rajoitettu 8 samanaikaiseen pyyntöön. Pyyntöjen rungon enimmäiskoko on 8 Mt. Konteksti-ikkuna tukee 100 000 tokenia syötteelle ja tulokselle yhteensä. Oletusarvoinen vastauksen enimmäiskoko on 2 048 tokenia, ellei määritä toisin.

Jos ylität nopeusrajan, saat virheen 429. Vastauksessa on retry-after-header. Seuraa käyttöäsi välttääksesi keskeytyksiä. Nämä rajat pätevät kaikkiin päätepisteisiin, myös streamauspyyntöihin. Suunnittele eräajot sen mukaisesti.

cURL

Copycurl https://api.geminisemcensura.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the release date of the last update"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.geminisemcensura.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.geminisemcensura.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)