Perus-URL ja todennus
Todennus vaatii yhden API-avaimen, joka välitetään Authorization header.
Jokaisen pyynnön on kohdistuttava perus-URL-osoitteeseen https://api.dolphinaisincensura.com/v1 ja sisällytä avain muodossa Bearer YOUR_API_KEY.
Tämä konfiguraatio toimii minkä tahansa OpenAI-yhteensopivan SDK:n kanssa päivittämällä vain base_url configuration.
Virheet kuten 401 viittaavat virheelliseen tai puuttuvaan avaimeseen, kun taas 402 merkitsee riittämätöntä esimaksurahaa.
curl https://api.dolphinaisincensura.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "list the python imports for requests and json"}]
}'
Lähettämällä chat-completion
Lähetä POST-pyyntö osoitteeseen /v1/chat/completions avulla model kenttä asetettu uncensored.
Sisällytä yksinkertainen messages taulukko, joka sisältää prompt-historiasi keskusteluyhteyden ylläpitämiseksi.
API palauttaa tekstimuotoisen vastauksen suoraan content kenttä ensimmäisestä valinnasta.
Tämä yksittäisen mallin lähestymistapa poistaa välityspalvelumaksut ja varmistaa ennustettavan hinnan $0.15 per 1M syöttötoken.
from openai import OpenAI
client = OpenAI(base_url="https://api.dolphinaisincensura.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
Striimauksen käsittely (SSE)
Ota streamaus käyttöön asettamalla stream vastaan true pyyntöpayloadissasi.
Palvelin vastaa Server-Sent Events -tapahtumilla (SSE), jotka toimittavat tokenit vaiheittain.
Jäsennä jokaista SSE-lohkoa erittääksesi luodun tekstin odottamatta koko vastausta.
Token-käystilastot toimitetaan streamin lopullisessa palassa tarkan laskutuksen varmistamiseksi.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
Funktikutsut ja JSON-tila
Käytä tools parametri, joka määrittää funktioskeemat rakenteelliseen datan erotteluun.
Aseta response_format vastaan {"type": "json_object"} pakottaa tiukan JSON-tuloksen luotettavaan jäsentämiseen.
Määritä temperature ja top_p hallita luovuutta versus determinismiä tuloksissasi.
Nämä ominaisuudet mahdollistavat autonomisten agenttien rakentamisen, jotka vuorovaikuttavat ulkoisten API-palveluiden tai tietokantojen kanssa.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.dolphinaisincensura.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
Ymmärrä tokenirajat ja konteksti
Kontekstiikkuna tukee 100 000 tokenia sekä promptille että täydennykselle yhteensä.
Maksimi vastaus pyyntöä kohden on 16 000 tokenia tai 2 048, jos max_tokens ei ole asetettu.
Nopeusrajoitukset sallivat 300 pyyntöä minuutissa ja 8 samanaikaista pyyntöä per API-avain.
Pyyntö, jotka ylittävät 8 Mt:n kehokoon rajan tai osuvat samanaikaisuusrajoihin, palauttavat 429-virheet.
Virhevastaukset ja hylkäykset eivät kuluta esimaksusaltoasi.
Nopeusrajoitukset ja samanaikaisuus
Jokaiselle API-avaimelle on rajoitettu 300 pyyntöä minuutissa ja 8 samanaikaista aktiivista yhteyttä.
Tila 429 tarkoittaa, että ylityt näiden samanaikaisuus- tai nopeusrajoitusten.
Voit luoda uuden avaimen korvaamaan olemassa olevan, mutta tilillä voi olla vain yksi aktiavainen avain kerrallaan.
Seuraa käyttöäsi vastausotsikoiden kautta pysyäksesi 8 Mt pyyntökehon rajan sisällä.