Aloita koodaus API:n avulla

Asenna OpenAI SDK

Aloita asentamalla standardikirjasto projektin ympäristöön. Tämä varmistaa yhteensopivuuden meidän openai compatible api endpointit ilman mukautettuja kääreitä. Virallinen paketti käsittelee serialisoinnin ja uudelleenyrittämiset automaattisesti.

pip install openai

Määritä base_url ja API-avain

Osoita asiakasosi suoraan infrastruktuuriimme omistetun base URLin kautta. Todennus perustuu yhteen avaimeseen, joka luodaan välittömästi rekisteröitymisen jälkeen. Tämä asettelu ohittaa yleiset välityspalvelimet ja yhdistää suoraan rajoittamattomaan malliimme.

base_url="https://api.pricingapiopenai.com/v1"

API_KEY="your-key-here"

Lähetä ensimmäinen chat-valmius

Tee vakio pyyntö tekstivastausten generointiin. Malli hyväksyy järjestelmäkehotteet ja käyttäjäviestit kuten mikä tahansa muu tarjoaja. Saat suoran tekstimuotoisen tulosteen ilman piilotettuja suodattimia tai hylkäyksiä lailliselle sisällölle.

Copycurl https://api.pricingapiopenai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Send me the monthly pricing for the high tier plan"}]
  }'

Ota suoratoisto käyttöön reaaliaikaisiin vastauksiin

Ota suoratoisto käyttöön vastaanottaaksesi tokenit niiden luomisen aikana. Tämä vähentää käyttäjien kokemaa viivettä ja pitää yhteyden auki valmistumiseen asti. Viimeinen palikka sisältää token-käytön yhteenvedon laskutuksen läpinäkyvyyden varmistamiseksi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.pricingapiopenai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Käytä funktiokutsuja ja JSON-tilaa

Pyyntö strukturoituja tietoja tai työkalumäärittelyjä integroidaksesi ne taustajärjestelmän logiikkaasi. Aseta vastausmuoto varmistaaksesi tiukan JSON-tuloksen tarvittaessa. Voit myös määrittää työkaluja dynaamisiin agenttikäyttäytymisiin.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.pricingapiopenai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Seuraa token-käyttöä

Seuraa kulutusta vastauksen metadata-tietojen tai hallintapaneelin kautta. Virheet eivät veloita krediittejä, ja esimaksukrediitti vanhenee. Voit seurata reaaliaikaista käyttöä pysyäksesi budettirajojesi sisällä.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)