Průvodce rychlým startem

Požadavky a instalace SDK

Nainstalujte oficiální SDK pro preferovaný jazyk před odesláním jakýchkoli požadavků. To zajišťuje kompatibilitu se základní URL a autentizačními hlavičkami.

• Python: pip install openai
• Node.js: npm install openai

Tyto knihovny zpracovávají za vás základní HTTP komunikaci a parsování JSON.

Nastavení ověření a základní URL

Nakonfigurujte klienta s konkrétní základní URL a svým jedinečným API klíčem. Tím se provoz přesměruje na náš engine pro inferenci bez omezení místo standardního poskytovatele.

Nastavte proměnnou prostředí OPENAI_API_KEY nebo jej předat přímo do inicializace klienta.

Základní URL musí ukazovat na https://api.llmuncensoredapi.com/v1 pro zajištění správného směrování.

Požadavek na základní dokončení textu

Pošlete jednoduchý POST požadavek pro generování textu. Tato metoda funguje pro jakýkoli standardní případ použití chat completion.

Model odpovídá surovým textem, vyhýbá se typickým odmítnutím, která se vyskytují u jiných modelů.

Použijte ID modelu uncensored pro všechny požadavky.

Zde je základní příklad:

Copycurl https://api.llmuncensoredapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Run health check on the api endpoint"}]
  }'

Streamované odpovědi s SSE

Používejte streamování pro generování tokenů v reálném čase. To je ideální pro chatová rozhraní nebo generování obsahu dlouhé formy.

Nastavit stream: true ve vašem těle požadavku.

API vrací události Server-Sent (SSE), jakmile jsou tokeny k dispozici.

Tento přístup snižuje vnímanou latenci pro uživatele.

Příklad kódu pro streamování:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Volání funkcí a používání nástrojů

Povolit volání funkcí definováním nástrojů ve své žádosti. To umožňuje modelu výstup ve formátu JSON pro externí vykonání.

Použít tool_choice pro ovládání toho, kdy model volá funkci.

Tato funkce je kritická pro pracovní postupy automatizace.

Příklad v Pythonu:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llmuncensoredapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Režim JSON pro strukturovaný výstup

Vynutit na modelu platný JSON pomocí response_format parametr.

Nastavit response_format na {"type": "json_object"}.

To zajišťuje konzistentní parsování pro aplikace v řetězci zpracování.

Příklad Node.js:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llmuncensoredapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Chápání tokenů a limitů

Okno kontextu podporuje až 100 000 tokenů celkem. Každý požadavek může vrátit až 16 000 tokenů.

Limitu rychlosti jsou 300 požadavků za minutu na klíč.

Chyby zahrnují 401 pro neplatné klíče, 402 pro nedostatek kreditu a 429 pro limity rychlosti.

Chyby nesnižují vaše předplacené kredity.