API-pika-aloitus
Yhdistä sovelluksesi sensuroimattomaan LLM-APIhin minuuteissa käyttäen standardia OpenAI-yhteensopivaa päätepistettä. Tämä opas kattaa todennuksen, peruspyyntöjen, striimauksen ja tekniset rajat, jotka sinun tarvitsee tietää.
Todennus & Base URL
API käyttää vakioita OpenAI-yhteensopivaa autentikointia. Saat API-avaimen välittömästi rekisteröitymisen jälkeen Google- tai sähköpostitunnuksella. Käytä tätä avainta Authorization header kaikkiin pyyntöihin. Perus-URL on kiinteä osoitteessa https://api.mistralabliterated.com/v1. Ei lisäkonfiguraatiota tarvita päätepisteväylään.
curl https://api.mistralabliterated.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the first five prime numbers"}]
}'Avain tunnistaa tilisi ja seuraa käyttöä. Jos menetät avaimen, luo uusi; vanha tulee epävoimattomaksi.
POST /v1/chat/completions
Lähetä viestit mallille käyttämällä standardia chat-täydennyspäätepistettä. Mallin tunnus on aina uncensored. Tämä päätepiste käsittelee teksti-sisään, teksti-ullos -vuorovaikutusta ilman monimutkaisia kyselyrakenteita. Voit lähettää järjestelmä-, käyttäjä- ja avustajaviestejä yhdessä pyynnössä.
from openai import OpenAI
client = OpenAI(base_url="https://api.mistralabliterated.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Pyyntö palauttaa rakenteisen JSON-vastauksen, joka sisältää mallin tuloksen. Voit säätää parametreja kuten temperaturen ja top_p:n ohjataksesi luovuutta. Malli ei hylkää laillisia aikuisille tarkoitettuja tai kiistanalaisia aiheita, mikä tarjoaa raakamaisen vastausstyylis. Virheet palauttavat standardit HTTP-tilakoodit helppoon virheenkorjaukseen koodikannassasi.
GET /v1/models
Kysy saatavilla olevia malleja varmistaaksesi yhteyden ja konfiguraation. Tämä päätepiste palauttaa luettelon saatavilla olevista malleista, vahvistaen, että todennuksesi ja perus-URL ovat oikein. Se on hyödyllinen integraation testaamisessa ennen raskaiden kuormien lähettämistä.
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.mistralabliterated.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Vastaus sisältää mallin tunnuksen ja objektityypin. Voit käyttää tätä päätepistettä sovelluksesi käynnistysjärjestyksessä varmistaaksesi, että API on saavutettavissa. Se palauttaa välittömästi matalalla viiveellä, mikä tekee siitä ihanteellisen terveydentilatarkistuksiin. Tätä pyyntöä ei kuluteta luottotililtä.
Virtaus & Työkalut
Ota streamaus käyttöön asettamalla stream: true pyynnössäsi. API lähettää tekstiosia Server-Sent Events (SSE) -tekniikalla niiden luomisen yhteydessä. Tämä vähentää koettua viivettä käyttäjille, jotka odottavat pitkiä vastauksa. Voit myös käyttää toimintokutsuja tarjoamalla listan työkaluista pyynnössä.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Token-käystilastot sisällytetään streamin lopulliseen palaseen. Tämä mahdollistaa kustannusten seurannan reaaliajassa. Malli tukee JSON-tilaa rakenteellisille tuloksille, kun asetat response_format vastaan {"type": "json_object"}Työkaluvalinnat ovat joustavia, mahdollistaen tietyn tai automaattisen valinnan.
Parameters & Limits
Konteksti-ikkuna tukee 100 000 tokenia syötteeseen ja tulokseen yhdistettynä. Enimmäistulos pyyntöä kohden on 16 000 tokenia tai 2 048, jos et määritä max_tokens. Voit hallita tuotantoa käyttämällä temperature, top_p, stop, ja seed parametrit. Taajuus- ja läsnäolorangaistukset ovat myös käytettävissä hienosäätöä varten.
Nopeusrajoitukset sallivat 300 pyyntöä minuutissa per avain ja 8 samanaikaista pyyntöä. Pyyntöruumiin maksimikoko on 8 Mt. Nämä rajat varmistavat vakaan suorituskyvyn suurta läpäisykykyä vaativille sovelluksille. Säädä ryppästyöstrategiaasi pysyäksesi näiden rajojen sisällä.
Virheet & hinnasto
HTTP-virhe 401 tarkoittaa virheellistä tai puuttuvaa API-avainta. HTTP 402 tarkoittaa, että esimaksukreditiittisi on loppunut; lataa lisää kryptorahalla jatkaaksesi. HTTP 429 ilmoittaa nopeusrajoituksen täyttyneen; odota tai vähennä samanaikaisuutta. Virheet eivät kuluta krediittia, joten et maksa epäonnistuneista pyynnöistä.
Hinta on $0,15 miljoonaa syöttötokenia kohden ja $0,50 miljoonaa tulostustokenia kohden. Raha ei vanhene, eikä kuukausimaksuja ole. Lisäykset alkavat 20 $:stä, ja suuremmista summista on bonuksia. Palautuksia ei myönnetä, mutta tuki voi korjata kaksoisperinnät.
Yleiset kysymykset
Mikä on mistral abliterated -API:n perusosoite?
Perus-URL on HTTPS://api.mistralabliterated.com/v1. Käytä tätä URL-osoitetta kaikkiin OpenAI-yhteensopiviin SDK:hin asettamalla base_url-parametri. Vain yhtä päätepistettä tarvitaan standardeihin chat-päivityksiin.
Miten käsittelemme suoratoistovastauksia?
Aseta stream-parametri arvoksi true pyynnössäsi. API palauttaa Server-Sent Eventsin (SSE) tokenlohkoineen. Token-käyttötilastot sisällytetään streamin viimeiseen lohkoon tarkkaa laskutusta varten.
Mitä tapahtuu, jos osut nopeusrajaan?
Saat HTTP-vastauksen tilakoodin 429. Rajoitus on 300 pyyntöä minuutissa avainta kohden ja 8 rinnakkaista pyyntöä. Vähennä rinnakkaisuutta tai toteuta eksponentiaalinen viive sovelluslogiikassasi.
Hanki API-avaimesi sekunneissa
Rekisteröidy, hanki avain ja päivitä base URL. Helppo integraatio.