mistral api 替代方案
mistral API 替代方案提供了一個直接、OpenAI 相容的端點,用於無審查模型,消除了本地推理的摩擦,同時保留了無拒絕的特性。您可以將此 API 插入現有程式碼庫,只需進行少量更改,並僅透過透明、僅限加密貨幣的計費模型為實際使用的 token 付費。
摘要
我們的 API 使用模型 ID 'uncensored',並支援標準 OpenAI SDK,base URL 為 HTTPS://api.mistralabliterated.com/v1。
定價為每 1M 輸入 Token $0.15,每 1M 輸出 Token $0.50,使用永不過期的預付加密貨幣信用額度。
上下文視窗支援 100,000 個 token 總量,每次請求的最大輸出為 16,000 個 token。
提示詞不用於訓練,唯一的硬性內容限制是拒絕涉及未成年人的性內容。
審查的成本
是的,審查會消耗您的時間和上下文。當模型拒絕合法請求時,您會失去已消耗的 token 和對話流程。我們的 uncensored API 確保您的提示詞能直接獲得回答,無需企業防護機制阻擋正常使用所帶來的摩擦。
本機模型通常需要大量的工程努力來移除這些層。我們的託管解決方案提供開箱即用的無過濾 AI 體驗。您獲得一個單一的、專門構建的模型,只要主題合法,它就不會在爭議性或成人主題上猶豫不決。
為什麼防護欄很重要
- 拒絕會浪費上下文視窗空間。
- 硬性限制會破壞自動化管線。
- 修正循環會增加延遲。
我們收取每 100 萬個輸入 token $0.15,因此每個 token 都至關重要。移除審查限制意味著您每花費一個 token 能獲得更多價值。
Token 效率比較
我們的定價結構透明且高效。您需為每 1M 輸入 token 支付 $0.15,每 1M 輸出 token 支付 $0.50。這是一個簡單的模型,沒有隱藏費用或訂閱等級。
| Token 類型 | 每 1M Token 的成本 |
|---|---|
| 輸入 | $0.15 |
| 輸出 | $0.50 |
錯誤響應是免費的。如果請求失敗,您無需為這些 Token 付費。這使我們的 API 在高流量應用中具有成本效益,因為錯誤可能會發生。
我們僅接受加密貨幣。充值金額範圍為 $20 至 $500,可使用 USDT (TRC20) 或 USDC (Base)。您將獲得贈金:$50 起贈 +5%,$100 起贈 +10%,$200 起贈 +15%。
上下文視窗限制
我們支援 100,000 個 token 的上下文視窗。這允許進行深度對話和大文件處理。模型可以在單次輸出中處理最多 16,000 個 token。如果您未設定 max_tokens,限制為 2,048 個 token。
此容量對於需要維持長期上下文的開發者至關重要。您可以發送大型提示,無需擔心截斷。基礎網址為 HTTPS://api.mistralabliterated.com/v1。它與官方 OpenAI SDK 相容。
最佳化建議
- 使用串流處理長輸出。
- 顯式設置 max_tokens。
- 在 SSE 中監控 token 用量。
我們的 API 專為高用量使用而設計。您可以每分鐘發送 300 個請求。這確保了您的應用程式在負載下仍能保持回應速度。
串流與工具支援
我們的 API 支援透過 SSE 串流。您也可以使用帶有工具和 tool_choice 的函式呼叫。JSON 模式透過 response_format json_object 提供。支援 temperature、top_p、stop、seed、presence_penalty 和 frequency_penalty 等參數。
串流對於即時應用程式至關重要。它允許您顯示生成的令牌。這顯著改善了使用者體驗。
函式呼叫
- 使用工具產生結構化輸出。
- 設定 tool_choice 以獲得控制權。
- 輕鬆解析 JSON 回應。
端點為 POST /v1/chat/completions。您也可以使用 GET /v1/models 來檢查可用的模型。我們的模型 ID 為 'uncensored'。這是一個運行在我們自有伺服器上的開放權重模型。
隱私與訓練政策
我們不使用您的提示進行訓練。這是與許多其他供應商的主要區別。您的數據保持私密,不會用於改進其他模型。
我們也有硬性內容限制。我們拒絕涉及未成年人的性內容請求。這是唯一始終適用的硬性限制。所有其他內容均允許。
資料處理
- 提示詞不用於訓練。
- 對未成年人內容的硬性限制。
- 設計為私密。
您可以使用 Google 或電子郵件與密碼註冊。API 金鑰會立即顯示。無需手機號碼。這使得入職流程既快速又安全。
硬體需求與 API 對比
運行本地模型需要大量的硬體。您需要 12 GB 到 24 GB 的 VRAM 來運行大多數 abliterated 模型。我們的 API 消除了這種負擔。您無需管理 GPU 或更新驅動程式。
本地推理非常適合隱私,但無法擴展。我們的託管 API 具有擴展性。你可以每秒發送 300 個請求。這是單機本地機器無法做到的。
硬體比較
- 本地:高 VRAM,高維護成本。
- API:無硬體,無維護。
- 擴展:受硬體限制。
我們處理基礎設施。你專注於你的應用程式。基礎 URL 為 HTTPS://api.mistralabliterated.com/v1。它與任何 OpenAI 相容的客戶端都能運作。
生態系統相容性
我們的 API 完全與 OpenAI 相容。您可以使用官方 SDK 及任何相容的客戶端。只需變更 base_url 和 api_key。這使得整合變得非常簡單。
許多開發者使用 AutoGen Studio 或其他框架。我們的 API 與這些工具相容。您可以在程式碼中使用模型 id 'uncensored'。它的行為如同原始模型。
SDK 支援
- 官方 OpenAI SDK。
- 任何相容的客戶端。
- 輕鬆整合。
您可以串流回應。這對於聊天機器人很有用。您也可以使用函式呼叫。這對於結構化資料很有用。
最終裁決
我們的 API 是希望獲得 uncensored 模型的開發者的最佳選擇。它快速、可靠且易於使用。您僅為使用的內容付費。定價透明且公平。
我們支援 100,000 個 token 的上下文視窗。這足以滿足大多數使用案例。您可以串流傳輸回應並使用函式呼叫。這使我們的 API 具有多功能性。
摘要
- 無審查模型。
- OpenAI 相容。
- 僅限加密支付。
立即註冊。獲得 $0.50 的試用信用額度。金鑰會立即顯示。您可以立即開始使用 API。
避免的錯誤
許多開發者在切換至無審查模型時會犯錯。他們期望行為與 GPT-4 相同。但事實並非如此。我們的模型是無審查的。它會針對爭議性話題進行回答。
另一個錯誤是未設定 max_tokens。這可能會導致長輸出。請務必設定此參數。這有助於控制成本。
常見錯誤
- 預期 GPT-4 的行為。
- 未設定 max_tokens。
- 忽略串流。
我們對未成年人內容也有硬性限制。請確保您的提示適當。這可確保順暢的體驗。我們的 API 可靠且快速。
常見問題
mistral API 的替代方案是什麼?
這是一個託管的 OpenAI 相容聊天補全 API,提供單一無審查大型語言模型。它使用模型 ID 'uncensored',並支援溫度(temperature)和 top_p 等標準參數。基礎 URL 為 HTTPS://api.mistralabliterated.com/v1。
無限制 LLM 的費用是多少?
定價為每 1M 輸入 token 0.15 美元,每 1M 輸出 token 0.50 美元。錯誤與拒絕請求免費。僅接受加密貨幣充值,金額範圍為 20 美元至 500 美元。
API 是否支援串流?
是的,透過 SSE 支援串流。Token 使用情況包含在最後一個區塊中。這允許即時顯示生成的文字。這對於聊天應用程式至關重要。
上下文視窗的大小是多少?
提示詞與補全的上下文視窗總計為 100,000 個 token。每次請求的最大輸出為 16,000 個 token。若未設定 max_tokens,限制為 2,048 個 token。
數秒內取得 API 金鑰
註冊、取得你的金鑰,更新基礎 URL。簡單的整合。