vi ▾
Try with trial credit

Giải pháp thay thế API Mistral

Giải pháp thay thế API Mistral cung cấp một điểm cuối tương thích trực tiếp với OpenAI cho các mô hình không kiểm duyệt, loại bỏ sự phức tạp khi suy luận cục bộ trong khi vẫn giữ nguyên khả năng không từ chối. Bạn có thể tích hợp API này vào các cơ sở mã hiện có với những thay đổi tối thiểu, chỉ trả tiền cho các token thực sự sử dụng thông qua mô hình thanh toán chỉ bằng tiền điện tử minh bạch.

Tóm tắt

  1. API của chúng tôi sử dụng model id 'uncensored' và hỗ trợ các SDK OpenAI tiêu chuẩn với base URL là HTTPS://api.mistralabliterated.com/v1.

  2. Giá là $0.15 cho 1M token đầu vào và $0.50 cho 1M token đầu ra, với tín dụng tiền điện tử trả trước không bao giờ hết hạn.

  3. Cửa sổ ngữ cảnh hỗ trợ tổng cộng 100.000 token, với lượng output tối đa là 16.000 token mỗi yêu cầu.

  4. Lời nhắc không được dùng để huấn luyện, và giới hạn nội dung cứng duy nhất là từ chối nội dung tình dục liên quan đến trẻ vị thành niên.

Chi phí của Sự kiểm duyệt

Có, kiểm duyệt tốn của bạn thời gian và ngữ cảnh. Khi một model từ chối một yêu cầu hợp pháp, bạn mất các token đã tiêu thụ và luồng hội thoại. API uncensored của chúng tôi đảm bảo rằng các prompt của bạn được trả lời trực tiếp mà không có sự cản trở của các rào chắn doanh nghiệp chặn các trường hợp sử dụng bình thường.

Các mô hình cục bộ thường đòi hỏi nỗ lực kỹ thuật đáng kể để loại bỏ các lớp này. Giải pháp được lưu trữ của chúng tôi mang lại trải nghiệm AI không bị lọc ngay lập tức. Bạn nhận được một mô hình được xây dựng chuyên dụng, không do dự với các chủ đề gây tranh cãi hoặc người lớn, miễn là chúng hợp pháp.

Tại sao các hàng rào bảo vệ (Guardrails) lại quan trọng

  • Việc từ chối lãng phí không gian cửa sổ ngữ cảnh.
  • Các giới hạn cứng làm gián đoạn các quy trình tự động hóa.
  • Vòng lặp sửa lỗi tăng độ trễ.

Chúng tôi tính $0.15 cho mỗi 1M token đầu vào, vì vậy mọi token đều quan trọng. Việc loại bỏ các rào cản kiểm duyệt có nghĩa là bạn nhận được nhiều giá trị hơn cho mỗi token đã chi.

So sánh hiệu quả Token

Cấu trúc giá của chúng tôi minh bạch và hiệu quả. Bạn trả $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra. Đây là một mô hình đơn giản với không có phí ẩn hoặc các tầng đăng ký.

Loại TokenChi phí cho mỗi 1M Token
Đầu vào$0.15
Đầu ra$0.50

Các phản hồi lỗi là miễn phí. Nếu một yêu cầu thất bại, bạn không phải trả tiền cho các token đó. Điều này làm cho API của chúng tôi hiệu quả về chi phí cho các ứng dụng khối lượng lớn nơi lỗi có thể xảy ra.

Chúng tôi chỉ chấp nhận thanh toán bằng tiền điện tử. Số tiền nạp dao động từ $20 đến $500 bằng USDT (TRC20) hoặc USDC (Base). Bạn nhận được tín dụng bổ sung: +5% từ $50, +10% từ $100 và +15% từ $200.

Giới hạn cửa sổ ngữ cảnh

Chúng tôi hỗ trợ cửa sổ ngữ cảnh 100,000 token. Điều này cho phép các cuộc hội thoại sâu và xử lý tài liệu lớn. Mô hình có thể xử lý tối đa 16,000 token trong một đầu ra đơn lẻ. Nếu bạn không đặt max_tokens, giới hạn là 2,048 token.

Khả năng này rất quan trọng đối với các nhà phát triển cần duy trì ngữ cảnh dài hạn. Bạn có thể gửi các lệnh nhắc lớn mà không lo bị cắt ngắn. URL cơ sở là HTTPS://api.mistralabliterated.com/v1. Nó hoạt động với các SDK chính thức của OpenAI.

Mẹo tối ưu hóa

  • Sử dụng phát trực tiếp cho các đầu ra dài.
  • Đặt max_tokens rõ ràng.
  • Theo dõi việc sử dụng token trong SSE.

API của chúng tôi được thiết kế cho các tác vụ khối lượng lớn. Bạn có thể gửi 300 yêu cầu mỗi phút. Điều này đảm bảo ứng dụng của bạn vẫn phản hồi nhanh ngay cả khi tải cao.

Hỗ trợ Streaming và Công cụ

API của chúng tôi hỗ trợ phát trực tiếp qua SSE. Bạn cũng có thể sử dụng gọi hàm với các công cụ và tool_choice. Chế độ JSON có sẵn thông qua response_format json_object. Các tham số như temperature, top_p, stop, seed, presence_penalty và frequency_penalty đều được hỗ trợ.

Streaming rất quan trọng cho các ứng dụng thời gian thực. Nó cho phép bạn hiển thị token ngay khi chúng được tạo. Điều này cải thiện đáng kể trải nghiệm người dùng.

Gọi hàm

  • Sử dụng công cụ cho đầu ra có cấu trúc.
  • Đặt tool_choice để kiểm soát.
  • Phân tích cú pháp phản hồi JSON một cách dễ dàng.

Điểm cuối là POST /v1/chat/completions. Bạn cũng có thể dùng GET /v1/models để kiểm tra các mô hình khả dụng. ID mô hình của chúng tôi là 'uncensored'. Đây là mô hình trọng lượng mở, chạy trên máy chủ riêng của chúng tôi.

Quyền riêng tư và Chính sách dữ liệu huấn luyện

Chúng tôi không sử dụng lời nhắc của bạn để huấn luyện. Đây là điểm khác biệt chính so với nhiều nhà cung cấp khác. Dữ liệu của bạn vẫn được bảo mật và không được sử dụng để cải thiện các mô hình khác.

Chúng tôi cũng có một giới hạn nội dung cứng. Chúng tôi từ chối các yêu cầu về nội dung tình dục liên quan đến trẻ vị thành niên. Đây là giới hạn cứng duy nhất luôn áp dụng. Tất cả các nội dung khác đều được cho phép.

Xử lý dữ liệu

  • Không huấn luyện trên lời nhắc.
  • Giới hạn cứng đối với nội dung trẻ vị thành niên.
  • Thiết kế cho sự riêng tư.

Bạn có thể đăng ký bằng Google hoặc email và mật khẩu. Khóa API được hiển thị ngay lập tức. Không yêu cầu số điện thoại. Điều này giúp quá trình đăng ký nhanh chóng và an toàn.

Yêu cầu phần cứng so với API

Việc chạy các mô hình cục bộ đòi hỏi phần cứng đáng kể. Bạn cần 12 GB đến 24 GB VRAM cho hầu hết các mô hình đã được loại bỏ kiểm duyệt. API của chúng tôi loại bỏ gánh nặng này. Bạn không cần quản lý GPU hoặc cập nhật trình điều khiển.

Suy luận cục bộ rất tốt cho quyền riêng tư, nhưng nó không thể mở rộng. API được lưu trữ của chúng tôi có thể mở rộng. Bạn có thể gửi 300 yêu cầu mỗi phút. Điều này không thể thực hiện được với một máy cục bộ đơn lẻ.

So sánh phần cứng

  • Cục bộ: VRAM cao, bảo trì cao.
  • API: Không phần cứng, không bảo trì.
  • Mở rộng: Bị giới hạn bởi phần cứng.

Chúng tôi xử lý hạ tầng. Bạn tập trung vào ứng dụng của mình. Base URL là HTTPS://api.mistralabliterated.com/v1. Nó hoạt động với bất kỳ client tương thích OpenAI nào.

Tương thích hệ sinh thái

API của chúng tôi hoàn toàn tương thích với OpenAI. Bạn có thể sử dụng các SDK và bất kỳ client tương thích nào. Chỉ cần thay đổi base_url và api_key. Điều này khiến việc tích hợp trở nên đơn giản.

Nhiều nhà phát triển sử dụng AutoGen Studio hoặc các khung công tác khác. API của chúng tôi hoạt động với các công cụ này. Bạn có thể sử dụng model id 'uncensored' trong mã của mình. Nó hoạt động giống như một mô hình thô.

Hỗ trợ SDK

  • Các SDK OpenAI chính thức.
  • Bất kỳ máy khách tương thích nào.
  • Dễ dàng tích hợp.

Bạn có thể phát trực tiếp phản hồi. Điều này hữu ích cho bot trò chuyện. Bạn cũng có thể sử dụng gọi hàm. Điều này hữu ích cho dữ liệu có cấu trúc.

Phán quyết Cuối cùng

API của chúng tôi là lựa chọn tốt nhất cho các nhà phát triển muốn một mô hình không kiểm duyệt. Nó nhanh, đáng tin cậy và dễ sử dụng. Bạn chỉ trả tiền cho những gì bạn sử dụng. Giá cả minh bạch và công bằng.

Chúng tôi hỗ trợ cửa sổ ngữ cảnh 100,000 token. Điều này là đủ cho hầu hết các trường hợp sử dụng. Bạn có thể phát trực tiếp phản hồi và sử dụng gọi hàm. Điều này làm cho API của chúng tôi linh hoạt.

Tóm tắt

  • Mô hình Uncensored.
  • Tương thích OpenAI.
  • Chỉ thanh toán tiền điện tử.

Đăng ký ngay hôm nay. Nhận $0.50 tín dụng dùng thử. Khóa được hiển thị ngay lập tức. Bạn có thể bắt đầu sử dụng API ngay lập tức.

Những lỗi cần tránh

Nhiều nhà phát triển mắc lỗi khi chuyển sang các mô hình không kiểm duyệt. Họ mong đợi hành vi tương tự như GPT-4. Điều này không đúng. Mô hình của chúng tôi không kiểm duyệt. Nó sẽ trả lời các chủ đề gây tranh cãi.

Một sai lầm khác là không đặt max_tokens. Điều này có thể dẫn đến đầu ra dài. Luôn đặt tham số này. Nó giúp kiểm soát chi phí.

Các lỗi phổ biến

  • Mong đợi hành vi của GPT-4.
  • Không đặt max_tokens.
  • Bỏ qua streaming.

Chúng tôi cũng có một giới hạn cứng về nội dung trẻ vị thành niên. Hãy đảm bảo các gợi ý của bạn phù hợp. Điều này đảm bảo trải nghiệm mượt mà. API của chúng tôi đáng tin cậy và nhanh chóng.

Các câu hỏi thường gặp

API mistral thay thế là gì?

Đây là một API chat-completions được lưu trữ, tương thích với OpenAI, cung cấp một mô hình ngôn ngữ lớn không kiểm duyệt. API sử dụng model id 'uncensored' và hỗ trợ các tham số tiêu chuẩn như temperature và top_p. Base URL là HTTPS://api.mistralabliterated.com/v1.

Chi phí LLM không kiểm duyệt là bao nhiêu?

Giá là $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra. Lỗi và từ chối đều miễn phí. Bạn có thể nạp thêm chỉ bằng tiền điện tử, từ $20 đến $500.

API có hỗ trợ phát trực tiếp không?

Có, streaming được hỗ trợ qua SSE. Sử dụng token được bao gồm trong chunk cuối cùng. Điều này cho phép hiển thị văn bản được tạo theo thời gian thực. Nó rất cần thiết cho các ứng dụng trò chuyện.

Kích thước context window là bao nhiêu?

Cửa sổ ngữ cảnh là 100,000 token cho cả prompt và kết quả trả về. Lượng output tối đa là 16,000 token mỗi yêu cầu. Nếu không đặt max_tokens, giới hạn là 2,048 token.

Lấy khóa API của bạn trong vài giây

Đăng ký, lấy khóa của bạn, cập nhật URL cơ sở của bạn. Tích hợp đơn giản.