將 Ablated 模型與本地模型混淆
Ablated AI 模型運行於遠端伺服器上，而非您的筆記型電腦。當您要求回應時，您的程式碼會將資料傳送至託管的端點。Ollama 等本地模型則完全運行於您的硬體上。您必須調整 SDK 設定，使其指向正確的基礎 URL。
網路延遲會影響回應時間。您的本地模型速度取決於您的 GPU。遠端 API 呼叫會增加往返的毫秒數。這是雲端服務的常態。
本機模型提供完整的資料隱私。遠端 API 需要信任供應商。Ablated AI 不會使用提示進行訓練。您的資料仍歸您所有。您仍需妥善管理 API 金鑰。
上下文視窗誤解
上下文窗口包含輸入與輸出 token。每個請求總共有 100,000 token。此總和計算提示詞與補全內容的總和。
- 輸入 token 計入限制。
- 輸出 token 計入限制。
- 每次請求的最大輸出為 16,000 個 token。
如果您未設定 max_tokens，模型預設為 2,048 個 token。這可防止成本失控。您必須仔細計算可用的空間。長對話會快速消耗上下文視窗。
假設永遠零拒絕
無審查不等於無限。模型自由接受合法的成人內容。它不拒絕創意寫作。有一個始終適用的硬性限制。
涉及未成年人的色情內容會被拒絕。這是不可妥協的原則。其他具爭議性的主題則可正常通過。安全研究輸出結果呈現原始狀態。您將獲得完整的答案。
拒絕免收費。您無需為被拒絕的 token 付費。這能節省因糟糕提示產生的費用。該模型針對成人使用場景進行了調校。
Token 計數混淆
定價基於實際 token 使用量。您需為每 1M 輸入 token 支付 $0.15。您需為每 1M 輸出 token 支付 $0.50。錯誤不收費。拒絕請求不收費。
- 輸入 token 按較低費率收費。
- 輸出 token 按較高費率計費。
- 預付額度涵蓋所有使用量。
信用永不過期。你可以在需要時充值。沒有月費。你只為實際消耗的內容付費。此模型非常適合突發性工作負載。
串流與非串流資料
串流返回區塊數據。伺服器發送事件（SSE）在生成時傳遞 token。你可以即時看到輸出。這顯著改善了使用者體驗。
非流式傳輸等待完整響應。您一次性獲得所有 token。這更易於實現。流式傳輸需要處理部分數據。
最後一個區塊包含 token 使用統計數據。您可以準確追蹤成本。兩種模式都支援相同的模型功能。根據您的 UI 需求進行選擇。
函式呼叫限制
函式呼叫透過工具運作。您在請求中定義 schema。模型會回傳結構化 JSON。這使得複雜工作流程成為可能。
- 使用 tool_choice 強制執行函數調用。
- 支援 JSON 模式，確保嚴格的輸出。
- 類似 temperature 的參數會影響可靠性。
並非所有功能都可用。無嵌入（embeddings）、無圖像生成、無微調。專注於文本補全任務。該模型能很好地處理工具。
加密貨幣支付細節
付款僅接受加密貨幣。您可以使用 TRC20 上的 USDT，也可以使用 Base 上的 USDC。錯誤可透過客服修正。註冊無需提供手機號碼，使用 Google 或電子郵件登入即可。
技術實作細節
使用 OpenAI 相容的 SDK。指向 HTTPS://api.ablated.cc/v1。在標頭中設定您的 API 金鑰。模型 ID 為 "uncensored"。這是一個開放權重的模型。
類似 temperature 和 top_p 的參數按預期運作。您可以設定種子以確保可重現性。存在懲罰和頻率懲罰調整重複。這些功能賦予您控制權。
- 速率限制為每分鐘 300 次請求。
- 每個金鑰的並行請求限制為 8。
- 最大請求主體為 8 MB。
