アブレーション済みモデルとローカルモデルの混同
アブレテッドAIモデルはあなたのラップトップではなくリモートサーバー上で動作します。レスポンスをリクエストすると、コードはホストされたエンドポイントにデータを送信します。Ollamaなどのローカルモデルはハードウェア上で完全に実行されます。SDKの設定を正しいベースURLに調整する必要があります。
ネットワークレイテンシは応答時間に影響します。ローカルモデルの速度はGPUに依存します。リモートAPI呼び出しは往復にミリ秒を追加します。これはクラウドサービスでは正常です。
ローカルモデルは完全なデータプライバシーを提供します。リモートAPIはプロバイダーを信頼する必要があります。Ablated AIはトレーニングにプロンプトを使用しません。あなたのデータはあなたのものです。APIキーを安全に管理する必要があります。
コンテキストウィンドウの誤解
コンテキストウィンドウには入力トークンと出力トークンの両方が含まれます。リクエストごとに合計100,000トークンがあります。この合計には、プロンプトと補合の両方が含まれます。
- 入力トークンは制限にカウントされます。
- 出力トークンは制限にカウントされます。
- リクエストごとの最大出力は16,000トークンです。
max_tokensを設定しない場合、モデルのデフォルトは2,048トークンです。これはコストの暴走を防ぎます。利用可能なスペースを慎重に計算する必要があります。長い会話ではウィンドウはすぐに消費されます。
常に拒否がゼロであると想定する
アンセーサードとは無限という意味ではありません。モデルは合法的なアダルトコンテンツを自由に拒否しません。創作ライティングを拒否しません。常に適用される1つのハードリミットがあります。
未成年者を題材とした性的コンテンツは拒否されます。これは譲れません。その他の論争的なトピックは通過します。セキュリティ調査の出力は生データのままです。完全な回答が得られます。
拒否は無料です。拒否されたトークンに対しては課金されません。これにより、悪いプロンプトのコストが削減されます。モデルは大人向けユースケースに合わせてチューニングされています。
トークン数の混乱
料金は実際のトークン使用量に基づきます。入力トークン1Mあたり$0.15を課金されます。出力トークン1Mあたり$0.50を課金されます。エラーは無料です。拒否も無料です。
- 入力トークンは低いレートで課金されます。
- 出力トークンは高いレートで課金されます。
- プリペイド残高はすべての使用量をカバーします。
クレジットは期限切れしません。必要な時にチャージできます。月額料金はかかりません。使用した分だけ支払います。このモデルはバースト性の高いワークロードに適しています。
ストリーミングと非ストリーミングのデータ
ストリーミングはチャンク形式でデータを返します。Server-Sent Events (SSE) はトークンを生成時に配信します。リアルタイムで出力を確認できます。これによりユーザー体験が大幅に向上します。
ストリーミングなしは完全なレスポンスを待機します。すべてのトークンが一度に取得されます。これは実装がシンプルです。ストリーミングは部分的なデータの処理が必要です。
最後のチャンクにはトークン使用統計が含まれています。コストを正確に追跡できます。両方のモードは同じモデル機能をサポートしています。UIのニーズに応じて選択してください。
関数呼び出しの制限事項
関数呼び出しはツール経由で動作します。リクエストでスキーマを定義します。モデルは構造化JSONを返します。これにより複雑なワークフローを可能にします。
- tool_choiceを使用して関数呼び出しを強制します。
- JSONモードをサポートし、厳格な出力を実現します。
- 温度などのパラメータは信頼性に影響します。
すべての機能が利用できるわけではありません。埋め込みは存在しません。画像生成は存在しません。ファインチューニングは存在しません。テキスト補完タスクに焦点を当ててください。このモデルはツールを適切に処理します。
暗号通貨決済の注意点
決済は暗号通貨のみに対応しています。TRC20上のUSDTまたはBase上のUSDCを使用できます。エラーはサポート経由で修正されます。サインアップに電話番号は不要です。Googleまたはメールログインが利用可能です。
技術的な実装の詳細
OpenAI互換SDKを使用します。HTTPS://api.ablated.cc/v1 を指し示します。APIキーをヘッダーに設定します。モデルIDは "uncensored" です。これはオープンウェイトモデルです。
温度やtop_pなどのパラメータは期待どおり動作します。再現性のためにseedを設定できます。存在ペナルティと頻度ペナルティは反復を調整します。これらの機能により制御が可能です。
- レートリミットは1分間あたり300リクエストです。
- 並列リクエストの制限はキーあたり 8 です。
- 最大リクエストボディは8 MBです。
