Ablasyonlu Modelleri Yerel Modellerle Karıştırmak
Ablated AI modelleri uzak sunucularda çalışır, dizüstü bilgisayarınızda değil. Bir yanıt istediğinizde, kodunuz verileri barındırılan bir uç noktaya gönderir. Ollama'daki yerel modeller tamamen donanımınızda çalışır. SDK yapılandırmanızı doğru temel URL'yi işaret edecek şekilde ayarlamanız gerekir.
Netzwerklatenz beeinflusst die Antwortzeit. Die Geschwindigkeit Ihres lokalen Modells hängt von Ihrer GPU ab. Remote-API-Aufrufe fügen Millisekunden für Hin- und Rückfahrten hinzu. Dies ist normal für Cloud-Dienste.
Yerel modeller tam veri gizliliği sağlar. Uzaktaki API'ler sağlayıcıya güvenmenizi gerektirir. Ablated AI, eğitim için istemleri kullanmaz. Verileriniz size ait kalır. API anahtarlarınızı hala güvenli bir şekilde yönetmeniz gerekir.
Bağlam Penceresi Yanılgıları
Bağlam penceresi hem girdi hem de çıktı tokenlarını içerir. İstek başına toplamda 100.000 tokenınız vardır. Bu toplam, prompt ve tamamlamayı birlikte sayar.
- Girdi tokenları limite dahil olur.
- Çıktı tokenları limite dahildir.
- Maksimum çıkış istek başına 16.000 token'dır.
max_tokens ayarlanmazsa, model varsayılan olarak 2.048 token kullanır. Bu, kontrolsüz maliyetleri önler. Mevcut alanınızı dikkatli bir şekilde hesaplamalısınız. Uzun konuşmalar pencereyi hızla tüketir.
Hiçbir Reddetme Olmadığını Varsaymak
Sansürsüz sonsuz olduğu anlamına gelmez. Model yasal yetişkin içeriğini özgürce reddeder. Yaratıcı yazımı reddetmez. Her zaman geçerli olan tek bir katı sınır vardır.
Minörler ile ilgili cinsel içerik reddedilir. Bu müzakere edilemez. Diğer tartışmalı konular geçer. Güvenlik araştırması çıktıları ham olarak sunulur. Tam cevabı alırsınız.
Redler ücretsizdir. Reddedilen tokenlar için ödeme yapmazsınız. Bu kötü prompt'lar üzerinde tasarruf sağlar. Model yetişkin kullanım durumları için ayarlanmıştır.
Token Sayısı Karışıklığı
Fiyatlandırma, gerçek token kullanımına dayanır. 1M giriş token'ı başına $0.15 ödersiniz. 1M çıktı token'ı başına $0.50 ödersiniz. Hatalar ücretsizdir. Reddettirmeler ücretsizdir.
- Girdi tokenleri daha düşük orandan ücretlendirilir.
- Çıktı tokenları daha yüksek orandan ücretlendirilir.
- Ön ödemeli kredi tüm kullanımı kapsar.
Kredi süresi dolmaz. İhtiyacınız olduğunda yükleyebilirsiniz. Aylık ücret yoktur. Sadece tükettiğiniz şey için ödeme yaparsınız. Bu model ani iş yükleri için iyi uyar.
Akışlı ve Akışsız Veri
Akış, verileri parçalar halinde döndürür. Server-Sent Events (SSE), tokenları oluşturulurken iletir. Çıktıyı gerçek zamanlı görürsünüz. Bu kullanıcı deneyimini önemli ölçüde iyileştirir.
Akış olmayan mod tam yanıtı bekler. Tüm tokenları tek seferde alırsınız. Bu uygulamak daha basittir. Akış, kısmi verileri işlemeyi gerektirir.
Son parça token kullanım istatistiklerini içerir. Maliyetleri doğru bir şekilde takip edebilirsiniz. Her iki mod da aynı model özelliklerini destekler. Arayüz ihtiyaçlarınıza göre seçin.
Fonksiyon Çağırma Sınırlamaları
İşlev çağırma araçlar aracılığıyla çalışır. İsteğinizde şemaları tanımlarsınız. Model yapılandırılmış JSON döndürür. Bu, karmaşık iş akışlarını mümkün kılar.
- Fonksiyon çağrılarını zorlamak için tool_choice kullanın.
- Katı çıktı için JSON modu desteği.
- Parameters like temperature affect reliability.
Tüm özellikler mevcut değildir. Embedding yoktur. Görsel oluşturma yoktur. İnce ayar (fine-tuning) yoktur. Metin tamamlama görevlerine odaklanın. Model araçları iyi yönetir.
Kripto Ödeme İnce Detayları
Ödemeler yalnızca kripto para ile yapılır. TRC20 üzerinde USDT kullanabilirsiniz. Base üzerinde USDC kullanabilirsiniz. Hatalar destek aracılığıyla düzeltilir. Kayıt için telefon numarası gerekmez. Google veya e-posta ile giriş yapılabilir.
Teknik Uygulama Detayları
OpenAI uyumlu SDK'ları kullanın. HTTPS://api.ablated.cc/v1 adresine işaret edin. API anahtarınızı başlıkta ayarlayın. Model ID'si "uncensored"dir. Açık ağırlıklı bir modeldir.
Parameters like temperature and top_p work as expected. You can set a seed for reproducibility. Presence penalty and frequency penalty adjust repetition. These features give you control.
- Hız sınırı dakikada 300 istek ile sınırlıdır.
- Eşzamanlı istek sınırı anahtar başına 8'dir.
- Maksimum istek gövdesi 8 MB'dır.
