Путаница между абляцией и локальными моделями
Модели Ablated работают на удаленных серверах, а не на вашем ноутбуке. Когда вы запрашиваете ответ, ваш код отправляет данные на хостинговую конечную точку. Локальные модели, такие как в Ollama, работают полностью на вашем оборудовании. Вам необходимо настроить конфигурацию SDK, указав правильный базовый URL.
Сетевая задержка влияет на время ответа. Скорость вашей локальной модели зависит от вашего GPU. Удаленные вызовы API добавляют миллисекунды на круговые поездки. Это нормально для облачных сервисов.
Локальные модели обеспечивают полную конфиденциальность данных. Удаленные API требуют доверия к провайдеру. Ablated AI не использует промпты для обучения. Ваши данные остаются вашими. Вам все еще нужно безопасно управлять ключами API.
Заблуждения о контекстном окне
Окно контекста включает входные и выходные токены. У вас есть 100,000 токенов в общей сложности на запрос. Эта сумма учитывает промпт и сгенерированный ответ вместе.
- Вводные токены учитываются в лимите.
- Выходные токены учитываются в лимите.
- Максимальный объем вывода составляет 16 000 токенов за запрос.
Если не указать max_tokens, модель по умолчанию использует 2 048 токенов. Это предотвращает неконтролируемый рост расходов. Вам необходимо тщательно рассчитать доступное пространство. Длинные разговоры быстро заполняют окно контекста.
Предполагая нулевые отказы навсегда
Нецензурированный контент не означает бесконечность. Модель свободно отказывает в законном взрослом контенте. Она не отказывает в творческом письме. Существует одно жесткое ограничение, которое всегда применяется.
Контент для взрослых с участием несовершеннолетних блокируется. Это не обсуждается. Другие спорные темы проходят. Результаты исследований безопасности выводятся в сыром виде. Вы получаете полный ответ.
Отказы бесплатны. Вы не платите за отклонённые токены. Это экономит деньги на плохих промптах. Модель настроена на сценарии для взрослых.
Непонимание количества токенов
Тарификация основана на реальном использовании токенов. Вы платите $0.15 за 1M входных токенов. Вы платите $0.50 за 1M выходных токенов. Ошибки ничего не стоят. Отказы ничего не стоят.
- Входные токены тарифицируются по сниженной ставке.
- Выходные токены тарифицируются по повышенной ставке.
- Предоплаченный баланс покрывает все использование.
Кредит не истекает. Вы можете пополнять баланс, когда это нужно. Ежемесячные платежи отсутствуют. Вы платите только за то, что потребляете. Эта модель хорошо подходит для всплесковых нагрузок.
Данные при потоковой и непотоковой передаче
Потоковая передача возвращает данные в чанках. Server-Sent Events (SSE) доставляют токены по мере их генерации. Вы видите вывод в реальном времени. Это значительно улучшает пользовательский опыт.
Режим без потоковой передачи ждет полного ответа. Вы получаете все токены сразу. Это проще в реализации. Потоковая передача требует обработки частичных данных.
Последний чанк содержит статистику использования токенов. Вы можете точно отслеживать расходы. Оба режима поддерживают одни и те же функции модели. Выбирайте в зависимости от потребностей вашего UI.
Ограничения Function Calling
Вызов функций работает через инструменты. Вы определяете схемы в запросе. Модель возвращает структурированный JSON. Это позволяет создавать сложные рабочие процессы.
- Используйте tool_choice для принудительного вызова функций.
- Поддерживает режим JSON для строгого вывода.
- Параметры, такие как температура, влияют на надежность.
Не все функции доступны. Векторизации (embeddings) нет. Генерации изображений нет. Дообучения (fine-tuning) нет. Сосредоточьтесь на задачах завершения текста. Модель хорошо справляется с инструментами.
Нюансы оплаты криптовалютой
Оплата только криптовалютой. Вы можете использовать USDT в сети TRC20. Вы можете использовать USDC в сети Base. Ошибки исправляются через поддержку. Для регистрации не нужен номер телефона. Подходит вход через Google или email.
Подробности технической реализации
Используйте совместимые с OpenAI SDK. Укажите HTTPS://api.ablated.cc/v1. Установите API-ключ в заголовке. ID модели — "uncensored". Это модель с открытыми весами.
Параметры, такие как температура и top_p, работают как ожидается. Вы можете установить seed для воспроизводимости. Штраф за присутствие и штраф за частоту регулируют повторение. Эти функции дают вам контроль.
- Лимит запросов составляет 300 запросов в минуту.
- Лимит параллельных запросов — 8 на ключ.
- Максимальный объем тела запроса составляет 8 МБ.
