TL;DR: • Yandex Smart Web Security анализирует сетевое поведение и цифровые отпечатки (TLS fingerprinting). • Запуск беты Cloudflare доказывает: интернет безвозвратно уходит от классической рекламной модели.
До недавнего времени технология Pay-Per-Crawl существовала исключительно в виде локальных экспериментов. Веб-мастера вручную настраивали серверы, а продвинутые автономные агенты вроде Claude Codeнакануне учились распознавать код HTTP 402 и платить тестовые центы за парсинг.
Но теперь этот процесс официально масштабирован до промышленного уровня. Платформа Cloudflare объявила о запуске закрытой беты инструментов Monetization Gateway и Pay Per Use.
Это фундаментальный сдвиг в экономике интернета. Самый популярный WAF-сервис в мире превращается в клиринговую палату, которая будет автоматически взимать деньги с ИИ-лабораторий в пользу издателей.
Pay Per Use: как работает новая модель роялти от Cloudflare
Главный анонс релиза — это появление модели Pay Per Use (Плата за использование). Она радикально отличается от стандартной блокировки ботов на входе.
Если классический Pay-Per-Crawl требует от робота деньги здесь и сейчас (иначе защитный экран оборвет сессию), то Pay Per Use работает по принципу стриминговых сервисов:
- Свободный доступ: Поисковые и обучающие ИИ-краулеры беспрепятственно сканируют сайт и забирают контент в свои LLM-модели.
- Логирование и учет: Инструменты Cloudflare фиксируют, какие именно куски контента и с каких страниц были проиндексированы.
- Выплата роялти: Крупные ИИ-лаборатории (включая OpenAI и Anthropic) в рамках соглашения с Cloudflare централизованно отчитываются, сколько раз фрагменты ваших статей использовались для генерации ответов пользователям, и перечисляют за это реальные токены USDC от Circle.
Для новостных сайтов и классических медиа это стратегическое спасение. Сайт не закрывается от ИИ-поисковиков, сохраняет свою GEO-видимость, но при этом получает прямую монетизацию за «выжженный» нейросетями трафик.
Реалии Рунета: строим кастомный шлюз через Yandex Cloud
Официальная бета Cloudflare завязана на Stripe API и зарубежные криптошлюзы, что делает её недоступной для сайтов в зоне .ru. Однако архитектурную логику платного интернета можно развернуть внутри РФ прямо сейчас.
Для этого используется связка облачной защиты Yandex Smart Web Security (WAF) и вашего собственного бэкенда.
[ИИ-Бот c поддельным UA]
│
▼
[Yandex WAF (Модуль Антиробот)] ───► Анализ TLS-отпечатков JA3/JA4 (Бот определен)
│
▼ Добавляет заголовок X-Is-AI-Agent: true
[Ваш бэкенд (Nginx / CMS)]
│
▼
[Ответ HTTP 402 + инвойс СБП (ЮKassa / Т-Банк)]
Шаг 1. Безошибочная идентификация через JA3/JA4
Современные ИИ-агенты и коммерческие парсеры легко обходят блокировки, подменяя строку User-Agent на сигнатуру обычного браузера Google Chrome.
Модуль Антиробот в составе Yandex Smart Web Security анализирует сетевое поведение и цифровые отпечатки (TLS fingerprinting). Скрыть или подделать отпечаток JA3/JA4 на уровне кода практически невозможно. Как только система понимает, что перед ней автоматический скрипт, WAF не блокирует его, а добавляет к запросу кастомный заголовок: X-Is-AI-Agent: true, передавая запрос на ваш сервер.
Шаг 2. Экономичный перехват на бэкенде
Ваш сервер (Nginx или Apache) проверяет входящий заголовок от Яндекса. Если метка ИИ-бота присутствует, бэкенд моментально возвращает статус 402 Payment Required, полностью прекращая выполнение тяжелых PHP-скриптов и не нагружая базу данных хостинга.
Шаг 3. Клиринг через СБП
В теле ответа HTTP 402 сервер передает JSON-метаданные с динамическим инвойсом, сгенерированным через API ЮKassa или Т-Банка. Автономные ИИ-агенты, выполняющие платные задачи пользователей, технически готовы считывать такие платежные требования, проводить микротранзакции через СБП и забирать очищенный контент.
Выводы для издателей
Запуск беты Cloudflare доказывает: интернет безвозвратно уходит от классической рекламной модели. Веб-мастерам Рунета важно перестать воспринимать WAF исключительно как инструмент защиты от DDoS-атак.
Уже сегодня архитектуру безопасности (будь то Cloudflare или Yandex Cloud) необходимо проектировать с прицелом на будущую селективную монетизацию и интеграцию с ИИ-поисковиками.
Читайте также: Практический кейс: как терминальный робот Claude впервые самостоятельно оплатил доступ к контенту.
Что такое модель Pay-Per-Crawl от Cloudflare?
Это технология на базе HTTP-кода 402, которая позволяет владельцам сайтов автоматически взимать микроплатежи (в стейблкоинах USDC) с ИИ-ботов и автономных агентов за каждую отсканированную страницу контента.
В чем разница между моделями Pay Per Crawl и Pay Per Use?
Pay Per Crawl блокирует ИИ-бота на входе, пока он не оплатит запрос на парсинг страницы. Pay Per Use не блокирует ботов, сохраняя GEO-видимость сайта, но ИИ-лаборатории централизованно платят роялти издателю за каждый показ его текста юзеру.
Можно ли настроить платный доступ для ИИ-ботов в России без Cloudflare?
Да. Аналогичную схему можно собрать внутри Рунета с помощью модуля Антиработ в Yandex Smart Web Security (анализ TLS-отпечатков JA3/JA4) и интеграции отечественных финтех-шлюзов (Т-Банк, ЮKassa) через СБП.












