📚 Screaming Frog от парсинга до AI-функций

Настраиваешь Screaming Frog под задачу, обходишь большие сайты и подключаешь нейросети к парсингу

Этот материал доступен участникам Клуба. Войдите или оформите доступ, чтобы читать целиком, открывать видео и комментировать.

Войти Вступить / купить доступ

Уроки (35)

1 Установка Screaming Frog SEO Spider 23.1 на Windows и обзор AI-возможностей программы Продолжить → 2 Как Screaming Frog обходит сайт: очередь URL, лимиты глубины, режимы Spider и List → 3 Crawl и Store в Screaming Frog: что обходить, что сохранять и как это влияет на память и результат → 4 Настройка User Agent и HTTP Headers в Screaming Frog → 5 Вкладка robots.txt в Screaming Frog: учитывать, игнорировать и тестировать правила → 6 Настройка поиска полных и частичных дублей в Screaming Frog → 7 Настройка Crawl Extraction: Page Details в Screaming Frog → 8 Настройки Crawl - Extraction: URL Details, директивы, микроразметка, PDF и сохранение HTML → 9 Crawl Analysis в Screaming Frog: когда парсинг считается завершённым и какие отчёты зависят от анализа → 10 Настройки Crawl - Advanced в Screaming Frog: куки, редиректы, canonical, валидация HTML и таймауты → 11 Настройка Crawl Preferences: лимиты для title, description, h1, мягкие 404 и мусорные анкоры → 12 Настройка CDNs в Screaming Frog: как сканировать несколько доменов одним crawl → 13 URL Rewriting в Screaming Frog: перезапись параметрических ссылок и замена по регулярным выражениям → 14 Память и скорость парсинга в Screaming Frog: Storage Mode, Memory Allocated, потоки и лимит URL в секунду → 15 Настройки Limits в Screaming Frog: как ограничить парсинг и собрать репрезентативную выборку → 16 Ускорение сканирования больших сайтов: что отключать в Crawl, Extraction и Advanced → 17 Фильтрация обхода в Screaming Frog через Include и Exclude: правила, регулярки, кейсы → 18 Подача URL в формате List для больших сайтов → 19 Как подходить к парсингу больших сайтов: частичные краулы вместо полного → 20 JavaScript-рендеринг в Screaming Frog: когда включать, настройки и сохранение HTML → 21 Блок Custom в Screaming Frog: когда нужен Search, Extraction, Link Position и JavaScript → 22 Custom Search в Screaming Frog: типы поиска, зоны и примеры для аудитов → 23 Custom Extraction в Screaming Frog: парсер контента на примере каталога автопроката → 24 Custom Extraction в Screaming Frog: режимы извлечения, XPath, CSSPath, Regex и Function Value → 25 Custom JavaScript в Screaming Frog: запуск скриптов и внешних API во время парсинга → 26 Генерация обложек для статей через Gemini image в Screaming Frog → 27 Генерация обложек, инфографики и коммерческих изображений через Gemini 3 Image → 28 JSON-промпты для устойчивой генерации изображений в Nano Banana и Gemini → 29 Аудит контента в Screaming Frog через FireCrawl и LLM: сравнение с топ-3 выдачи → 30 XMLRiver для сбора вопросов из выдачи и генерация блока FAQ в Screaming Frog → 31 Эмбеддинги в Screaming Frog: семантические дубли, нерелевантный контент, векторный поиск и настройка → 32 Визуализация связей страниц сайта в Screaming Frog: Force-Directed 2D и 3D, Crawl и Directory → 33 Сегменты страниц в Screaming Frog: разметка сайта по разделам и анализ проблем по сегментам → 34 Три типа выгрузок в Screaming Frog: Export, Bulk Export и Reports → 35 Сравнение краулов в Screaming Frog: как отслеживать изменения на сайте между двумя сканированиями →

О курсе

Курс для SEO-специалистов, которые работают со Screaming Frog SEO Spider или только начинают с ним знакомиться. Он начинается с установки программы и разбора основных вкладок настроек: как устроен обход сайта, чем отличаются Crawl и Store, как работают User Agent, robots.txt, поиск дублей, Extraction, Crawl Analysis и Advanced.

Следующий блок посвящён большим сайтам: память и скорость, Limits, ускорение за счёт отказа от лишних ресурсов, Include и Exclude, подача URL списком и частичные краулы вместо полного. Дальше идут продвинутые сценарии: JavaScript-рендеринг, Custom Search, Custom Extraction и Custom JavaScript с вызовом внешних API.

Отдельная часть курса про AI-функции: генерация обложек и инфографики через Gemini, аудит контента через FireCrawl и LLM, сбор вопросов через XMLRiver для блока FAQ и эмбеддинги для семантических дублей и нерелевантного контента. В конце разобраны визуализация связей страниц, сегменты, выгрузки Export, Bulk Export и Reports, а также сравнение краулов.