Скачать

Web Parser

Краулер сайтов с AI-обработкой каждой страницы. Обходит внутренние ссылки, извлекает текст, отправляет AI с вашим промптом. Вывод в тексте, JSON или CSV. Пауза/возобновление, очередь, защита от spider-ловушек.

Что это даёт

1

Извлечение структурированных данных

Каталоги товаров, контакты, вакансии — AI вытаскивает нужные поля в JSON или CSV, готовые для анализа.

2

Масштаб без ручного труда

Парсер обходит тысячи страниц автоматически — вы получаете результат, а не сидите с copy-paste.

3

AI понимает контекст

В отличие от CSS-селекторов, AI извлекает данные по смыслу: «найди цену, даже если она в нестандартном формате».

4

Пауза и продолжение

Большой сайт на 10 000 страниц? Поставьте на паузу, выключите компьютер — продолжите с того же места завтра.

5

Работа без AI

Парсер собирает текст всех страниц даже без AI-провайдера — полезно для бэкапа контента или миграции.

6

Обход блокировок

Прокси-поддержка — парсите зарубежные или защищённые сайты через промежуточный сервер.

7

Защита от ловушек

Spider trap detection предотвращает бесконечный обход циклических URL — парсер не застрянет.

8

Очередь задач

Несколько заданий выполняются последовательно — ставите в очередь и занимаетесь другими делами.

9

Контроль скорости

Rate limit настраивается — от «вежливого» 1 req/s до агрессивного парсинга, в зависимости от сайта.

10

Crash recovery

Если приложение перезапустилось — незавершённые задания возобновляются автоматически.