Перейти к содержимому

Динамические сайты: Playwright

Если данные появляются только после работы JavaScript, requests их не увидит. Тогда используют Playwright: он управляет настоящим браузером.

  1. Установите: pip install playwright, затем playwright install chromium.
  2. Сначала проверьте вкладку Network в браузере: часто данные приходят JSON-запросом, и его проще вызвать напрямую.
  3. Если нужен браузер - дождитесь элемента (wait_for_selector), а не используйте sleep.
  4. Для входа на сайт используйте только доступы, которые покупатель разрешил, и не храните пароли в проекте.
  • Парсить через браузер то, что отдаёт API.
  • Фиксированные паузы вместо ожидания элемента.
  • Слишком частые запросы - блокировка.
  • Проверен вариант через API
  • Ожидания по селекторам
  • Режим headless для сервера