Динамические сайты: Playwright
Если данные появляются только после работы JavaScript, requests их не увидит. Тогда используют Playwright: он управляет настоящим браузером.
Порядок работы
Заголовок раздела «Порядок работы»- Установите:
pip install playwright, затемplaywright install chromium. - Сначала проверьте вкладку Network в браузере: часто данные приходят JSON-запросом, и его проще вызвать напрямую.
- Если нужен браузер - дождитесь элемента (
wait_for_selector), а не используйтеsleep. - Для входа на сайт используйте только доступы, которые покупатель разрешил, и не храните пароли в проекте.
Типичные ошибки
Заголовок раздела «Типичные ошибки»- Парсить через браузер то, что отдаёт API.
- Фиксированные паузы вместо ожидания элемента.
- Слишком частые запросы - блокировка.
Чек-лист
Заголовок раздела «Чек-лист»- Проверен вариант через API
- Ожидания по селекторам
- Режим headless для сервера