Часто вижу, как новички пихают в один скрипт и получение прокси, и логику обхода капчи, и запись в базу. Через неделю такой код превращается в тыкву, которую невозможно дебажить.
Короче, ребят, разбивайте всё на микросервисы:
🔸 Загрузчик (прокси + запросы)
🔸 Парсер (только селекторы)
🔸 Воркер записи (очередь в Redis)
У меня такая связка экономит кучу времени при апдейтах фронтенда. Если сайт меняет классы — я меняю только один модуль, не трогая сеть.
Что думаете, усложняете архитектуру с нуля или пишете монолит до первой поломки?
➖➖➖➖➖➖➖➖➖➖
Антон Хоменок про веб-скрейпинг 🕷
Хоменок: web-скрейпинг 🕷
@xomenok_scraping
🧩 Архитектура парсера: почему «всё в одном» — плохая идея
Этот пост опубликован в Telegram-канале Хоменок: web-скрейпинг 🕷. Подписаться можно по ссылке: @xomenok_scraping.