Zadane postavke su dobre za većinu sajtova. Ovo poglavlje je za slučajeve kad nisu: velik sajt, spor server, sadržaj koji pravi JavaScript ili dio sajta iza prijave.
Limiti i brzina
- Dubina: koliko klikova od početne stranice pčela ide.
0znači bez ograničenja. - Najviše URL-ova: korisno kad želiš brzi uzorak velikog sajta.
- Brzina: broj istovremenih zahtjeva i najviše URL-ova u sekundi. Za tuđi ili mali server drži je nisko.
- Čekanje odgovora: poslije koliko sekundi se zahtjev računa kao Bez odgovora.
robots.txt i sitemape
Pčela poštuje robots.txt kao Googlebot, a blokirane adrese prijavi u tabu Status kodovi, pod filterom Interni: blokirano robots.txt-om. Uključi Čitaj XML sitemape da pčela pročita sitemape iz robots.txt ili s /sitemap.xml. Bez toga nema filtera za siroče stranice. S licencom imaš i alat za test vlastitog robots.txt prije nego što ga staviš na server.
JavaScript renderovanje
Zadano se čita HTML kakav server pošalje. To je najbrže i dovoljno za sajtove kojima sadržaj ne pravi JavaScript. Za React, Vue i slične sajtove uključi JavaScript renderovanje: svaka stranica se otvori u ugrađenom Chromiumu i pčela čita stranicu tek kad se skripte izvrše.
- Čekaj kasni sadržaj: koliko sekundi pčela čeka sadržaj koji se učita naknadno.
- Browsera istovremeno: više je brže, ali troši više memorije.
Tab JavaScript tada pokaže razliku u broju riječi prije i poslije JS-a i greške iz konzole.
Uključi i isključi URL-ove
Regex pravila, jedno po redu. Obiđi samo URL-ove koji odgovaraju ograniči pčelu na npr. ^/(blog|vijesti)/. Pravila za isključivanje izbace filtere, parametre za praćenje ili cijele foldere. Pravilo testiraš na jednoj adresi prije pokretanja.
Prepisivanje URL-ova uklanja parametre ili mijenja dio adrese prije leta, npr. /stari-shop/ => /shop/.
Prijava na sajt
Za staging ili sadržaj iza prijave dodaj prijavu u Postavkama, pod Prijave na sajtove: Basic auth ili formu za prijavu. Koristi samo test naloge. Pčela klikće linkove, pa bi s pravim admin nalogom mogla otvoriti i linkove za brisanje.
Predlošci postavki
Postavke sačuvaj kao predložak, npr. „shop sa JS-om" ili „brzi uzorak 1.000 URL-ova", i koristi ga za nove letove, rasporede i komandnu liniju.
Dalje: tabovi i filteri.