Vad är en Spider?

En spindel är ett program eller ett skript skrivet för att bläddra på World Wide Web på ett systematiskt sätt för att indexera webbplatser. En spindel kan också kallas en webbrobot, webbrobot eller webbrobot .

Spindlar används till exempel ofta för att samla nyckelord från webbsidor som sorteras så att användare kan hitta de nämnda sidorna via en Internet-sökmotor.

Bots, Crawl, Internet termer, Robot, Robots.txt, webbsida, hemsida