Klaus Medeke
02-17-2008, 07:21 AM
Seit ein paar Tagen missachtet Slurp das disallow im robots.txt. Es
scheint nur der Robot beginnend mit dem IP-Block 74.6. betroffen zu
sein und die Missachtung ist auch nicht generell, kommt aber immer
wieder vor. Habt Ihr das auch festgestellt?
Viele Grüße,
Klaus
scheint nur der Robot beginnend mit dem IP-Block 74.6. betroffen zu
sein und die Missachtung ist auch nicht generell, kommt aber immer
wieder vor. Habt Ihr das auch festgestellt?
Viele Grüße,
Klaus