Søgerobot - problem
Hejsa.Jeg har lavet en søgerobot, som vi har diskuteret før her:
http://www.eksperten.dk/spm/370081
Hvis der opstår en fejl under indlæsning af siden, f. eks. 404 Not Found springer den linket over, og tager det næste i køen.
Dvs. at jeg kan opfange hvis URL´en ikke findes. Men hvis selve domænet ikke findes (svarer til at msn-search kommer frem i IE), så får jeg en fejl 500 og robotten stopper.
Er der nogen der har en idé til hvordan det kan løses?
