Hvorfor og hvordan bruger man filen robots.txt? Min hjemmeside skal selvfølgelig ligge så højt som muligt på søgesiderne, og jeg har i den forbindelse fået lavet noget søgemaskine-optimering. Jeg har hørt at man bør lave en robots.txt fil som sskal lægges i roden af websitet. Den info jeg kan finde omkring dette siger ikke så meget om hvad man får ud af at bruge filen og så vidt jeg kan se handler de eksempler jeg har set mest om at ekskludere søgerobotterne fra at indexere sitet... Hvis man vil ligge højt er man vel ikke interesseret i ikke at blive indexeret?
Der bliver investeret massivt i AI. Teknologien er mere tilgængelig end nogensinde, og ambitionerne er høje. Alligevel oplever mange virksomheder, at resultaterne udebliver.
Formelt behøver du ikke gøre noget, men lægger du en robots.txt, der giver lov til alt, fordi du ikke vil udelukke noget, indikerer du at du måske er lidt mere seriøs end dem, der ikke gør. Det er en faktor som søgemaskiner måske vil lægge vægt på. Det skader i hvert fald ikke at lægge sådan een ;)
Har skrevet denne... - - - User-agent: * Disallow: /cgi-bin/ Disallow: /_index - jul/ Disallow: - - - Denne skulle betyde at jeg accepterer alle crawlere, men at de ikke må kigge i /cgi-bin/ og biblioteket /_index - jul/
Tilladte BB-code-tags: [b]fed[/b] [i]kursiv[/i] [u]understreget[/u] Web- og emailadresser omdannes automatisk til links. Der sættes "nofollow" på alle links.