Pagina 1 van 1

Robots.txt

Geplaatst: 22 jun 2023, 14:48
door nl1sms
Kan iemand een voorbeeld geven van een robots.txt geschikt voor een phpbb forum? Dank

Re: Robots.txt

Geplaatst: 22 jun 2023, 15:04
door El torro
Wat wil je er iets speciaals inzetten?
De mijne ziet er zo uit:
User-agent: *
Disallow:
SITEMAP: https://www.website.be/sitemap.xml
Waar de link naar mijn sitemap gaat.

Re: Robots.txt

Geplaatst: 22 jun 2023, 15:42
door nl1sms
Sitemap? Wasdat? En waarom disable je die? Ik probeer meer seo te krijgen.

Re: Robots.txt

Geplaatst: 22 jun 2023, 16:04
door El torro
https://www.gonect.nl/sitemap-website-nodig/
Ik disable juist niets.

Of je meer SEO krijgt door een robots text bestand betwijfel ik ten zeerste, die is juist bedoelt om delen van je website te blokkeren en of bots gedeeltelijk of geheel te blokkeren.
Sitemap dient er voor om moeilijk te crawlen sites iets toegankelijker te maken voor bots, bij phpbb is dit ook niet echt nodig maar kan ook geen kwaad.

Re: Robots.txt

Geplaatst: 22 jun 2023, 16:07
door nl1sms
Snap er nu al weinig van. Als het niet nodig is dan laat ik het hierbij. Thx

Re: Robots.txt

Geplaatst: 22 jun 2023, 21:12
door gouwepeer_nl
Heb jij bepaalde bots die jij wilt blokkeren? Je kan hiervoor ook een robots.txt generator gebruiken.
El torro schreef:
22 jun 2023, 15:04
Wat wil je er iets speciaals inzetten?
De mijne ziet er zo uit:
User-agent: *
Disallow:
SITEMAP: https://www.website.be/sitemap.xml
Waar de link naar mijn sitemap gaat.
Ik zie maar 5 items in jouw sitemap (met een 2019 datum). Vanwaar die priority tags?

Re: Robots.txt

Geplaatst: 22 jun 2023, 21:21
door El torro
Geen bepaalde reden, gewoon gedaan om toch iets van sitemap te hebben :lol:
Bots blokkeer ik tegenwoordig in Cloudflare, via de robots.txt heeft toch geen nut voor de "bad bots"

Re: Robots.txt

Geplaatst: 22 jun 2023, 21:32
door gouwepeer_nl
Ik neem aan dat jij dat xml bestand handmatig aan heb gemaakt? Heeft phpBB geen automatische sitemap script?

Re: Robots.txt

Geplaatst: 22 jun 2023, 21:38
door El torro
Er is een extensie voor https://www.phpbb.com/customise/db/exte ... o_sitemap/
Echter nog nooit gebruikt dus weet niet hoe hij werkt.
Ik heb de sitemap inderdaad handmatig gemaakt.

Re: Robots.txt

Geplaatst: 22 jun 2023, 21:45
door gouwepeer_nl
Het nadeel van een handgemaakte sitemap is dat het ook handmatig bijgehouden moet worden. Google zoekt namelijk graag naar sitemaps om eventuele nieuwe content sneller te vinden.
El torro schreef:
22 jun 2023, 21:38
Er is een extensie voor https://www.phpbb.com/customise/db/exte ... o_sitemap/
Die extensie zal ik eens uit gaan proberen zodra ik weer met phpBB aan de slag ga ;)

Re: Robots.txt

Geplaatst: 22 jun 2023, 21:51
door El torro
Ik weet het, maar hecht niet zoveel belang aan een sitemap voor phpbb, de url structuur binnen phpbb is zeer eenvoudig te volgen en Google (of andere bots) hebben de sitemap daarom niet echt nodig.

Re: Robots.txt

Geplaatst: 22 jun 2023, 21:58
door gouwepeer_nl
Zolang de bots maar toegang hebben (de juiste permissies) zal elk forum wel goed geïndexeerd kunnen worden door o.a. Google.