# GEO-optimaliseren.nl
# Beleid voor zoekmachines en AI-crawlers.
#
# Alles wat een antwoord kan geven mag lezen, ook wat traint.
# Geweigerd wordt alleen wat datasets aanlegt zonder ooit een bron
# te noemen. Waarom dat twee verschillende besluiten zijn staat in
# het onderzoek: https://geo-optimaliseren.nl/onderzoek/
#
# Dit bestand komt uit het thema (inc/robots.php) en niet van de
# server, zodat het meegaat met een uitrol en in de geschiedenis staat.

# Alles wat hieronder niet apart genoemd wordt.
User-agent: *
Allow: /wp-admin/admin-ajax.php
Disallow: /wp-admin/
Disallow: /wp-content/cache/
Disallow: /wp-content/upgrade/
Disallow: /wp-content/backups/
Disallow: /*?s=
Disallow: /*/trackback/

# Zoekmachines en AI-systemen die een bron kunnen noemen.
# Eén groep met alle namen, want een crawler leest maar één groep:
# een los "Allow: /" per bot zou de regels hierboven juist uitzetten.
User-agent: Googlebot
User-agent: Googlebot-Image
User-agent: Bingbot
User-agent: Google-Extended
User-agent: GPTBot
User-agent: OAI-SearchBot
User-agent: ChatGPT-User
User-agent: ClaudeBot
User-agent: Claude-User
User-agent: Claude-SearchBot
User-agent: PerplexityBot
User-agent: Perplexity-User
User-agent: Applebot
User-agent: Applebot-Extended
User-agent: Amazonbot
User-agent: meta-externalagent
User-agent: MistralAI-User
User-agent: DuckAssistBot
Allow: /wp-admin/admin-ajax.php
Disallow: /wp-admin/
Disallow: /wp-content/cache/
Disallow: /wp-content/upgrade/
Disallow: /wp-content/backups/
Disallow: /*?s=
Disallow: /*/trackback/

# Dataverzamelaars: leggen datasets aan, geven zelf geen antwoord.
User-agent: CCBot
User-agent: Bytespider
User-agent: Diffbot
User-agent: omgili
User-agent: ImagesiftBot
User-agent: Timpibot
Disallow: /

Sitemap: https://geo-optimaliseren.nl/sitemap.xml