# robots.txt for grafcet.io # # Bewusst EIN Regelsatz für alle Crawler: Crawler befolgen nur die spezifischste # passende User-agent-Gruppe. Die früheren per-Bot-Gruppen (Googlebot, GPTBot …) # mit nur "Allow: /" hebelten dadurch die Disallows aus (Googlebot & Co. sahen # die /api-Sperre nicht). Ein einziger *-Satz gilt für ALLE. # # KI-Crawler (GPTBot, Google-Extended, ClaudeBot, PerplexityBot, CCBot, …) sind # über * ausdrücklich erlaubt — Sichtbarkeit in der KI-Suche (GEO) ist erwünscht. # # Interne Seiten (/auth, /checkout, /raum) werden hier BEWUSST NICHT gesperrt, # sondern tragen ein noindex-Meta-Tag: So kann der Crawler die Seite abrufen und # das noindex lesen. Eine robots-Sperre verhindert das Lesen und die URL könnte # trotzdem (ohne Snippet) im Index landen. User-agent: * Allow: / # Nicht-Inhalt / interne Endpunkte Disallow: /api/ Disallow: /u/ # Nicht-kanonische Parameter-URLs (Teilen-/Deep-Links): sparen Crawl-Budget und # verhindern das Indexieren tausender Nutzer-Share-Varianten. Die sauberen # Kanonseiten (/editor, /uebungen, …) bleiben voll erlaubt und stehen in der Sitemap. Disallow: /*?share= Disallow: /*?g= Disallow: /*?account= Disallow: /*?ux= Sitemap: https://grafcet.io/sitemap.xml