Julia Jung und Stefan Niemeyer

KI-Check

Crawlability

Crawlability bezeichnet die Fähigkeit einer Webseite oder URL, von Suchmaschinen- und KI-relevanten Crawlern überhaupt erreicht und technisch verarbeitet zu werden. Eine Seite ist crawlbar, wenn Bots sie anfragen dürfen, der Server sauber antwortet und der Inhalt nicht durch technische Barrieren unnötig verborgen wird. Im GEO ist das grundlegend, weil Inhalte ohne Crawlbarkeit weder zuverlässig gefunden noch als Quelle für Such- und KI-Systeme herangezogen werden können. Das Buch beschreibt genau diese technische Zugänglichkeit als Fundament dafür, dass Inhalte überhaupt für klassische Suche, KI-Crawler und KI-gestützte Antworten in Frage kommen.

Aus Google-Sicht beginnt das bei den Basisanforderungen: Googlebot darf nicht blockiert sein, die Seite sollte erfolgreich mit HTTP 200 antworten, und der Inhalt muss für Google abrufbar sein. Für AI Overviews und AI Mode gelten keine eigenen Sonderregeln, sondern dieselben technischen Voraussetzungen wie für Google Search insgesamt. Google nennt außerdem ausdrücklich Punkte wie erlaubtes Crawling in robots.txt, funktionierende interne Verlinkung und wichtigen Inhalt in Textform.

Wichtig ist die Abgrenzung: robots.txt steuert in erster Linie den Zugriff auf URLs, nicht die Indexierung selbst. Google weist ausdrücklich darauf hin, dass robots.txt kein Mittel ist, um eine Seite sicher aus dem Index fernzuhalten. Dafür sind andere Mechanismen wie noindex zuständig.

Für Destinationen und Tourismusverbände heißt das praktisch: Eine Veranstaltungsseite für den Weihnachtsmarkt in Quedlinburg, eine POI-Seite zum Baumwipfelpfad oder eine Landingpage zur Anreise an die Nordsee bringt im GEO nur dann etwas, wenn Bots sie technisch erreichen können. Werden solche Seiten durch fehlerhafte robots.txt-Regeln, CDN-Sperren, Login-Barrieren, kaputte Statuscodes oder rein clientseitig nachgeladenen Inhalt behindert, sinkt die Chance, dass sie in Google Search, AI Overviews oder AI Mode als Quelle auftauchen. Gerade JavaScript-lastige Seiten sind dabei anfälliger, weil Google Inhalte oft erst nach Rendering vollständig sehen kann.

aktualisiert: 17. März 2026

Autoren: Julia Jung, Stefan Niemeyer

Quellen

Julia Jung und Stefan Niemeyer

Wir freuen uns auf Dich.

moin@jungniemeyer.de +49 421 430 880 55