Das Google Team hat im Google Blog eine Änderung für die Webmaster Richtlinien angekündigt. Dieses mal betrifft es Änderungen an der robots.txt. Sollte ihr bei eurer Webseite dort verboten haben das der Google-Bot keine CSS und Java Script Dateien abrufen darf müsst ihr damit rechnen das eure Webseite bald im Google Ranking fallen könnte.
robots.txt überprüfen
Google versucht ständig die Suchergebnisse und die Ausgabe dieser immer besser zu machen so das man möglichst schnell an die Information kommt die man sucht. Dazu besucht der Google-Bot eure Webseiten und versucht diese auf unterschiedliche Weise zu rendern, so als wenn ihr mit eurem Browser diese Webseite besucht. Sind in der robots.txt aber Anweisungen vorhanden das der Google-Bot bestimmte CSS oder Java Script Dateien nicht abrufen darf kann der Google-Bot diese Webseite womöglich nicht vernünftig darstellen. Das hat für euch zufolge das euer Rankig der Webseite fallen kann, da die Webseite für den Google-Bot nicht vernünftig aussieht da nicht alle Style und Java-Script Dateien geladen werden.
Zitat
Dazu äußert sich Google so:
Wenn ihr das Crawling von JavaScript-oder CSS-Dateien in der robots.txt-Datei eurer Website nicht zulasst, wirkt sich dies unmittelbar auf die Darstellung und Indexierung eurer Inhalte durch unsere Algorithmen aus und kann zu schlechteren Rankings führen.
Der Google Mitarbeiter Pierre Far schreibt dazu noch auf Google+:
Lasst mich deutlich machen, was das bedeutet: Wenn ihr das Crawling von CSS und Javascript blockt, schadet ihr aktiv der Indexierung eurer Website.“ Auch die mobile Seite sollten Seitenbetreiber bei einer etwaigen Umstellung nicht vergessen, ergänzt er wenig später.
Wie kann ich meine Webseite überprüfen?
Am schnellsten und einfachsten geht das mit eurem Google Webmaster Account. Hier könnt ihr unter dem Punkt Crawling->Abrufen wie durch Google eure Webseite durch den Google-Bot rendern und anzeigen lassen. Sollte es dabei Darstellungsprobleme oder ähnliches geben müsst ihr eure robots.txt mal genauer überprüfen ob dort Anweisungen mit: Disallow: entfernen die das abrufen von CSS oder Java-Script Dateien verbietet.