SEO טכני

Crawl Budget, המדריך המלא לאתרים גדולים (2026)

Crawl budget הוא משאב מוגבל. אם יש לך אתר גדול (1,000+ דפים), גוגל לא מבקרת בכולם כל יום. איך לוודא שה-budget הולך לדפים החשובים, זה הנושא.

TL;DR: Crawl budget הוא מספר הדפים שגוגל מבקרת באתר שלך בפרק זמן. לאתרים גדולים, זה יכול להיות bottleneck. דפים לא מעודכנים, indexing איטי. Optimization: טיפול ב-duplicates, החשיב של crawls, improve speed.

מה זה Crawl Budget

גוגל Bot לא מבקרת באתר שלך infinitely. יש לה quota. לרוב אתרים (<500 דפים). לא בעיה. לאתרים גדולים. כן.

Quota מחושב לפי:

  • Crawl rate. עד כמה האתר מהיר לסקירה.
  • Crawl demand. עד כמה האתר חשוב/פופולרי.

מי צריך לחשוב על זה

  • ecommerce עם 10,000+ products.
  • News sites with עשרות מאמרים ביום.
  • Directory sites עם listings רבים.
  • Large enterprise sites.

עסק קטן עם 50 דפים. לא רלוונטי.

איך למדוד

Search Console → Settings → Crawl stats. מראה:

  • Total crawl requests per day.
  • Average response time.
  • Types of files crawled.
  • Issues.

אופטימיזציה. 7 צעדים

1. סילוק duplicates

URL parameters, print versions, sort options. גוגל מבקרת בכל אחד. Canonical tags ו-robots.txt.

2. Robots.txt ל-blocking

חסום דפים שאין צורך לאנדקס:

  • Admin areas.
  • Search results pages.
  • Cart/checkout (אם לא business-critical).
  • Staging sites.

3. Internal linking חכם

דפים חשובים. linked from many places. דפים פחות חשובים. fewer links. Googlebot עוקב links.

4. Speed

אתר מהיר = גוגל יכולה לסקור יותר דפים בזמן נתון. Crawl rate עולה.

5. Sitemap מדויק

רק דפים חשובים ב-sitemap. לא כל URL.

6. Remove dead pages

404s, 410s, redirects, redirect chains. כל אחד בזבוז של budget.

7. Fresh content

עדכונים regularly. מראה לגוגל שהאתר פעיל. Crawl demand עולה.

Signals ל-bigger crawl budget

  • High authority (backlinks).
  • Frequent updates.
  • Fast server.
  • Clean architecture.
  • High CTR in SERP.

טעויות נפוצות

  • Robots.txt חוסם JS/CSS. גוגל לא יכול לרנדר.
  • Too many URL parameters.
  • Redirect chains (A → B → C → D).
  • Orphan pages (no internal links).
שמוליק דורינבאום

רוצה עזרה ממוקדת ל-SEO באתר שלך?

אני שמוליק דורינבאום — יועץ SEO ב-20+ שנות ניסיון. אם המאמר הזה נתן לך כיוון ואתה רוצה ליישם על האתר שלך, יש לי קורס קידום אתרים חינמי מלא, או שאפשר לקפוץ לשיחת ייעוץ אישית.

שאלות נפוצות

האם אתר של 200 דפים צריך לחשוב על crawl budget?
לא. Googlebot יסקור את כל 200 הדפים בקלות. רלוונטי מ-1,000+ דפים.
האם JavaScript מאט crawl?
כן. JS rendering לוקח זמן. דפי SPA רגילים crawl slower מ-SSR.
איך לזרז first indexing של דפים חדשים?
URL Inspection ב-GSC → Request indexing. אל תעשה bulk. רק לדפים חשובים.
האם infinite scroll impact crawl?
כן. Googlebot לא scrolling. תוכן מתחת ל-fold ללא pagination. אבוד.
האם Noindex פתר crawl budget?
חלקית. גוגל עדיין מבקרת את הדף (לראות את ה-noindex). אבל פחות מאשר דף שיגדרו.

יש לך שאלה על Crawl Budget?

שלחו הודעה — אחזור תוך 24 שעות עם תשובה ממוקדת.