יום רביעי, 27 בנובמבר 2013

בפוסט זה אשווה בין 3 מנועי החיפוש הפופולאריים ביותר בעולם - גוגל, בינג ויאהו (....כיום מדובר ב- 2 מנועים בלבד)



גוגל (GOOGLE) - הינו מנוע חיפוש הנמצא בבעלות חברת גוגל. זהו מנוע החיפוש הפופולרי ביותר באינטרנט .מידי יום הוא זוכה למאות מיליוני מבקרים‏ השולחים אליו כ-3 מיליארדי בקשות ביום למציאת תוכן באתרי אינטרנט. המנוע פותח במקור על ידי לארי פייג' וסרגיי ברין בשנת 1997 ומשמש כדף הבית של חברת "גוגל".

בינג (BING) - מנוע החיפוש של מיקרוסופט, הושק במאי 2009 . מנוע זה הוא גם ברירת המחדל שמגיעה עם הדפדפן אקספלורר. מיקרוסופט, המחפשת באופן תמידי שווקים להתרחב אליהם, החליטה להיכנס לתחום החיפוש פעם נוספת (מנוע החיפוש הקודם שלה נקרא msn search), הפעם עם מותג חדש. החזון שעמד מאחורי מנוע החיפוש היה תוצאה מדויקת ואישית יותר: מנוע החיפוש יבין, בעזרת האלגוריתם שלו, מה בדיוק מחפש הגולש, וכך יוכל לתת את התוצאות המתאימות ביותר. למשל, בחיפוש שם של להקה, יופיעו ראשית אתר הלהקה, תמונות, חדשות עליה, רשימת הופעות מתוכננות, ראיונות אחרונים שחבריה נתנו, אלבומים וסינגלים שהושקו, ועוד. בחיפוש אתר נופש, תתקבל מפה המתאימה להגעה אליו, מזג האוויר לימים הקרובים, תמונות וביקורות. בדרך זאת, מנסה בינג להתאים את התוצאות הרוולנטיות ביותר.

שיתוף הפעולה עם יאהו, אשר בו החליף בינג את מנוע החיפוש של החברה (Yahoo! Search) באתר שלה ובשירותים השונים אותם היא מספקת, הוא היום הפלח העיקרי של החיפושים המתבצעים בעזרת בינג (אתר יאהו (Yahoo!) הוא אחד מאתרי האינטרנט הפופולריים ביותר בעולם, עם מעל 500 מיליון כניסות בכל יום).

במנוע החיפוש של גוגל משתמשים 87% מהגולשים בעולם, ולמעלה מ-94% בישראל.
מנוע החיפוש בינג, השני בתפוצתו (מנוע החיפוש שנותר בזירה כדי להתמודד עם האלוף הותיק גוגל), תופס נתח שוק של 3.9% ברחבי העולם ובישראל 1.8% בלבד, כך שהוא רחוק מלהוות תחרות מעשית למקום הראשון.

מדד ACSI מיולי 2013 המבוסס על סקר שביעות רצון של 70,000 צרכנים בארה"ב, מציג ירידה בשביעות רצון ממנוע החיפוש גוגל אך עדיין הציון שלו גבוה משאר מנועי החיפוש והפורטלים- 77 לעומת בינג ויאהו – 76.

סקר התעבורה באינטרנט בארצות הברית, גם הוא מחודש יולי השנה, שביצעה קומסקור ComScore) ) מצביע על כך שבאותו החודש מספר הגולשים הייחודיים ביאהו עלה על אלה שנכנסו לגוגל , מדובר בגולשים מהבית, מהעבודה ומאוניברסיטאות בתחומי ארצות הברית. הפער בין האתרים מסתכם אמנם בכמחצית האחוז ומתייחס למצב בארצות הברית בלבד אך מאותת למנהלי גוגל לשאול את עצמם, ובהקדם, על מה ולמה הגולשים נוטים יותר ויותר לרעות בשדות אחרים מזה המוצע על ידם.

אחד הדברים הבולטים שתוצאות הסקרים מוכיחות, היא שלפחות בכל מה שקשור לשוק החיפוש בשפה האנגלית, יש עדיין מקום לתחרות בין מנועי החיפוש, ובהחלט יש מקום לשחקניות חדשות בתחום, לנסות ולספק לצרכנים תוצאות חיפוש רלוונטיות. אמנם, חברה צעירה שתנסה להיכנס לתחום ותתחיל לצבור הצלחות, עשויה למצוא את עצמה מהר מאוד עם הצעות רכישה מצד השחקניות הגדולות, שישמחו למזג לתוכן טכנולוגיות חדשות שישפרו את מנוע החיפוש שלה.

נאמנות למנוע חיפוש
אחת השאלות המרכזיות ביחס למנועי החיפוש היא מה גורם לאדם לפתח נאמנות למנוע חיפוש ספציפי זה או אחר. מחקרים שנערכו לאחרונה מלמדים שגולשי אינטרנט מפתחים נאמנות למנוע חיפוש ספציפי, בעיקר בשל שירותים נוספים שהוא מספק ואשר מסונכרנים עם יכולת החיפוש.
מנוע החיפוש גוגל מספק שורה ארוכה של שירותים מסונכרנים לחיפוש כמו: שירותי התראות, דואר אלקטרוני, העלאת קבצים לרשת, פתיחה וניהול של בלוגים ,סרטי וידאו (youtube) המסונכרנים לחיפוש בגוגל ועוד.
מוצריה המרכזיים של יאהו הינם תוכנת הדוא"ל Yahoo! Mail אתר Yahoo! finance הנחשב מוביל בתחום כלכלה ושוק ההון, Yahoo! maps, תוכנת המסרים Yahoo! Messenger ואתר Yahoo! Weather שהינו חלק מפורטל התוכן העשיר של יאהו, Yahoo! buzz, Yahoo! mobile. רוב השירותים של יאהו זמינים בלמעלה מ-20 שפות.
מנוע החיפוש בינג של מיקרוסופט מוטמע בדפדפן אקספלורר, ורבים משתמשים בדפדפן זה, אך מניתוח כניסות לאתרים רואים שהרוב המוחלט של הכניסות לאתרים מתבצעים על ידי חיפוש אורגני מגוגל, מה שאומר שמהר מאוד אנשים מחליפים את ברירת המחדל.

השוואה בין גוגל לבינג באופן התיחסותם לאתרים ואופן החיפוש באנגלית ובעברית
להלן 2 אתרים אשר ניתן להשוות בהם תוצאות חיפוש של גוגל לעומת בינג:
www.bing-vs-google.com
www.blackdog.ie
התיחסות לאתרים:
- בינג לא מסמפט בלוגים. לעומתו בגוגל, היחס הפוך. בלוגים מדורגים מאד גבוה ואף נחשבים למקור איכותי שמתעדכן לעיתים תדירות יותר מאשר אתר רגיל.
בנוגע לרשתות חברתיות – שניהם מתיחסים לדף בפייסבוק למשל כפרמטר, ולקישורים מטוויטר ג"כ כפרמטר

- בינג משום מה הרבה יותר "קשוח" בהכנסת דפים למאגר שלו. נראה שיש לו קריטריונים הרבה יותר מחמירים (או שבגוגל הם לא מספיק מחמירים?) ולא כל דף זוכה להופיע.
גוגל למשל דורש צפיפות מילות מפתח בדף של 2%-3% בעוד שבינג (יאהו) דורש 6%-8%

- אם בגוגל אפשר עוד איכשהו למצוא בראש התוצאות אתרים טריים בעלי וותק של פחות משנתיים, בבינג זה נדיר יותר . הסיבה לכך כנראה היא סוג של אמון שניתן לאתר יציב שקיים לאורך זמן.

- לגוגל חשוב כמות הקישורים בעוד שלבינג חשוב יותר איזו מילה מקשרת.

-  ישנו אספקט נוסף בו בינג מתמקד יותר מאשר גוגל: מבנה האתר. לארכיטקטורה של האתר יש חשיבות גדולה לכך שבינג צריך להבין מה הנושא הראשי, כיצד נושאי המשנה מתבטאים בקטגוריות המשנה באתר ותתי הנושאים ברמות העמוקות יותר של האתר. ניתן להרים גבה על הבחירה של בינג בפרמטר הזה שכן תוכן טוב לא תמיד יהיה מצוי באתרים עם מבנה אתר מושלם ועדיין נרצה שמנוע החיפוש יתן לנו את התוכן במידה והוא רלוונטי.

- מאפיין חדש נוסף של גוגל הוא הצגת תוצאות חיפוש רלוונטיות על פי מיקום. אם תעשו את אותו החיפוש לאותן המילים במקומות שונים בעולם, תקבלו תוצאות שונות וזאת מאחר וגוגל תמיד יציג לכם קודם אתרים שקרובים אליכם במיקום הגיאוגרפי שלכם.

אופן החיפוש והצגת התוצאות:
 - השלמה אוטומטית :  גוגל כותבים חלק ומחכים להשלמה האוטומטית, זה נח לגולש ובנוסף מצביע גם על חיפושים פופולאריים שנעשים ע"י מרבית הגולשים.
בבינג אין השלמה אוטומטית אלא רשימה של חיפושים קרובים במקרה זה אנו מקבלים לרוב את המילה הנוספת לפני מונח החיפוש שהקלדנו ולא אחריו.

 - קשר בין ביטויים :  גוגל, כמנוע חיפוש וותיק יותר ומגוייר כהלכה שפועל בישראל כבר כמה שנים טובות, "מכיר" את     הקשר בין המילים השונות. הוא יודע לזהות מילים שמופיעות עם כל מיני ו' החיבור, בהטיה לפי זמן, זכר\נקבה, יחיד\רבים ומבין את משמעותן של ראשי תיבות. אם לדוגמא נחפש בבינג ביטוי כמו "עו"ד" נקבל תוצאות שמכילות אך ורק את הביטויי הזה. בעוד שבגוגל יופיעו תוצאות בעלות הקשר זהה כמו "עורכי דין", "עורך דין", "עריכת דין" וכו'. בדוגמא נוספת, על המילה "רפואי" גוגל מזהה מילים כמו "רפואיים", "רפואה" וכו' בעוד שבינג מזהה בדיוק את הביטוי "רפואי".

 - הצגת תוצאות והמידע המוצג : בינג מציג את תוצאות החיפוש באופן מקוצר בעברית (פחות מילים מאשר באנגלית), זה יכול להצביע על חוסר היכולת שלהם להתמודד עם עברית באותה הצורה כמו גוגל.
בינג מנסים להציג תוצאות חיפוש נקיות יותר מגוגל אשר ביחד עם המודעות הפרסומיות מציגים דף דיי מבולגן. הבעיה היא שרובנו רגילים לגוגל ולכן הבלאגן מול העיניים כבר קל לנו לניווט. גוגל הישראלי עדיין לוקה בחסר בכמות המידע שהוא מציג אולם בכל מקרה עולה על בינג בסוג המידע המוצג .

לסיכום:
- לבינג יש רק מנוע חיפוש אחד ולא מנועי חיפוש איזוריים כמו לגוגל 
- בינג לא ממש מבין עברית בצורה טובה יחסית כמו גוגל
- איכות תוצאות החיפוש בבינג (לפחות בעברית) רחוקות מלהיות איכותיות
- הסיבה העיקרית שמשתמשים בכלל בבינג בישראל היא תוכנת ההפעלה וינדוס 

מה בכ"ז יש לבינג (בישראל) להציע על פני גוגל ?
 - מי שחרד לפרטיותו ומשתמש בג'ימייל כשירות הדואר האלקטרוני שלו, עשוי להעדיף להשתמש דווקא בבינג כדי שכל החיפושים שהוא עושה לא ישויכו אל החשבון שלו בגוגל.

 - היקף התמונות במנוע החיפוש YAHOO! או BING נמוך יותר בהשוואה לגוגל אך הרלבנטיות של התוצאות הרבה יותר גבוהה. דווקא בתחומי איתור התמונות מצטיין מנוע החיפוש של יאהו ומידענים נוטים להשתמש בו כנקודת התחלה לחפוש תמונות (גם בגלל השיוך והתכולה של תמונות מפליקר ( השייך ליאהו()

- כפי שהצגתי בתחילת המאמר, במקומות אחרים בעולם כמו למשל ארה"ב יש עליה בשימוש בבינג (יאהו) ולעיתים הוא אף עובר את גוגל בגלל רלוונטיות התוצאות, כך שיתכן שכדאי לנסות להשתמש בו בשפה האנגלית, בתחומי ארה"ב לפחות

לנו, הגולשים יש אינטרס לעודד את שתי המתחרות לשיפור ושכלול היכולת של מנועי החיפוש והגברת האובייקטיביות של ממצאיהם, כך נקבל תוצאות יותר טובות בעבור אותו חינם, בעוד שמנועי החיפוש והמפרסמים יצאו מרוויחים גם הם. 

קיימים מנועי על כמו Yometa אשר מחפשים בשני המנועים יחדיו- ההנחה שעמדה בפיתוח המנוע כפי שמוסבר באתר המנוע היא מחקרים (לא מצוין מקור) שמלמדים שהחפיפה בין המנועים נמוכה, בשיעור של 3% כלומר 97% מהתוצאות אינן חופפות ולכן לחיפוש בו זמנית בהם יש ערך מוסף, נסקור מנועי על נוספים בהמשך.

כמו"כ קיימים מנועי חיפוש נוספים יעודיים המתוארים כמנועי חיפוש המסוגלים לעשות מה שגוגל אינו יכול. חלק מהם אינו שומר היסטורית חיפושים, חלקם מחפשים תמונות באופן יעיל יותר, קיימים מנועים לנושאי רפואה ולנושאים יחודיים אחרים, גם אותם נציג בהמשך...


בבלוג זה נעזרתי בבלוגים הבאים: AskPavel , שגיב SEOהמרפסת של עמי, יונתן קורפל ובלוג הספריות של אוניברסיטת ת"א

יום שני, 11 בנובמבר 2013

מילות מפתח באתר – למיקוד החיפוש
(עוד קצת על האופן בו פועלים מנועי החיפוש....)

בפוסט זה אתייחס אל האלמנטים הפנימיים של האתר והתאמתם למנועי החיפוש.
ככל שמבנה האתר והדפים בו מותאמים לעכבישים של מנועי החיפוש, יגדלו הסיכויים שלו לקבל חשיפה רחבה יותר בתוצאות החיפוש של המנוע
.
שיבוץ מילות מפתח במקומות הנכונים ושימוש נבון בתגי HTML יביאו לקבלת דירוג גבוה יותר במנועי החיפוש ולקידום האתר הרלוונטי אל הדפים הראשונים של תוצאות החיפוש.
בעת תכנון האתר יש להקדיש מעט מחשבה (הרבה לא יזיק) לשמות טובים לכל מרכיבי האתר דוגמת שמות ספריות, דפים, תמונות וכו'. לדוגמא אתר למכירת מצלמות צריך להעדיף את השמות
digital-Camera.htm ו- canon-A510.gif* מאשר products.htm ו- product1.gif בהתאמה.
בהנחה שגולשים ישתמשו במנועי החיפוש במילים פופולריות לחיפוש שהן רלוונטיות לקטגוריה של האתר, על מנהלי האתרים לבחור במילים ממוקדות יותר ולא בנושא רחב (לדוגמא מוסיקה) או כללי מדי. בחירת המילים הנכונות ביותר יביאו לתוצאות מקסימליות
אחת הדרכים הטובות לבחירת מילות מפתח היא שילוב ידיעות אישיות  ועזרה מבחוץ. מומלץ לשאול אנשים כיצד הם היו מחפשים את האתר
להלן אתרים/כלים לביצוע מחקר מילים:
גוגל:
בחירת מילים עבור
: adWords  https://adwords.google.com/select/main?cmd=KeywordSandbox
כלי הסטים של גוגל: http://labs.google.com/sets
כלי sktool של גוגל מאפשר למצוא רעיונות למילים לפי כמויות החיפושים שבוצעו עבורן:
http://www.google.com/sktool/#
למרות שחלק מהכלים יעילים רק למונחים באנגלית או לחיפושים בגוגל com עדיין ניתן להשתמש בהם ולעשות היקשים לעברית.
כלים נוספים:
גם מיקרוסופט מציעה מבחר כלים שימושיים עבור מחקרי מילים, מחקר דמוגרפי, ניתוח תכנים ואפילו כלים המנבאים צפי לחיפושים עבור מונחים וכוונת רכישה מצד הגולשים. את כל הכלים ניתן למצוא בכתובת  http://adlab.msn.com/alltools.aspx
כלי וותיק שנתן לבדוק כמות חיפושים לביטוי מסוים והצעות למילים נוספות היה המנוע Overture אשר נרכש ע"י יאהו! http://inventory.overture.com/d/searchinventory/suggestion
אפשרות נוספת היא להוריד את תוכנת "מילות מפתח טובות" מאתרhttp://www.goodkeywords.com , המאפשרת לבדוק פופולריות של מילים ב- Overture ומנועים נוספים בקלות. גם תוכנה זו מותאמת לאנגלית אך עדיין ניתן לקבל מושג ולראות את כמות החיפושים לערך שהוקלד וכן לקבל רעיונות למילות מפתח נוספות ולעשות את ההיקשים הנדרשים.
כלי יעיל נוסף ניתן למצוא בכתובת :http://www.digitalpoint.com/tools/suggestion הכלי מספק תוצאה משולבת של תדירות חיפוש למילה מסוימת במנוע Overture ובשירות המקוון של WordTracker .

בבחירת המילים יש להתייחס לאספקטים נוספים כמו פופולריות, מיקוד ותועלת יחסית.
יש לשים לב כי ככל שביטוי פופולרי יותר גם התחרות על מיקום גבוה עבורו בתוצאות תהיה קשה יותר לעיתים למנהל אתר כדאי לבחור מילים פופולריות פחות ולמקסם את התנועה מהן מאשר להיות מספר 100 בתוצאות של ביטוי פופולרי.
כדאי להעדיף מונחים המכילים 4 - 2 מילים על פני מילה בודדת. לרוב הגולשים נוהגים לחפש ביטויים ולא מילה בודדת. לדוגמא אם מישהו רוצה למצוא תוכנה לקידום אתרים סביר כי הוא יקליד "תוכנה לקידום אתרים" ולא את המילה הבודדת "תוכנה".
כדאי לכתוב ביטויים ממוקדים, ביטויים שהם פופולריים מספיק לחיפוש אבל כאלו שלא יחזירו מאות אלפי תוצאות חיפוש.
מי שמעוניין להיכנס לנישה, כלומר לביטוי בעל פופולריות חיפוש נמוכה, צריך לזכור כי הסיכוי להתברג בדף הראשון של תוצאות החיפוש עבורו הוא גבוה אבל הצלחת האתר תגיע רק אם הגולשים יתעניינו בנישה זו. הכניסה לנישה מתאימה לאתרים המספקים שירות או מוצר ייחודי.
  בכל מקרה על מנהלי האתרים לרענן את רשימות המילים שלהם מדי פעם. טעמים ומגמות משתנים ועימם גם מונחי החיפוש. מילת מפתח שהיום היא מאוד כללית יכולה להיות מילת מפתח טובה בעוד שנה ולהיפך. ככל שיותר אתרים מצטרפים לרשת קיימות יותר אפשרויות, מצד שני הסיכוי לבלוט פוחת
י
שנם מנהלי אתרים המשלבים מילות מפתח עם טעויות באתר שלהם על מנת להגדיל את החשיפה במקום "מוסיקה" הם ישלבו "מןסיקה" כמילת המפתח שלהם (נון סופית שנבחרה בטעות במקום וו(, כמו"כ הם יעדיפו לשלב מונחים בעברית על פני המקבילה באנגלית. אפשרויות אלו טובות לאתר אם כי  לא בוודאות יביאו לתוצאות הטובות ביותר עבור הגולש
קיימים משתנים נוספים באלגוריתם החיפוש של מנועי החיפוש אשר ממקסמים את הצגת התוצאות הרלוונטיות ביותר לגולש בדפים הראשונים. הם מסתמכים על פרמטרים חברתיים (קשרים והעדפות ברשתות חברתיות), על חיפושים קודמים ועוד, וגורמים לכך שכל מחפש יקבל תוצאות שונות מחברו (מותאמות אישית) עבור אותו חיפוש...אתייחס אליהם בהמשך כשאסקור סוגים שונים של מנועי חיפוש ומגמות לעתיד.
בפוסט הבא אציג את מנועי החיפוש הפופולאריים ביותר אשר אחראים ל- 95% מהחיפושים ברשת: גוגל,יאהו וmsn (בינג) – ההבדלים ביניהם, היתרונות והחסרונות של אחד על חברו.




יום שבת, 9 בנובמבר 2013



כיצד פועלים מנועי החיפוש ? 
איך הם מחליטים לאיזה אתר לתת חשיפה במיקום גבוה/רלוונטי יותר?


האלגוריתמים של מנועי החיפוש הם הסודות השמורים ביותר בתעשייה, אף אחד לא יודע כיצד הם עובדים בדיוק ולכן הכל הוא על סמך תחושות, ניסוי ותהייה עד לקבלת התוצאות הרצויות.
עדיין, על סמך ניתוחים רבים ניתן לבודד מספר "חוקים" (גם אם יש מידי פעם חריגים לחוק).


מעט סטטיסטיקה ומספרים
- 85% מהגולשים לא עוברים לדף השני של תוצאות השליפה במנוע החיפוש
.
- רוב מנועי החיפוש מציגים 10 תוצאות בדף תוצאות השליפה
.
- רק כ- 5% מהגולשים עוברים לדף השלישי ומעלה של התוצאות
.

על פי נתונים אלו מובן שמטרתם של מנהלי אתרים לגרום לכך שמנועי החיפוש יתנו לאתר שלהם דירוג טוב בקטגוריה שלהם וימקמו אותו בתוצאות החיפוש הראשונות עבור גולשים המחפשים אינפורמציה (בנושא הקשור לאתר).
לפני מספר שנים כדי לבצע אופטימיזציה היה צריך רק להירשם למנוע החיפוש ולבחור מילות מפתח. הרבה מנהלי אתרים נצלו מצב זה לבצע אופטימיזציה למילות חיפוש שאינן רלוונטיות לאתר שלהם על מנת להגדיל את מספר הכניסות של גולשים לאתר.
עקב השימוש לרעה במילות המפתח הפכו תוצאות החיפוש של המנועים להיות לא רלוונטיות. כך למעשה הגיע השלב הבא בו כתבו מנועי החיפוש אלגוריתמים מתוחכמים לאיתור רמאויות וניפוין שהחזירו את הרלוונטיות לתוצאות השליפה.
 מנועי חיפוש מפעילים תוכנות, הנקראות רובוטים או עכבישים, לצורך הוספת אתרים לבסיס הנתונים שלהם. אותם עכבישים זוחלים ברשת בחיפוש אחר דפים חדשים ועדכונים לדפים המצויים במאגר כאשר לצורך כך יעברו מכתובת URL אחת לשנייה עד שלא ימצאו יותר כתובות. בכל דף בו הם מבקרים יקליטו העכבישים את כל הטקסט המופיע בעמוד - משמש לתוצאות שליפה בעתיד ובדיקת השינויים בדף. לאחר שגמרו לזחול באתר מסוים יעקבו אחר קישורים היוצאים ממנו לאתרים נוספים וימשיכו לחפש גם אתרים חדשים.
כאשר העכביש ביקר באתר מסוים הוא יחזור לבדוק שינויים ועדכונים שבוצעו בו אחת למספר ימים. יאהו ו- MSN חוזרים בתדירות גבוהה של פעם ביום (לפעמים יותר) ואילו גוגל חוזר אחת לארבעה ימים בערך.
לעכבישים מטרה נוספת מלבד למצוא אתרים חדשים  - לתת לאתרים  ציון לפי הרלוונטיות שלהם למילות חיפוש. מציאת האתרים היא משימה פשוטה יחסית העכביש זוחל ברשת, עוקב אחרי לינקים ומאנדקס אותם. המשימה הקשה היא מתן הציון לכל אתר באופן כזה שכאשר תקליד מילת חיפוש כלשהי תתקבל התוצאה הכי רלוונטית לחיפוש שלך בראש התוצאות
.
העכבישים מנסים "לחשוב" כמו הגולש - מה מעניין אותו בחיפוש מסוים - ומצד שני משחקים בחתול ועכבר עם מנהלי/ מקדמי אתרים המנסים לתמרן אותם לתת לאתר שלהם דירוג גבוה.
העכביש בודק אם מילת חיפוש/ ביטוי הוא רלוונטי לאתר או אם הוא נראה "יותר מידי" רלוונטי לאתר מסוים. כאשר מנוע חיפוש עולה על טקטיקה חדשה לקידום אתרים הוא בונה טקטיקת נגד, וכך ממשיך המשחק כל הזמן.
ניתן לומר שהיום אין יותר דירוג טבעי (ללא ביצוע אופטימיזציה) של אתרים וכל אתר נבחן בזהירות רבה. רוב העכבישים מתוכננים לבחון את האתרים מנקודת ראותו של הגולש המחפש אינפורמציה.
גוגל (המנוע המרכזי היום ברשת) נוטה לייחס חשיבות גדולה לאתרים המקשרים לאתר מסוים ומציב פרמטרים נוקשים יותר על מנת להיכנס לאינדקס. מדי תקופה הוא משיק עדכונים אלגוריתמיים בשם  
ה.פנדה אשר "מבינים" את רצון  הגולשים טוב יותר. עדכונים אילו שינו את תוצאות החיפוש בהיקפים נרחבים (כ- 12% מהתוצאות בארה"ב השתנו במסגרת העדכון הראשון בסדרה).
 באתרים חדשים לחלוטין או אתרים שעברו שינויים גדולים דוחה גוגל את הכנסת האתר לאינדקס שלו לתקופה של 6 עד 8 חודשים. בתקופה זו, הידועה כ"ארגז החול" של גוגל, הדירוג של האתר יהיה נמוך יחסית וגוגל יציג (אם בכלל) מעט דפים ממנו.
כאשר גוגל מוצא אתרים חדשים או אתרים שעברו שינויים מסיביים (גוגל מניח כי שינויים מסיביים בדף יכולים לנבוע משינויי בעלות. המשמעות מבחינתו היא שכל הדירוגים, הקישורים היוצאים והנכנסים הקודמים לא רלוונטיים לבעלים החדש), הוא שם את הדפים בתוצאות לשאילתות חיפוש בדרגת חשיבות נמוכה. למרות שמנועי חיפוש אחרים כן מציגים את האתר גוגל עשוי שלא להציג אותו לחלוטין (לפעמים מציג אותו בשאילתות חיפוש מסוימות, לדוגמא עבור שם החברה(.

מדד  Page Rank
על מנת לדעת כיצד מדורגים האתרים השונים ע"י מנוע החיפוש גוגל, ניתן להוריד ולהתקין על המחשב את סרגל הכלים של גוגל מהכתובת
http://toolbar.google.com.  לאחר התקנת הסרגל ניתן לראות עבור כל דף בו אתם נמצאים מהו הדירוג שגוגל נותן לאותו הדף לפי מדד. Page Rank  המדד נותן ציון בין 1 ל- 10 לכל דף בעיקר לפי הפופולריות שלו (מספר הקישורים מאתרים אחרים ואיכותם) ושכלול מספר גורמים נוספים שגוגל לא מוכנים לחשוף.
גוגל הגישה בקשה לפטנט על שיטת ה Page Rank, מן הבקשה ניתן להקיש מהם אותם גורמים נוספים המשפיעים על הדירוג במנוע:
- תדירות השינויים בדף
- היקף השינויים - שינויים קטנים או גדולים
- שינוי במשקל מילות המפתח
- מספר האתרים החדשים המקשרים אל הדף
- שינוי בטקסט של הקישורים לדפים אחרים
- כמות הקישורים מדף בודד לאתרים בעלי דירוג נמוך (בודק האם מדובר בשיתוף פעולה בין אתרים   
  המקשרים בינם לבין עצמם ברשת רק לצורך העלאת הדירוג
(.

אינדקסים
לעומת המנועים הזוחלים 
קיימת שיטת האינדקסים. בדיקת האתרים נעשית ע"י עורכים אנושיים המחליטים אם אתר יופיע  והיכן (באיזו קטגוריה) לפי שיקולם. דוגמאות לאינדקסים הם nana, Ynet וגם וואלה למרות שהיום הוא משלב גם יכולות של מנוע חיפוש.