הפסוק כורך יחד את גדולת ה' עם מעלתה של ירושלים, ונועד להזכיר ולהדגיש את שבחה של העיר [אבן עזרא]. בְּעִיר אֱלֹהֵינוּ היא ירושלים, והַר קָדְשׁוֹ הוא הר הבית [ביאור שטיינזלץ].
הגישה המרכזית בקרב רוב הפרשנים היא שגדולת ה' וההילול אליו קשורים בקשר הדוק להשראת שכינתו במקום זה. כאשר השכינה שורה בירושלים, ה' הופך לגדול ומהולל בפי כל [מצודת דוד]. אמנם לעתיד לבוא יכירו כולם במלכות ה' ובכל מקום יהללוהו, אך בירושלים ההילול יהיה בעוצמה רבה וייחודית, ושם יגדלוהו כל בשר [רד"ק, מאירי]. יש המדגישים כי שבח זה מכוון בפרט לעתיד, כאשר ה' יבנה מחדש את עירו, ובזכות בניין זה תתגלה גדולתו בעולם [רש"י].
בניגוד לגדולה אנושית, שלעיתים גורמת לשליט להתעלם מן החלשים ושבחו פוחת כאשר מתקרבים ורואים את חסרונותיו, גדולתו של ה' שלובה בענוותנותו ובהשגחתו. משום כך, הוא מהולל דווקא מקרוב, מתוך השגחתו הפרטית והישירה על העיר ועל הר קדשו [מלבי"ם].
לצד תפארתה של העיר, יש המתייחסים גם למצבה ההיסטורי המשתנה ומחלקים את הפסוק לשתי תקופות: גָּדוֹל ה' מתייחס לזמן שבו העיר מיושבת וגדולת ה' ניכרת בעולם, ואילו וּמְהֻלָּל מְאֹד מתקשר לזמן חורבנה, שבו היא עדיין נקראת הַר קָדְשׁוֹ. קריאה זו נועדה להדגיש שגם בעת החורבן גבורת ה' במקומה עומדת ואין להטיל בה ספק [אלשיך].
ביטוי נוסף לייחודו של המקום טמון בשם ה' המוזכר בפסוק. גדולת שם ההוויה באה לידי ביטוי שלם רק בבית המקדש, שכן רק שם היו הכהנים מברכים את העם בשם המפורש, בניגוד לשאר המקומות שבהם נהגה השם בכינוי אדנות [חומת אנך].