גדולתו של ה' מתגלה דווקא בניגוד העמוק שבין רוממותו האינסופית לבין השגחתו על החלשים והפגיעים ביותר. אף על פי שה' עליון ונשגב מעל כל גבוהים, הוא חס, מגן וקרוב לקטני הארץ [אבן עזרא, מאירי, שטיינזלץ]. הפרשנים מסכימים כי ישנו קשר הדוק לפסוק הקודם המזכיר את ה' כ"רוכב בערבות"; למרות שה' שוכן בִּמְעוֹן קָדְשׁוֹ, כלומר במדור ובמקום מגוריו העליון שבשמיים [מצודת ציון], השגחתו מעולם לא נסתלקה מן העולם השפל, והוא ממשיך לגזור, לקיים ולהשגיח על התחתונים [אלשיך, מצודת דוד].
ההכרזה על ה' כאֲבִי יְתוֹמִים וְדַיַּן אַלְמָנוֹת מתפרשת בשני רבדים משלימים. ברובד הפשט, ה' סומך את החלשים שנמצאים בתחתית המדרגה, אלו שאין להם כוח או דעת להינצל מידי עושקיהם. עבורם הוא משמש כאב הדואג להם וכשופט הדן את דינם [רד"ק, אבן עזרא].
לצד זאת, גישה מרכזית נוספת מפרשת את הביטויים הללו כמשל למצבו הלאומי של עם ישראל. על פי קו חשיבה זה, עם ישראל נמשל ליתומים, כפי שקונן ירמיהו "יתומים היינו ואין אב", וה' הוא שנעשה להם לאב. במקביל, ה"אלמנה" מסמלת את ירושלים שעליה נאמר "הייתה כאלמנה", וה' הוא הדיין שעושה את משפטה ונוקם את נקמתה [רש"י, מצודת דוד]. דוגמה היסטורית להשגחה לאומית זו באה לידי ביטוי כאשר ה' סייע לעם ישראל, שהיו מועטים ושפלים כיתומים, לעמוד בהצלחה מול כוחם האדיר של מלך אשור ומלכים גדולים אחרים [רד"ק].