הקשר המיוחד בין האדם לה' בא לידי ביטוי בשמחה מתמדת ובהתרוממות רוח, הנובעות מעצם הנוכחות וההשגחה האלוהית. המילה יְגִילוּן משמעותה גילה ושמחה [מצודת ציון], והפרשנים מציגים גישות שונות באשר לסיבה שבגינה מתעוררת שמחה זו.
גישה מרכזית בקרב הפרשנים מסבירה כי עצם הזכרת שם ה' היא המביאה לשמחה תמידית, שכן באמצעות זיכרון זה זוכים לישועה ולעזרה [רד"ק, אבן עזרא, מצודת דוד]. זווית נוספת מתארת את השמחה הטבעית של עם החפץ להתכבד ולהיקרא על שמו של מלך גדול וחזק [אלשיך].
הבחנה פסיכולוגית ורוחנית מעניינת מציג [מלבי"ם], העומד על ההבדל שבין "שמחה" לבין "גילה". בדרך כלל, "גילה" מתעוררת בעקבות אירוע פתאומי ומשמח, כמו מציאה או נס חריג. לעומת זאת, על דברים קבועים וטבעיים שמלווים את האדם, כמו בריאות גופו, הוא חש "שמחה" שגרתית. למרות זאת, נאמר בְּשִׁמְךָ יְגִילוּן כָּל הַיּוֹם – האדם חווה התרגשות וגילה מתחדשת בכל רגע על ההשגחה הטבעית והקבועה של ה' (המיוצגת במילה "שם"). תחושה זו דומה לבן אהוב, החש התרגשות מתמדת מדאגתו היומיומית של אביו המפקח עליו בכל עת.
בחלקו השני של הפסוק, וּבְצִדְקָתְךָ יָרוּמוּ, המוקד עובר אל חסדו של ה'. על ידי הזכרת צדקת ה' והישענות על כוחה, זוכים לגדול ולהתרומם מעל כל שאר בני האדם [אבן עזרא, ביאור שטיינזלץ]. צדקה זו נתפסת כמתנה אלוהית; אפילו השפע המועט ביותר שניתן מידו של ה' בתורת צדקה, עולה בערכו על כל רב טוב שיעניק מלך בשר ודם לעמו [אלשיך]. יתרה מזאת, צדקה זו מבטאת הנהגה נסית שבה ה' משפיע חסד מצד עצם אלוהותו, ללא קשר למעשיהם או להכנתם של בני האדם. מכיוון שה' הוא אינסופי, גם צדקתו היא חסרת גבולות, ובזכותה מתרוממים מעלה מעלה בכל עת [מלבי"ם].