מזמור זה מבטא את הכמיהה העמוקה והשמחה המלוות את העלייה אל משכן השכינה, ומהווה מוקד לאחדות האומה. הגישה המרכזית בקרב רוב הפרשנים היא שהמילים לְדָוִד מעידות על כך שדוד המלך הוא שחיבר את המזמור, בניגוד לשירי מעלות אחרים שחוברו על ידי משוררים עלומים [רד"ק]. עם זאת, ישנה דעה כי המזמור לא חובר על ידי דוד עצמו, אלא הושר על ידי עולי הרגלים לכבודו, כהוקרה על כך שכבש את ירושלים והכין את התשתית לבניין המקדש [ביאור שטיינזלץ].
באשר לזהות הדובר בפסוק ולתקופה שאליה הוא מתייחס, עולות מן המקורות שלוש גישות עיקריות. הגישה הראשונה רואה בפסוק ביטוי לחווייתו האישית של דוד המלך. דוד שמע את בני דורו אומרים זה לזה: "מתי ימות אותו זקן, וימלוך שלמה בנו ויבנה את בית המקדש ונעלה לרגל?". למרות הפגיעה האישית בתוחלת חייהם, דוד מעיד על עצמו שָׂמַחְתִּי, שכן שמח לראות את השתוקקותם העזה של ישראל לבניין המקדש [רש"י]. פירוש נוסף באותו הקשר מציע שדוד מתאר כאן את שמחתו הראשונית כאשר חשב שהותר לו לבנות את המקדש, ואת געגועיו כמעין אוהב משתוקק לאחר שהתבשר על ידי נתן הנביא כי לא הוא יזכה בכך [מאירי]. דעה אחרת גורסת שדוד התייחס בדבריו לאוהל הזמני שהקים לארון הברית בציון [אבן עזרא].
הגישה השנייה מייחסת את הפסוק לקולם של גולי ישראל. מתוך כאב הגלות, הם נזכרים בערגה בימי קדם ואומרים: שָׂמַחְתִּי בְּאֹמְרִים לִי, כלומר, כמה שמחתי בעבר, בזמן שהיו קוראים לי לעלות לרגל אל בֵּית ה' [רד"ק, מצודת דוד]. מנגד, קול זה של הגולים אינו רק זיכרון עבר אלא גם נבואה לעתיד – זוהי השמחה הגדולה שתפרוץ כאשר תישמע בשורת הגאולה והקריאה לעלות לבית המקדש השלישי [אבן עזרא, מאירי]. הגישה השלישית משלבת בין הזמנים, ומסבירה שדוד חיבר את המזמור מראש כדי שיושר בעתיד על ידי עולי הרגלים בדרכם לירושלים [אבן עזרא].
מהותה של אותה שמחה מוסברת בכמה רבדים. ברמה הפשוטה, עצם המחשבה והתכנון על ההליכה אל בֵּית ה' ממלאים את הלב בעונג [ביאור שטיינזלץ]. ברמה הלאומית והרוחנית, האומה כולה נמשלת לגוף אחד שירושלים היא הלב והמוח שלו. משכן השכינה הוא הכלי המכין את הגוף הלאומי כולו לקבלת רוח חיים אלוהית, ולכן השמחה נובעת מההליכה אל המקום שבו שוכן ה' [מלבי"ם].
ברובד עמוק יותר, הפרשנים מצביעים על כך שבית המקדש של מטה שעל פני האדמה מכוון בדיוק כנגד בית המקדש של מעלה שבשמים. לפיכך, כאשר אדם שמח ללכת אל בֵּית ה', הוא מבין שההליכה למבנה הפיזי היא למעשה התעלות וחיבור אל ההיכל הרוחני והעליון של ה' [אלשיך, חומת אנך]. המילה לִי בפסוק רומזת לקשר הנצחי שבין ה' לעמו, קשר שאינו פוסק לעולם, ומבטאת את הציפייה לגאולה השלמה שבה יתאחדו ירושלים של מטה וירושלים של מעלה [חומת אנך].