מעבר חד מתפארת ירושלים אל המציאות המרה של הגלות מתנקז אל רגע של אבל עמוק על גדות מקווי מים זרים. המילים מהדהדות את יגונו של עם עקור המבכה את המרכז הרוחני שאבד לו, תוך התמודדות עם רגשות מורכבים של הישרדות בארץ נכריה.
על אף שהדברים מתארים את גלות בבל, מוסכם כי דוד המלך חזה אותם ברוח הקודש, מתוך ראייה נבואית של חורבן הבית הראשון והשני גם יחד [תורה תמימה, מצודת דוד, מאירי]. הקינה מושמעת מגרונם של הלוויים המשוררים, שגלו לבבל ונאלצו להתמודד עם דרישתו של נבוכדנצר שישירו בפניו משירי המקדש כפי שהיו רגילים לשיר על הדוכן בירושלים [רש"י, רד"ק, אבן עזרא, מצודת דוד, מאירי].
הפרשנים מציעים מספר הסברים לבחירה להתמקד דווקא במיקום של עַל נַהֲרוֹת. הגישה המרכזית בקרב רוב הפרשנים היא שהגולים חיפשו מקום מבודד, הרחק מעיני הבבליים, כדי שיוכלו להתייחד עם צערם ולבכות מבלי שקולם יישמע [רד"ק, אבן עזרא]. מנגד, יש המסבירים כי כאנשים עייפים ורצוצים מתלאות הדרך, הם פשוט חיפשו מעט מנוחה וצל תחת האילנות הסמוכים למים [מאירי, ביאור שטיינזלץ].
הביטוי שָׁם יָשַׁבְנוּ זוכה למגוון פירושים המאירים צדדים שונים של חוויית הגלות. יש הרואים בישיבה זו תנוחה של אבלות, השתוממות ושפלות קומה עד לארץ, כיאה למצבם של שבויים [רד"ק, אבן עזרא, מצודת דוד]. לעומתם, יש מי שמפרש ישיבה זו כחסד נדיר מצד שוביהם, שבדרך כלל לא אפשרו להם לנוח כלל במהלך המסע, וכאן הניחו להם לעצור ולהתאבל [אלשיך]. ברובד אחר לחלוטין, הישיבה מתפרשת כישיבת קבע לאורך זמן; הגולים זכו לשפע כלכלי, בנו בתים ונטעו כרמים בבבל, ולכן ישיבתם שם הייתה מבוססת ונוחה מבחינה חומרית [מלבי"ם].
מתוך כך, המילים גַּם בָּכִינוּ מבטאות את הניגודיות החריפה שבמצבם. אף על פי שקיוו למצוא מנוחה פיזית על שפת הנהר, האויבים או הזיכרונות הציפו את מחשבותיהם על ירושלים, והמנוחה הפכה ליגון [מאירי]. יתרה מכך, הבכי לא נבע מאובדן של רכוש גשמי, שהרי כאמור הם התבססו היטב בבבל, אלא מתוך אבל רוחני טהור על חורבן המקדש, הפסקת העבודה והשכינה שנסתלקה [מלבי"ם].
רובד נוסף חושף מורכבות של נחמה ועצב השזורים זה בזה. על נהרות בבל, המזוהים עם נהר כבר, התגלו ליחזקאל הנביא מראות נבואיים שהוכיחו כי פמליה של מעלה והשכינה גלו יחד עם ישראל. גילוי זה נסך בגולים רגע של שקט, שמחה ותקווה לגאולה, אך באותה עת עורר בהם בכי מר על כך שהשכינה עצמה שרויה כעת בצער ובגלות יחד עמם [אלשיך, חומת אנך].