בתגובה לדרישת שוביהם, הגולים משיבים במרירות ומביעים את הסתירה המהותית שבין קדושת שירתם לבין מציאות הגלות [ביאור שטיינזלץ, מאירי]. תגובה זו לא נאמרה בהכרח בקול, אלא במחשבתם ובלבם. מתוך פחד שמא יכריחו אותם לשורר, הם אף העלימו את כלי הנגינה שלהם וטענו בפני שוביהם כי אלו אבדו בדרך [מצודת דוד].
מוקד הסירוב נעוץ בניגוד החריף שבין סוג השיר לבין המקום שבו נדרשו לשיר אותו. הפרשנים מציינים כי מבחינה דקדוקית, המילה נכר משמשת כתואר לסמיכות אדמת [אבן עזרא]. צירוף זה מתפרש כארצם של גויים [אבן עזרא, מאירי], או במשמעות עמוקה יותר כ"אדמת אל נכר" – אדמה השייכת לאלוהות זרה. משמעות זו מציגה את ההפך הגמור והמוחלט מן המושג שיר ה' [רד"ק, אבן עזרא, מלבי"ם].
הפער בין השיר לאדמה אינו רק מילולי, אלא רוחני. הגולים לא שללו לחלוטין את עצם האפשרות לשיר שירי חול על הצלחות גשמיות, שכן חוו הצלחות מסוימות גם בארצות פזוריהם. אולם, שיר ה' הוא שיר קודש המייצג את ציון, את השראת השכינה, הנבואה, התורה ועבודת המקדש [מלבי"ם]. שיר אלוהי שכזה אינו יכול להיות מושר במקום של טומאה [אלשיך], הרחק ממקום המקדש [מצודת דוד], ועל אדמה שנעדרת את ההכנה והסגולות הרוחניות הנדרשות להופעת קדושה שכזו [מלבי"ם].