מעבר חד מפסגת התפארת אל תהום החורבן ניצב במרכז נבואה זו. המילים מתארות את ההלם העמוק שאוחז במי שרואה את חורבנו של מקום מקודש ונשגב, אשר הופך מסמל של נוכחות אלוהית לאנדרטה של שממה.
הפרשנים מציגים מספר גישות להבנת הביטוי וְהַבַּיִת הַזֶּה יִהְיֶה עֶלְיוֹן. הגישה המרכזית בקרב רוב הפרשנים היא שהפועל מופיע בלשון עתיד אך משמעותו היא למעשה בלשון עבר, כלומר: הבית אשר היה כה עליון וחשוב, עתיד להיחרב [מצודת דוד, רלב"ג, רד"ק, אברבנאל]. מנגד, יש המפרשים את המילה עֶלְיוֹן לא במשמעות של גדולה, אלא מלשון כריתה, עקירה וחורבן [רד"ק, ביאור שטיינזלץ].
מבט נוסף קושר בין גדולת הבית לבין עוצמת השבר. כל עוד העם לא חטא, הבית שמר על מעמדו העליון [רש"י], אך דווקא משום שהמקום היה כה קדוש ומוכר בחשיבותו, ההשתוממות על חורבנו תהיה גדולה פי כמה [מלבי"ם]. מתוך הקושי העולה מנבואת החורבן, צומחת גם גישה של נחמה ולפיה השימוש בלשון עתיד מרמז לגאולה. עצם התקיימותה המדויקת של נבואת החורבן הקשה היא ההוכחה לכך שבעתיד הבית אכן ייבנה מחדש ויהיה עליון באמת, שכן השכינה מעולם לא עזבה את מקומה [חומת אנך, אברבנאל].
תגובת הרואים את החורבן מתוארת במילים כָּל עֹבֵר עָלָיו יִשֹּׁם וְשָׁרָק. המילה יִשֹּׁם מבטאת תדהמה, פליאה והשתוממות [רש"י, מצודת ציון, ביאור שטיינזלץ]. המילה וְשָׁרָק מתארת את הפעולה הפיזית של שריקה בשפתיים, שהיא התגובה האנושית הטבעית והספונטנית למראה פתאומי של חורבן דבר כה חשוב [רש"י, מצודת ציון].
ההלם לא יישאר נחלתם של בני ישראל בלבד. גם הנכרים, שבעבר רחשו כבוד נורא למקדש, יזדעזעו ממראהו [רש"י]. מאחר שהכל ידעו כי הבית נתון להשגחת 'ה, הם יבינו שחורבנו אינו מקרה היסטורי עיוור, אלא תוצאה ישירה של עונש אלוהי וישאלו לסיבתו [מלבי"ם]. האומות עצמן יכירו בכך שחטאי ישראל הם שגרמו לאסון, כפי שאכן קרה היסטורית כאשר מחריבי הבית הבבליים הצהירו בעצמם כי 'ה הוא שהביא את הרעה הזו על העם בשל עוונותיו [רלב"ג, אברבנאל].