התוכחה האלוהית מופנית נגד משיכתם של ישראל למקומות פולחן זרים ולא מאושרים, תוך עימות בין המקום המיוחד שהקדיש ה' לעבודתו לבין מנהגי הגויים שהעם אימץ. ה' מוחה על עצם ההליכה לאותם מקומות ושואל מָה הַבָּמָה, כלומר, מה טיבה ומה מעלתה של הבמה הזו שאתם הולכים אליה? [מצודת דוד, ביאור שטיינזלץ].
המושג בָּמָה מציין גובה ורוממות. בניית מזבחות גבוהים או הצבתם על הרים היא מנהג שנלמד מהגויים, בניגוד לציווי האלוהי להקים מזבח אדמה פשוט [רד"ק]. מעלתו האמיתית של מזבח אינה נובעת מנוכחות האנשים הבאים אליו, אלא מאש אלוהית היורדת מהשמיים [מצודת דוד]. מתוך כך, השאלה "מה הבמה" מקבלת משמעות של לעג וגנאי: בַּמֶּה היא בכלל נחשבת? או כמשחק מילים – "בא-מה" או "בה-מה", כלומר, לשם מה אתם באים אליה הרי אין בה מאומה [רש"י, ביאור שטיינזלץ].
בהתייחסות למילים אֲשֶׁר אַתֶּם הַבָּאִים שָׁם, ה' מדגיש את הפער בין עובדי העבודה הזרה, שהם אלו שבאים אל הבמות, לבין שומרי המצוות המקפידים לבוא רק למקום המיוחד שהוקדש לה' [רד"ק]. המילה הַבָּאִים עצמה מתפרשת בכמה אופנים: היא יכולה לרמוז על דברי הבאי, שטות והבל; היא עשויה לגזור את משמעותה מפעולת השריפה וההבהוב של הקורבנות המוקרבים שם; או שהיא משמשת כשם תואר שלילי לקבוצת אנשים, בדומה למילים "חטאים" או "גנבים" [מלבי"ם].
למרות מחאת ה', העם לא חזר בו. המילים וַיִּקָּרֵא שְׁמָהּ בָּמָה עַד הַיּוֹם הַזֶּה מלמדות כי השם השתרש בשפתם ולא נמחק [מצודת דוד]. יתרה מכך, מתוך הרגל הלשון, המונח "במה" הפך לשם השגור גם עבור מזבחות שהוקמו לשם ה', תופעה שלא הייתה קיימת בתורה ובימי יהושע והשופטים. שימוש זה החל רק לאחר חורבן משכן שילה בימי שמואל, והמשיך לאורך ימי שלמה והמלכים, עד שהבמות הוסרו לבסוף בימי חזקיהו [רד"ק, מלבי"ם].