הנביא מוכיח את העם באמצעות עריכת הקבלה היסטורית לאחד המשברים הקשים בתולדות האומה, ומצביע על השורשים העמוקים של ההשחתה הרוחנית והמוסרית שלהם. מבחינה דקדוקית, המילה חָטָאתָ מנוקדת ונקראת כ"חָטָאת", בלשון נקבה ובעבר [רש"י, מנחת שי].
הפרשנים נחלקים בהבנת מהות ההשוואה שעושה הנביא במילים מִימֵי הַגִּבְעָה. הגישה המרכזית בקרב רוב הפרשנים היא שמדובר בציון זמן היסטורי, המכוון לפרשת פילגש בגבעה. לפי פירוש זה, כבר באותם ימים קדומים חטא ישראל בעבודה זרה, שכן במקביל לאותה פרשת זנות ושפיכות דמים, עמד על תלו גם פסל מיכה. המילים שָׁם עָמָדוּ מתארות מצב של קיפאון רוחני; העם נעצר באותו חטא, והבמות והפסילים שהוקמו אז נותרו על עומדם והיוו תשתית לעבודה הזרה של ירבעם בדורות המאוחרים [רש"י, מצודת דוד, מלבי"ם, ביאור שטיינזלץ, רד"ק].
לעומת גישה זו, יש המפרשים כי האות מ"ם במילה מִימֵי אינה מציינת זמן אלא השוואה ויתרון. לפי תפיסה זו, לא ייתכן שהעם חטא ברצף בעבודה זרה גם בימי שמואל ודוד, ולכן כוונת הנביא היא שהדור הנוכחי חטא הרבה יותר מאשר החוטאים בימי הגבעה. לאור זאת, המילים שָׁם עָמָדוּ מציגות תרחיש היפותטי: אילו בני הדור הנוכחי היו עומדים שם באותם ימים, הם כלל לא היו יוצאים למלחמה כדי לבער את הנבלה, משום שהם עצמם עושים מעשים חמורים לא פחות ואינם יכולים לקנא לעוולות של אחרים [אבן עזרא, אברבנאל]. ישנו גם פירוש קדום המזהה את "הגבעה" עם המקום שבו שאלו העם מלך והמליכו את שאול, אירוע שנתפס כתחילת המרידה בה', אך המפרשים מציינים שפירוש זה פחות מתיישב עם פשט הכתוב והתחביר העברי [רש"י, רד"ק].
החלק השני של הפסוק, לֹא־תַשִּׂיגֵם בַּגִּבְעָה מִלְחָמָה, זוכה אף הוא למספר נקודות מבט. מצד אחד, הדבר מוסבר כתוצאה היסטורית: מכיוון שבימי הגבעה העם השלים עם קיומו של פסל מיכה ולא מיחה על כך, הם לא זכו להצלחה בתחילת המלחמה נגד שבט בנימין שגיבה את החוטאים, והמלחמה לא הצליחה לבער את העבודה הזרה [רש"י, מצודת דוד, מלבי"ם]. מצד שני, הפסוק מתאר את הלך הרוח של החוטאים בהווה, המשלים את עצמם וחושבים שמלחמת החורבן שהשיגה את הפושעים בגבעה, לא תשיג אותם כעת למרות רשעתם [אבן עזרא, רד"ק, ביאור שטיינזלץ].
בסיום הפסוק, המילה עַֽלְוָֽה מפורשת על ידי רוב המקורות כהיפוך אותיות של המילה עַוְלָה, כלומר רשע וחוסר צדק, בדומה לתופעה הלשונית במילים כבש וכשב. מילה זו מכוונת לאנשי בנימין שפעלו בעוולה או גיבו אותה [מצודת ציון, אבן עזרא, רד"ק, אברבנאל, ביאור שטיינזלץ]. גישה נוספת קושרת את המילה לשורש גאווה, ומתארת את בני בנימין כמי שהתנשאו, עשו עצמם עליונים, וסירבו לשמוע בקול אחיהם ולהסגיר את הפושעים [רש"י].