כיבוש ירושלים היווה אתגר מורכב עבור שבטי ישראל עם כניסתם לארץ, והעיר נותרה כמובלעת זרה במשך תקופה ארוכה. הפסוק מתייחס לניסיונם של בני יהודה להוריש את יושבי העיר, אף שחלקה של ירושלים השתייך גם לנחלת שבט בנימין. הפרשנים מסבירים כי העיר הייתה משותפת לשני השבטים, כאשר רצועת קרקע יצאה מחלקו של יהודה ונכנסה לחלקו של בנימין [מצודת דוד, אברבנאל, ביאור שטיינזלץ].
באשר לזהות הַיְבוּסִי, קיימות שתי גישות. הגישה המרכזית על דרך הפשט רואה בכך את שמה של האומה שישבה במקום [מצודת דוד, אברבנאל]. לעומת זאת, גישה מדרשית מצביעה על כך ש"יבוס" לא היה שם של עם, אלא שמו של אדם פלשתי מזרע אבימלך שבנה את העיר, או שמו של המחוז הספציפי בירושלים שבו עמד מגדל דוד, ואנשי אותו מחוז היו פלשתים [רש"י, רד"ק, אברבנאל].
המילים לֹא יָכְלוּ טומנות בחובן משמעות כפולה, כפי שעולה מההבדל שבין כתיבת המילה לקריאתה. המילה נכתבת בפסוק "יוכלו" בלשון עתיד, אך נקראת "יכלו" בלשון עבר. שילוב זה מלמד כי בני יהודה לא הצליחו לכבוש את המקום בעת כיבוש הארץ, וגם לא יכלו לעשות זאת בעתיד, עד לימיו של דוד המלך [מנחת שי, רד"ק].
הפרשנים נחלקו בשאלה מדוע בני יהודה לא יכלו להורישם. על דרך הפשט, המבצר בירושלים היה חזק מאוד, ולבני יהודה פשוט לא היה את הכוח הצבאי לפרוץ אותו [רד"ק, אברבנאל]. יתרה מכך, ייתכן שהייתה זו סיוע והכוונה מאת ה׳ שהמצודה לא תילכד עד שדוד ימלוך, כדי שהיא תישמר עבורו ותיקרא על שמו כראש ממלכת ישראל [רד"ק].
מנגד, הגישה המדרשית מציעה הסבר שונה לחלוטין: בני יהודה דווקא היו מסוגלים לכבוש את העיר מבחינה צבאית, אך לא היו רשאים לעשות זאת מבחינה חוקית ומוסרית. הסיבה לכך נעוצה בשבועת השלום שנשבע אברהם אבינו לאבימלך מלך פלשתים. השבועה כללה התחייבות לשלושה דורות, ולאנשי יבוס היה קשר משפחתי לאבימלך. בזמן כיבוש הארץ על ידי יהושע, נכדו של אבימלך עדיין היה בין החיים, ולכן חל איסור לפגוע בהם. רק בימי דוד המלך, לאחר שאותו נכד הלך לעולמו, פג תוקפה של השבועה וניתן היה לכבוש את המצודה ולרכוש את המקום כדין [רש"י, רד"ק, אברבנאל].
ציון הזמן עַד הַיּוֹם הַזֶּה מכוון לתקופה שבה נכתב ספר יהושע, או לתקופת השופטים, שבה ירושלים עדיין לא הייתה כנועה לחלוטין לישראל והיבוסים המשיכו לשבת בה לצד בני יהודה, מציאות שנמשכה עד לכיבוש הסופי על ידי דוד [רד"ק, ביאור שטיינזלץ, אברבנאל].