אף על פי שבית המקדש טרם נבנה והעבודה המרכזית טרם התבססה במקומה הסופי, דוד המלך דאג לכונן סדר עבודה קבוע באוהל המקודש שבו הונח ארון הברית. באותה עת, הבמה הגדולה שבה הוקרבו הקרבנות הייתה בגבעון תחת הנהגתו של הימן, אך לכבוד ה' ייסד דוד נוכחות תמידית של כוהנים ולוויים גם סביב הארון, תחת הנהגתו של אסף [רלב"ג, ביאור שטיינזלץ].
תפקידם של הלוויים התחלק לעבודה מעשית ולעבודה רוחנית. תחילה הם מונו להיות מְשָׁרְתִים, כלומר אנשי צוות קבועים הדואגים לניקיון, לכיבוד ולריבוץ המקום לפני הארון כדי לשמור על כבודו [מצודת דוד, מלבי"ם, ביאור שטיינזלץ].
לצד התחזוקה הפיזית, הוטל עליהם תפקיד מוזיקלי המורכב משלושה חלקים שנישאו בפה ובכלי זמר:
וּלְהַזְכִּיר – תפקיד זה מתפרש כאמירת שירים המזכירים את עם ישראל לפני ה', או שירים המזכירים ומודיעים את מעשיו ההיסטוריים של ה' בימי קדם [מלבי"ם, ביאור שטיינזלץ]. מנגד, יש המפרשים זאת כהוראה טקסטואלית מדויקת לאמירת מזמורי תהלים ספציפיים שבכותרתם מופיעה המילה להזכיר [רש"י].
וּלְהוֹדוֹת – הבעת תודה לה' על טובותיו [מלבי"ם], ובאופן מעשי, קריאת מזמורים הפותחים במילים הודו לה' [רש"י].
וּלְהַלֵּל – סיפור שבחיו של ה' [מלבי"ם], על ידי שירת מזמורים הפותחים במילה הללויה [רש"י].