תפקידם של הלויים עבר תמורות עם המעבר מן המשכן הזמני אל המקדש הקבוע בירושלים. חלקה המרכזי של עבודתם היה השירה המלווה את הקרבנות.
בתקופה שקדמה לבניין המקדש, הלויים וַיִּהְיוּ מְשָׁרְתִים לִפְנֵי מִשְׁכַּן אֹהֶל מוֹעֵד בַּשִּׁיר. משכן זה הוא האוהל שנטה דוד המלך [מצודת דוד]. באותם ימים הייתה חלוקה גיאוגרפית בעבודת הלויים: בעוד שחלקם עמדו לפני ארון הברית, אחרים שירתו לפני המשכן שהיה בגבעון [מלבי"ם].
מצב זה נמשך עַד בְּנוֹת שְׁלֹמֹה אֶת בֵּית ה' בִּירוּשָׁלִָם. עם הקמת מבנה הקבע, התאחדו כלל המשוררים למקום אחד [מלבי"ם], והמשיכו את שירתם במקדש [ביאור שטיינזלץ].
כאשר עברו למקדש, וַיַּעַמְדוּ כְמִשְׁפָּטָם עַל עֲבוֹדָתָם. המונח "עבודתם" מכוון לעבודת השיר, הנחשבת לעבודה המלווה את הקרבנות [רד"ק]. המילה כְמִשְׁפָּטָם מלמדת כי הם פעלו בדיוק על פי הסדר, הכללים והמשפט שתיקן עבורם דוד המלך [רש"י, מצודת דוד].
ישנה משמעות מיוחדת לשינוי הלשון ולשימוש בפועל וַיַּעַמְדוּ. בעוד שבימי המשכן נאמר עליהם כי היו "משרתים", במקדש נאמר "ויעמדו". ההבדל נובע מכך שבימי המשכן היו הלויים עומדים על הארץ בעת שירתם, ואילו בבית המקדש הייתה להם עמידה מיוחדת ומרוממת על גבי ה"דוכן" שבנה שלמה המלך [חומת אנך].