Arvutisüsteemis on tavaliselt mitut tüüpi mälusid, mis moodustavad omamoodi mälude hierarhia.Seda võiks ette kujutada püramiidina. Kõrgema taseme mälud on kiiremad, väiksemad ja kallimad. Alamate tasemete mälud on aeglasemad, suuremad ja odavamad. Alama taseme mäludeks on suure mahuga mälud, mida kasutatakse andmekogumite püsivaks salvestamiseks.

Joonis 1‑12. Mälu hierarhia (Allikas: Learning Materials for Information Technology Professionals (EUCIP-Mat))

Kõrgema taseme mälud on registrid, protsessori vahemälu ja täiendav vahemälu ja alama taseme mäludeks on põhimälu ja massmälu. Kõrgema taseme mälus tuleb hoida andmeid, mis on vajalikud jooksva töö tegemiseks ja ülejäänud andmed püütakse hoida alama taseme mälus.