Він виконує функцію буфера (тимчасового зберігання даних), з якого процесор дуже швидко може отримати необхідну для обробки інформацію.
Під час затримки дані залишаються у кешепісля чого їх «витісняє» в ОЗУ. Отже, кеш-Пам'ять процесора – дуже важливий параметр сучасного процесора. Від кількості рівнів кешу та обсягу осередків надшвидкої пам'яті на кожному з рівнівбагато в чому залежить швидкість і продуктивність системи.
Попадання в кеш – це коли процесор знаходить потрібні інструкції в якомусь своєму кеші: L1, L2, L3. Затримка – це час, необхідний процесору для пошуку потрібної інструкції у своєму кеші. У L1 найменша затримка, L2 – Більше, в L3 – Ще більше, і далі по ієрархії.
Перший рівень зазвичай працює на частоті процесора і має найширшу шину, але й найменший об'єм. Служить для адресації команд та інструкцій, але їх тимчасового зберігання. Другий та третій рівні КЕШ-а служать для запису значень обчислень та для службової інформації, що використовується найчастіше в даний момент.