Este obișnuit să apelați memoria cache la memoria încorporată în procesor, care se caracterizează prin viteză mare și este utilizată pentru a stoca temporar datele cele mai frecvent utilizate.
Necesitatea utilizării memoriei cache se explică prin diferența de viteză a schimbului de informații între procesor și diferite secțiuni din memoria computerului. Activitatea oricărei aplicații începe prin transferul datelor necesare de pe un hard disk relativ lent în RAM (memorie cu acces aleator al computerului) într-o secțiune de acces aleator dinamic. De acolo, pot fi transferate în memoria cache L2 (memorie L2) situată în cipul procesorului sau pe un cip SRAM separat de mare viteză dedicat situat lângă procesor. În cele din urmă, cele mai utilizate informații pot fi transferate în memoria cache L1 (memoria de primul nivel), care este o secțiune dedicată a procesorului. Dimensiunea memoriei cache de primul nivel este de numai aproximativ 128 KB, al doilea nivel este deja de 512 KB. Pentru comparație, dimensiunea RAM poate fi de 1 GB. Executarea oricărei comenzi are loc în conformitate cu o anumită schemă: - analiza registrelor de date ale informațiilor; - scanarea datelor cache-ului de primul nivel; - verificarea informațiilor cache-ului al celui de-al doilea nivel; - analiza datelor memoriei principale; - acces la memoria hard diskului. Timpul petrecut de procesor pentru a obține datele necesare este în proporție directă cu locul în care sunt stocate informațiile. Astfel, accesul la memoria cache de primul nivel durează de la 1 la 3 cicluri, al doilea nivel - de la șase la doisprezece cicluri, iar la memoria principală - zeci și, în unele cazuri, sute de cicluri. Memoria cache joacă un rol special în procesul de operare a serverului, deoarece traficul de la procesor la memorie poate fi semnificativ în aceste cazuri. Structura cache servește, de asemenea, scopului de a reduce decalajul dintre vitezele procesorului, care cresc cu 50% anual, și ratele de date RAM, care cresc cu doar 5%. Dezvoltarea continuă a celui de-al treilea și al patrulea nivel de memorie cache pare a fi pași logici în această direcție. O altă direcție posibilă de dezvoltare poate fi trecerea la gestionarea programatică a memoriei cache.
