É comum chamar a memória cache a memória embutida no processador, que é caracterizada pela alta velocidade e é usada para armazenar temporariamente os dados usados com mais frequência.
A necessidade de usar a memória cache é explicada pela diferença na velocidade de troca de informações entre o processador e as várias seções da memória do computador. O trabalho de qualquer aplicativo começa transferindo os dados necessários de um disco rígido relativamente lento para a RAM (memória de acesso aleatório do computador) em uma seção dinâmica de acesso aleatório. De lá, eles podem ser transferidos para o cache L2 (memória L2) localizado no chip do processador ou em um chip SRAM separado de alta velocidade localizado próximo ao processador. Finalmente, as informações mais utilizadas podem ser transferidas para o cache L1 (memória de primeiro nível), que é uma seção dedicada do processador. O tamanho do cache de primeiro nível é de apenas cerca de 128 KB, o segundo nível já é de 512 KB. Para efeito de comparação, o tamanho da RAM pode ser de 1 GB. A execução de qualquer comando ocorre de acordo com um certo esquema: - análise de registros de dados de informações; - varredura dos dados do cache de primeiro nível; - verificação das informações do cache do segundo nível; - analisando os dados da memória principal; - acesso à memória do disco rígido O tempo gasto pelo processador para obter os dados necessários está em proporção direta ao local onde a informação é armazenada. Assim, o acesso ao cache de primeiro nível leva de 1 a 3 ciclos, o segundo nível - de seis a doze ciclos, e à memória principal - dezenas, e em alguns casos - centenas de ciclos. A memória cache desempenha um papel especial no processo de operação do servidor, pois O tráfego do processador para a memória pode ser significativo nesses casos. A estrutura de cache também serve ao propósito de reduzir a lacuna entre as velocidades do processador, que estão aumentando em 50% ao ano, e as taxas de dados de RAM, que estão crescendo apenas 5%. O desenvolvimento contínuo do terceiro e quarto níveis de memória cache parece ser uma etapa lógica nessa direção. Outra possível direção de desenvolvimento pode ser a transição para o gerenciamento programático da memória cache.
