Es ist üblich, Cache-Speicher den im Prozessor eingebauten Speicher zu nennen, der sich durch hohe Geschwindigkeit auszeichnet und verwendet wird, um die am häufigsten verwendeten Daten zwischenzuspeichern.
Die Notwendigkeit, Cache-Speicher zu verwenden, wird durch den Unterschied in der Geschwindigkeit des Informationsaustauschs zwischen dem Prozessor und verschiedenen Abschnitten des Computerspeichers erklärt. Die Arbeit jeder Anwendung beginnt mit der Übertragung der erforderlichen Daten von einer relativ langsamen Festplatte in den RAM (Computer Random Access Memory) in einen dynamischen Random Access-Bereich. Von dort aus können sie in den L2-Cache (L2-Speicher) im Prozessorchip oder auf einen separaten Hochgeschwindigkeits-SRAM-Chip neben dem Prozessor übertragen werden. Schließlich können die meistgenutzten Informationen in den L1-Cache (First Level Memory) übertragen werden, der einen dedizierten Abschnitt des Prozessors darstellt. Der First-Level-Cache beträgt nur etwa 128 KB, der zweite Level bereits 512 KB. Zum Vergleich: Die Größe des RAM kann 1 GB betragen Die Ausführung eines beliebigen Befehls erfolgt nach einem bestimmten Schema: - Analyse der Datenregister mit Informationen; - Scannen der Daten des Caches der ersten Ebene; - Überprüfen der Informationen des Caches der zweiten Ebene; - Analyse der Daten des Hauptspeichers - Zugriff auf den Festplattenspeicher Die Zeit, die der Prozessor aufwendet, um die erforderlichen Daten zu erhalten, steht in direktem Verhältnis zu dem Ort, an dem die Informationen gespeichert sind. Somit dauert der Zugriff auf den Cache der ersten Ebene 1 bis 3 Zyklen, die zweite Ebene - sechs bis zwölf Zyklen und auf den Hauptspeicher - Dutzende und in einigen Fällen Hunderte von Zyklen. Der Cache-Speicher spielt im Serverbetrieb eine besondere Rolle, denn Prozessor-zu-Speicher-Verkehr kann in diesen Fällen erheblich sein. Die Cache-Struktur dient auch dazu, die Lücke zwischen Prozessorgeschwindigkeiten, die jährlich um 50 Prozent steigen, und RAM-Datenraten, die nur um 5 Prozent wachsen, zu verringern. Die Weiterentwicklung der dritten und vierten Ebene des Cache-Speichers scheint ein logischer Schritt in diese Richtung zu sein. Eine andere mögliche Entwicklungsrichtung kann der Übergang zur programmatischen Verwaltung des Cache-Speichers sein.