1、縮短延遲

訪問緩存的時間應該盡可能縮短，可以通過多種的方式縮短這個時間，比如能夠通過減小緩存的大小或關聯性來降低緩存的延遲，還有方式預測、增加帶寬等方法。

2、提升命中率

所謂的命中率是在高速緩存中找到內存引用的速率，我們希望能夠首先通過緩存中獲得信息，以得到速度優勢，所以緩存需要最大限度地實現這一目標。對于單個高速緩存，大小、關聯性和塊大小決定命中率。

3、降低更低級別內存下的開銷

高速緩存是內存層次結構的一部分，其性能會影響其它性能，處理其它內存花費的時間越長，意味著系統性能越低，也就是說盡可能讓處理在緩存中完成。

4、減少錯失懲罰

緩存中不能命中是無法避免的事情，但是我們可以減少處理未命中所需的時間以獲得更好的處理器性能，通過提升命中率并通過應用不同的優化，能夠降低錯失懲罰。

高速緩存是CPU中十分重要的部分，占據了大量的資源開銷和成本，如果您看過CPU架構圖的話，您就會發現緩存占據了至少50%的面積，絕對至關重要。