存储器是保存数据的硬件，是冯.诺依曼架构计算机中与处理器紧密耦合的基本元件。大容量高速存储器是处理器性能发挥的基础，但在现代集成电路发展过程中，存储器的发展速度长期落后于处理器。根据速度、容量和价格的权衡，现代计算机体系结构中通常采用多层次存储架构。依据存储的访问延时，多层次存储架构划分为不同层次的存储器，如图5- 68所示。存储器的层次越低（逻辑上与处理器更靠近)则访问延时越小，单位成本越高，因此设计容量相对较小;存储器的层次越高(逻辑上与处理器更远)则访问延迟越大，单位成本越低，比较适合存放使用频度低的大容量数据。

寄存器位于处理器内部，通常每个寄存器保存一个或两个字的数据(32位或者64位)，一般是32个或64个。高速缓存(Cache) 位于处理器内部，是用于减少主存访问成本(访问时间和功耗)而设置的，存放高频访问的指令或者数据。缓存可以分成指令缓存和数据缓存，并且可以根据架构需要继续划分为更多层次，如第一级高速缓存 (L1) 和第二级高速缓存(L2)等。主存储器(Main Memory)简称主存，是CPU可以直接访问的存储器，即CPU可直接读取主存储器中的相应指令和数据进行计算。

主存储器通常由随机访问存储器(RAM)构成，部分特定类型RAM是易失的，一旦断电将会丢失所有数据。主存储器的访问时间通常是几纳秒或者几十纳秒，并且需要通过存储总线直接或者间接与CPU相连，存储总线包括地址总线和数据总线。本地二级存储器是辅助存储器，又称外部存储器，CPU不能直接访问该存储器，该存储器通常是非易失的，掉电后数据不会丢失。辅助存储器单位价格比主存储器便宜两个数量级以上，因此可以满足高性价比的大容量存储需求。辅助存储器一般采用磁盘， 访问延时为毫秒级别。

未来，各存储子系统性能将不断优化，如固态硬盘(SSD) 的引入，消除了常见辅助存储器机械硬盘的寻道操作，带来极低的随机读操作延迟。同时新型存储器如相变存储器(PCRAM,PCM,PRAM)、阻变存储器(ReRAM或RRAM)和磁存储器( MRAM)等也在不断涌现。这些新型存储器有望在嵌入式领域率先使用，由于其非易失和可执行的特点，将改变嵌入式系统架构。目前，这些技术还没有根本性解决读/写速度以及成本问题，因此未来数据存储体系中多介质混合存储系统与一体化管理有望成为一大发展方向。