随机存取存储器 RAM 是什么?电脑的内存,断电后数据就消失
随机存取存储器(Random Access Memory,RAM),也就是我们通常所说的“内存”,是计算机中用来临时存放正在运行的程序和数据的存储器。它可以随时快速地读取和写入任意位置的数据。它的一个重要特点是“易失性”:一旦断电,里面保存的数据就会全部丢失。
“随机存取”是什么意思
“随机存取”的意思是,访问存储器中任何一个位置的数据,所需的时间都大致相同,与数据存放的位置无关。这与早期的磁带等顺序存取的存储设备不同:磁带要读取某段数据,必须先把磁带快进或倒带到那个位置,数据越靠后,等待的时间越长。
内存在电脑中的作用
可以把电脑的存储系统比作一个办公场景:硬盘或固态硬盘像是文件柜,容量大,能长期保存资料,断电也不会丢失,但取放资料比较慢;内存像是办公桌的桌面,空间有限,但放在上面的资料可以随手拿来用;处理器就是坐在桌前工作的人。打开一个程序或文件时,电脑会先把它从硬盘读取到内存中,处理器再直接从内存中读取数据进行处理。内存越大,就能同时打开越多的程序、处理越大的文件,电脑运行起来也越流畅;内存不够时,系统只好把一部分数据临时放到速度慢得多的硬盘上,电脑就会明显变卡。
两种主要类型
动态随机存取存储器(DRAM):每一位数据用一个电容和一个晶体管来存储,结构简单、密度高、成本低,但电容会慢慢漏电,需要不断地刷新来保持数据,所以叫“动态”。电脑和手机的内存条都是 DRAM,常见的规格有 DDR4、DDR5,以及手机中的 LPDDR。静态随机存取存储器(SRAM):每一位数据用多个晶体管组成的电路来存储,不需要刷新,速度比 DRAM 快得多,但结构复杂、成本高、容量小,主要用于处理器内部的高速缓存。
内存与 AI
内存对 AI 尤其重要。显卡和 AI 加速卡上的显存也是一种 DRAM,比如 GDDR,以及高端 AI 芯片上使用的高带宽内存(HBM)。HBM 把多层 DRAM 芯片垂直堆叠起来,与计算芯片封装在一起,提供极高的数据传输带宽。大语言模型的参数和推理时的 KV 缓存都需要放在显存中,显存的容量决定了能运行多大的模型,显存的带宽则直接影响生成文字的速度。在很多情况下,大模型推理的瓶颈不在于计算有多快,而在于数据能多快地从内存送到计算单元,这被称为“内存墙”问题。在本地运行大模型时,内存和显存的大小通常是最先需要考虑的硬件条件。