计算存储，去向何方？

2020-05-14

基于经典的冯·诺伊曼计算机架构，计算与存储是两个完全区分的单元，分别由中央处理器(CPU)和存储器完成。因此在运算时，数据从存储单元读取到计算单元，运算后，再将结果写回存储单元。但是，“当运算能力达到一定程度，由于访问存储器的速度无法跟上运算部件消耗数据的速度，即使再增加运算部件也无法充分利用，从而形成所谓的冯·诺伊曼‘瓶颈’，或‘内存墙’问题。”

而仿照人脑的仿生系统被认为是最有可能颠覆现有技术的终极发展方向。因为人的大脑，正是一个典型的存储计算系统，网上有消息称，“最先进的自然语言处理模型 XLNet 有约 4 亿模型参数，每次训练需要数百个深度学习加速器运算三天。而据估算人脑中细胞间互联轴突个数更是高达百万亿到千万亿数量级。”可见，人工智能和人脑之间还是有着巨大的差距。

而如今正处在大数据驱动的人工智能时代，AI 运算中数据搬运更加频繁，“内存墙”这一矛盾更加凸显。AI 要真正做到像人类一样聪明，需要先突破算力瓶颈。