大脑为何远比GPU省电:换一条计算路线
作者区分了算法效率与物理 substrate 的效率,认为真正的瓶颈在后者。80年前的数字抽象和浮点体系是为不同材料与任务设计的,延续至今更多是因为产品周期短。理解这一点,有助于判断能效改进是渐进优化还是需要换路线。
Naveen Rao是神经科学博士,做过十年计算机体系结构,创办过早期AI芯片公司,后来负责过Mosaic ML和Databricks的AI业务。现在他创办Unconventional AI,想回到第一性原理,重新思考计算的物理基础。他的核心判断是:以现有数字计算范式做智能,能耗走不下去,必须换一种更接近大脑的计算方式。 八十年前的选择还在延续 Rao认为,今天计算机的工作方式,很大程度上是约八十年前定下的。那时确立的数字抽象、浮点数等概念,来自1940年代,是为完全不同的材
来源:youtube 原始内容