随着物联网和下一代智能设备的普及，低功耗电子设备和芯片正在越来越多地进入千家万户，低功耗设计也在变得越来越重要。物联网和智能设备一方面对于设备尺寸有限制，另一方面对于成本也有很高的需求，此外在一些使用场景中对于电池的更换和充电周期有需求（例如需要每个月或更长的电池更换周期），因此对于电池的容量有很高的限制，这要求芯片能使用低功耗设计。

另一方面，物联网和智能设备正在越来越多地加入人工智能的特性。人工智能可以为物联网和智能设备提供重要的新特性，例如语音类人工智能可以提供唤醒词识别，语音指令识别等，而机器视觉类人工智能可以提供人脸检测，事件检测等等。如前所述，物联网和智能设备对于低功耗有需求，因此人工智能特性的加入也需要是低功耗人工智能。

目前，人工智能芯片已经在云端和智能设备终端普及，例如在云端以Nvidia和AMD为代表的GPU和以Intel/Habana为代表的人工智能加速芯片；而在终端智能设备则主要是在SoC上的人工智能加速IP，但是无论是GPU和SoC上的人工智能加速IP，都没有考虑到低功耗的需求，因此在未来的物联网和智能设备中的人工智能都需要有新的低功耗相关的设计。

AI芯片 “风景这边独好”

AI企业特别是AI算法类企业，在2022年面临的最大质疑就是巨额融资之后依然连续亏损，企业难以找到持续商业化变现手段，众多人工智能企业因此也在资本市场上面临市值缩水、撤回上市申请等问题。当然，一些AI芯片企业也未能幸免。对于和英伟达等企业抢夺云端AI芯片市场的寒武纪来说，2022年也经历了股价的低迷。

但股价低迷的主要原因还是在于前期资本追捧过热，随着企业营收的增长以及市值的瘦身，股价也在逐渐向企业真实价值回归。

比如，面对云端AI芯片由英伟达和英特尔主导的局面，国内大部分AI芯片厂商都选择了终端AI芯片，但寒武纪不仅选择终端，更在云端芯片领域推出自己的产品，并取得相对可观的营收增长。

上半年财报显示，寒武纪的AI芯片、加速卡等产品已经在阿里云等互联网公司形成一定收入规模，实现商业客户的批量出货，上半年寒武纪实现营业收入1.7亿元，同比增长24.60％。

人工智能整体市场已从2020年的疫情影响中恢复，同时，随着技术的成熟以及数智化转型升级，内在需求增加，中国人工智能核心产业市场规模将持续平稳增长，预计2025年将达到约4000亿元。

特别是AI芯片领域，报告指出，随着大算力中心的增加以及终端应用的逐步落地，中国AI芯片需求也持续上涨；2021年疫情缓解，市场回暖，更是产生较大增幅，预计AI芯片市场规模将于2025年达到1740亿元。

传感器计算：低功耗AI的重要技术路径

在智能设备和物联网应用中的低功耗人工智能需要把功耗降到非常低，从而能实现实时在线（always-on）的人工智能服务。这里所谓的always-on，指的就是人工智能需要永远可用，而不需要用户主动打开后才工作。这一方面需要相关的传感器要一直打开从而实时检测相关模态的信号，另一方面也需要人工智能能做到低功耗。

传统设计中，传感器的功能就是负责高性能信号采集，并且把采集到的信号传输到处理器（SoC或者MCU）上去做进一步计算和处理，而传感器本身并没有计算能力。然而，传统设计的假设是传感器在打开时相关的处理器就要同时打开，而这并不能满足always-on AI的需求，因为SoC和MCU如果一直在运行AI算法的话对于电池的消耗很大。另一方面，从实际角度来看，这类always-on人工智能应用主要是希望人工智能一直运行从而一旦重要的相关事件发生时可以实时响应（例如IMU检测到用户在开车则把智能设备的推送通知关掉等），但是事实上这类相关事件的发生频率并不会很高，如果一直把SoC或者MCU的人工智能模块打开，绝大多数时候AI模型的输出都是“未检测到事件”。

结合这两点，运行在传感器端的计算就在变得越来越得到重视。首先，在always-on的低功耗人工智能中，无论如何传感器是需要一直打开的，因此如果传感器能有人工智能计算能力，那么可以让人工智能模型运行在传感器端，而无需一直打开SoC或者MCU上面的人工智能模块。另外，在传感器端运行人工智能也可以避免传感器和SoC/MCU之间一直传输数据，从而进一步降低功耗。最后，在传感器端的人工智能模块可以做到为传感器量身定制而无需考虑通用性，因此可以为最适合传感器的人工智能算法做定制化优化，从而实现非常高的能效比。

当然，传感器端的人工智能也有其自己的局限。一方面从性能和成本上来说，通常传感器端的计算和存储空间都较小，人工智能模块无法做到支持大模型，因此模型的性能会比较有限。另一方面，如前所述传感器端的人工智能也很难做到支持通用模型，而往往只会支持一些特定的算子和模型结构。

综上所述，传感器端的人工智能可以做到低功耗，但是其模型性能也较为有限；但是另一方面低功耗人工智能场景中，真正需要处理的相关事件的发生频率也并不高。结合这两点，传感器端人工智能最适合运行一些较为专用的小模型，用于过滤掉绝大多数的无关事件；而在传感器端人工智能检测到相关事件后，传感器可以唤醒SoC或MCU上的人工智能进行下一步的确认，从而同时满足低功耗和always-on的需求。

在图像传感器领域，Sony已经推出了IMX500系列传感器，其中把传感器芯片和集成了人工智能计算能力的逻辑芯片做了堆叠，从而可以把像素信号传输给逻辑芯片上的人工智能计算引擎，从而传感器的输出可以是图像，可以是人工智能模型的输出，或者是两者的结合。这样一来，就可以让传感器运行在低功耗always-on状态，而仅仅当其模型输出符合某些特定条件（例如检测到人脸）时才去唤醒MCU或者SoC做下一步动作。我们预计，Sony将会在接下来的传感器芯片中进一步加强其人工智能能力，从而增强在这个领域的领先地位。


结语：

算力无疑是数字经济时代的新生产力。在行业需求日益迫切，市场环境愈发动荡的当下，还会涌现出更多优秀的AI芯片创业公司，推动产业不断发展。