cq9电子平台网站：从天花板到地板端侧AI让人工智能“接地气”
发布时间：2023-12-26 11:53:23 浏览次数：
12月初，谷歌推出了一款新型的强大多模态人工智能模型Gemini1.0，其设计的三个功能和尺寸版本中，Gemini Nano属于端侧设备上的高效AI模型。
端侧AI，是指在终端设备上进行轻型AI模型运用。由于整个AI的过程都在设备端，不需要连接云端和边缘端，好处是速度快、功耗小、成本低、私密数据等隐私安全有保障。
也因为云端AI模型的推理成本极高，所以实际落地中，端侧的AI处理能力备受产业界关注。当下，端侧AI在底层技术和业务应用等方面都在取得快速发展，正从尝试性应用变为驱动业务创新的核心推动，比如工业安防、机器人、智能车载都对端侧AI有着越来越明确的需求。
然而，AI芯片作为算力基础和终端智能化升级的关键器件，厂商需要面对海量碎片化的需求，加上负责AI加速运算的核心技术NPU（神经网络处理器）还未建立起行业标准地板，这些对开发成本和整体方案的交付周期都是直接挑战。另外，数据采集、算法训练等也还普遍不够成熟。
那么接下来，端侧AI芯片将如何突破瓶颈？性能可以提升到何种水平？终端+云端协同处理的混合AI趋势又会怎样决定未来应用场景的规模化扩张？
端侧AI落地需要软硬件充分协调，目前国内外关于软硬件的基础现状分别如何？
端侧AI芯片作为核心硬件，当前性能状况分析？怎样平衡好AI算法进化周期和芯片研发周期？
