7月5日,由中国信息通信研究院承办的WAIC 2024“迈向AGI:大模型焕新与产业赋能”论坛在上海成功召开。论坛深度聚焦大模型行业应用落地、终端智能、大模型安全等前沿热点话题。云天励飞董事长兼CEO陈宁博士受邀发表主题演讲,首次展示云天励飞边缘AI的战略全貌。

    当前,云端大模型落地行业面临许多挑战:行业数据缺失,信息反馈缓慢,长尾场景无法覆盖,模型幻觉等。大模型应用落地进入“深水区”,上述难点如何应对?云天励飞的答案是:边缘AI。

    边缘AI具备三个特点:更低成本、更好的数据隐私保护以及更快的响应速度。

    近年来,越来越多行业巨头开始拥抱边缘AI:一方面,谷歌、微软、Meta包括云天励飞都推出了轻量化大模型支撑边缘AI的应用;另一方面,苹果、英伟达等巨头推出边缘AI芯片,应用在AI 手机和机器人上,云天励飞也在2022年底推出DeepEdge 10系列芯片,支撑边缘端的大模型运行。