10 月 14 日,后摩智能在北京举办生态合作伙伴大会。会上的圆桌由极客公园创始人兼 CEO 张鹏主持,五位嘉宾分别来自操作系统、应用、数据工程、整机集成与芯片领域:麒麟软件副总经理、生态发展中心总经理姚翎,聊趣智能科技创始人兼 CEO 黄隽实,罗格数据 CTO 刘学鹏,寅谱计算 CMO 陈展凌,后摩智能 AI 系统总工程师陈仲铭。他们讨论的是同一件事:端侧 AI 什么时候才能真正成为一门生意。

端侧 AI 要成为一门生意,绕不开安全、私域和体验

黄隽实讲了上海一家养老机构的落地案例。团队做的“数字家人”陪老人聊天、提醒用药、辅助防诈骗。老人的日常表达和身体状况都属于敏感信息,不适合随意上传云端;系统需要全天值守,设备还不能有噪声。在这类场景中,隐私、算力、功耗和噪声决定了老人是否愿意使用。他提到,采用后摩芯片后可以满足安静运行的要求。

企业客户的关注点落在私域化专属上。刘学鹏认为,AI 未来会成为企业的数字专家或数字员工,这类触及核心业务的“员工”要留在公司内部,不能变成外部的云端服务。姚翎补充说,对央企和关键岗位而言,只要 AI 工具部署在互联网上,涉密数据就绝对不能碰;大模型甚至可能把不同时段上传的碎片信息拼凑成完整内容,本地安全没有商量的余地。

但需求成立,并不等于生意成立。陈展凌直言,客户未必在意省了多少 Token,更在意首字出来要多久、机器是否安静、系统会不会卡顿、能不能连续稳定运行。陈仲铭则表示,端侧算力要面对算力、带宽与功耗之间的“不可能三角”,后摩的做法是不断把这三条边界向外推,并通过开放软件、接口和 API 让更多开发者参与进来。

对话最后,刘学鹏给出一个判断:在中国,AI 真正落地一定是“端侧为主,云端为辅”,端侧是个人和企业的专属大脑,云端是负责知识流动的社会大脑。