大语言模型正在快速迭代,战场也从云端拓展到了端侧,未来端侧大模型将在智能家居,手机,PC,汽车,XR等新型终端上有非常广阔的应用前景。在大模型向端侧发展的进程中,智能家居将成为在物理世界落地的关键场景。

端侧大模型是什么?

以Google的端侧大模型Gemini Nano为例,它是一个多模态模型,可以处理文本、图像、音频等不同类型数据,作为Gemini人工智能模型家族中最小、最高效的模型GeminiNano专为在移动设备等边缘设备上执行而设计虽然能力有限,但运行速度更快,更加注重隐私,非常适合移动端。

端侧是相对于“云端”的一个概念,指的是大模型服务不部署在云端,而是直接存储在终端设备内部,利用芯片算力生成结果。不同于如OpenAl新发布的GPT-40等云端大模型庞大的模型和算力,端侧大模型在实践中更加轻便,更方便在物理世界中进行部署。

目前大家最容易想到的端侧大模型应用之一,就是智能座舱的车载语音助手。

车载语音助手通过大模型学习用户的语言习惯、上下文信息以及个性化需求,更好地理解用户的意图和需求,做出更智能、更准确的回应。

例如理想汽车的Mind GPT自带记忆网络,可以实现让车载AI助手“理想同学”能基于历史对话记住个性化偏好和习惯。

然而相较于车辆,人们在家中的时间更多。

云起认为,智能家居将成为端侧大模型在物理世界落地的关键场景。

通过端侧大模型,智能家居企业可以以零成本获得超越传统语音助手的交互能力,过去,一家科技公司要开发语音助手需要至少花费20亿美元,并需要一个大型科研团队。

而随着端侧大模型技术的应用,曾经花费巨额开发的语音助手,在语言能力上完全无法与大模型附带的语音应用相媲美,似乎变得一文不值。

通过引入如Gemma(谷歌)、Lama3(Meta)OpenELM(苹果)等开源大模型,智能家居企业就可以以更低的成本获得更出色的自然语音交互助手,

一方面,可以用语音设定智能场景了。当普通用户有设置模式需求时,只需通过自然语言描述“我需要设定一个起床模式,大概8点起床,你可以按我晚上几点睡的,灵活调节一下,但是最后一定要把我叫醒。

“系统像一个真人管家,可以很好地理解用户需求,为用户设定一套手段多样,且因每天情况不同改变的叫早服务,另一方面,与系统的语音交互更简单了,用户无需按照设定的规则,说出设备的全名,并下达明确的开关指令。

以灯光为例,当用户坐在床边说“灯光”时,灯光会视时间、情景差异,帮用户调节。如果是用户躺下闭眼说“灯光”,灯光则会全部关闭。可以说是会“读空气“的智能服务。

智能家居为端侧大模型提供了更多的应用场景,在家庭环境中,用户有更多的时间和空间创造不同的生活场景,包含了智能照明、能源管理、健康管理、娱乐控制、智能安防、语音助手等应用场景。

例如,当用户以自然语言和智能家居系统交互,提出“调出昨天晚上十点我回来的视频”的需求时,系统将自动识别内容,判断“什么是回来”,同时猜测用户目的,给予更加合适的内容结果。

用户在家中更加关注个人信息的保护

端侧大模型可以更深入地理解和解读用户信息,包括生活习惯、家庭结构等隐私信息。通过在设备端部署端侧大模型,可以避免这些敏感数据上传,更好地保护用户隐私。

未来,云起部署了端侧大模型的AI智慧中心,将会完整隔离用户的数据,完全本地化处理信息,无需上传云端。云起非常重视保护用户隐私,视信息为个人的重要资产,认为隐私是每个人的基本权利。

随着端侧大模型学习的深入,用户将可以更多地信赖和依赖智能家居提供的类人服务,她将会是家中最懂用户的“人”。

免责声明:凡注明为其它来源的信息均转自其它平台,目的在于传递更多信息,并不代表本站观点及立场。若有侵权或异议请联系我们处理。

相关推荐