当网络信号弱小乃至断网时,终端设备上的智能体该怎么保证安全防护?浙江大学计算机学院“百人方案”研讨员赵彬彬在经济参考报社与中国科学院软件研讨所一起举行的“智能体年代的移动终端生态”研讨会上提出,跟着智能体走向终端设备,安全防护系统需求统筹弱网、离线等各类运转场景。
赵彬彬以为,智能体安全要重视模型、智能体、东西和设备多个层面。智能体对用户习气的回忆或许遭到错误信息或歹意信息影响,调用外部东西时也或许触摸有害信息;触及摄像头、麦克风等设备功用时,还需求研讨怎么样防备越权调用。他以为,正因为智能体或许触及设备层,可调刻苦用与安全鸿沟需求提早清晰,不该比及安全事情发生后再做约束。这与日前豆包手机帮手推出的屏幕自动化操作声明协议(SAEP)的思路共同,使用能够清晰是否承受智能体操作、详细敞开哪些操作权限。
他介绍了团队的研讨思路:依托安全评测辨认危险,经过安全网关阻拦高危行为,并探究在终端芯片内置安全审阅才能。团队方案选用轻量模型,统筹设备功耗,把安全防护延伸至芯片层,适配终端运转特色。这套安全防护思路,有利于完成立异与安全、功率与规矩协同开展,保证智能体即使出现异常,也无法跨越预先划定的安全鸿沟。(记者 关佳浩 杨曼殊)