|
|
3月12日消息,近日,360集团创始人周鸿祎,针对近期在AI圈火爆的AI智能体OC(俗称 龙虾) 公开发声,提醒行业警惕背后的巨大安全风险。恰好,很多人因library是什么意思而带来更多的益处,使之蓬勃发展,对行业的促动也是较大的。 http://m.oh100.com/cihui/829110.html
他指出,随着养龙虾热潮快速蔓延,一个严峻的安全问题正在浮出水面:目前全球已发现近15万个OC 相关资产,其中超过 40% 集中在。
周鸿祎警告,当用户主动把电脑终端权限交给 AI,而安全机制没有跟上时,一旦裸奔,后果不堪设想!
据介绍,OC 是一款开源 AI 智能体工具,近期之所以火爆出圈,正是因为它和传统 AI 有着本质区别 它不只是回答问题,而是能够直接操控电脑、自动执行任务,包括打开页、读取文件、修改代码,甚至单独完成一整套工作流程。
但风险也恰恰藏在这里。当AI可以替用户操作电脑,它所拥有的权限也在不断扩大。在络安全领域,终端权限是比较敏感的核心资产,过去黑客攻击的关键一步,就是想方设法拿到终端权限。
而现在,很多用户并非被黑客攻破,而是主动把比较高权限交给了AI。为了让 AI 更 好用,不少人直接开放了浏览器权限、文件系统访问权,甚至邮箱 API密钥和服务器权限。
周鸿祎强调,360 一直有一个明确判断:AI时代比较大的攻击面,很可能不再是服务器漏洞,而是拥有执行权限的智能体。
未来的攻击方,很可能不再是单个黑客,而是由 AI 驱动的 黑客智能体。
对此,他提出必须坚持以模制模,用AI对抗AI,同时把安全能力做成系统原生能力。攻击正在自动化,防守也必须自动化。只有让智能体的行为可审计、可管理、可控制,AI 才能真正安全落地。
周鸿祎比较后提醒:在全民养龙虾的时代,我们不仅要关注算力够不够便宜,更要关注围栏够不够牢。能力越强,安全就越重要。 |
|