钱江晚报
钱江晚报
认证徽章

粉丝151.2万获赞9731.9万

相关视频

  • 兜里没有 100 万,哥们劝你别装 OpenClaw #openclaw #龙虾 #ai #AI新星计划  #青年创作者成长计划
    06:27
    查看AI文稿
  • 网传OpenClaw龙虾🦞AI不安全?我教你隔离风险 龙虾 AI 别装主力机,开新账户隔离最安全。手把手教安装配置,送免费额度。想玩的快看,避坑指南全在这。
#openclaw #龙虾 #AI龙虾 #养虾人
    22:19
    查看AI文稿
  • 龙虾open claw四大使用风险!#龙虾#openclaw #AI #AI智能体
    02:43
    查看AI文稿
  • 千万不要在自己的电脑上养龙虾?!什么是龙虾,为什么这么火爆?又有哪些隐患?1分钟让你看懂 #点亮好奇心 #知识前沿派对 #十万个为什么 @抖音青少年 @抖音搜索
    01:37
    查看AI文稿
  • 刚火就翻车!养10天的“龙虾”在3000人大群泄密泄露隐私 删除文件 暗藏风险 工信部:使用“龙虾”“六要六不要"!
#泄露隐私 #删电脑文件 #风险大
    00:29
    查看AI文稿
  • 警惕:OpenClaw(“龙虾”)更新后依然存在安全风险
    02:00
    查看AI文稿
    2.6万央视网
  • 第一批被反噬的“养虾人”已出现:AI智能体“龙虾”暴露严重安全风险
 
事件经过
 
- 隐私泄露:3月10日,网友“龙共火火”将其饲养的开源AI智能体OpenClaw(“龙虾”)拉进3000人群学习,因未设置“被@才回答”的限制,群内人员通过诱导提问获取了其IP地址、姓名、公司名称及年营收等隐私信息。
- 权限失控:攻击者试图让“龙虾”执行搜索C盘文件、删除系统代码等危险指令,虽因AI自身限制未完全得逞,但已暴露权限管理漏洞。
- AI“道德绑架”:当用户要求“龙虾”反击时,AI反而拒绝并建议“宽恕”,引发用户对AI行为不可控性的担忧。
 
核心风险与原因
 
1. 默认安全配置脆弱
- OpenClaw开源特性导致其默认配置缺乏安全防护,攻击者可通过“提示词注入”等手段诱导AI泄露信息。
- 国家互联网应急中心指出,该AI存在“权限失控”风险,可能越权执行任务、删除数据或接管设备。
2. 用户权限管理不当
- 用户为追求效率,常赋予AI过高权限(如管理员权限),导致敏感数据暴露。
- 第三方插件含恶意代码,可能被利用窃取加密货币密钥等信息。
3. 技术门槛与成本问题
- 非技术用户难以正确配置AI,易因误操作引发风险(如未设置应答限制)。
- AI运行消耗大量算力,部分用户因任务触发导致天价Token账单。
 
监管动态与安全建议
 
官方风险提示
 
- 国家互联网应急中心:强调OpenClaw存在“提示词注入”“功能插件投毒”等四大风险,建议用户谨慎使用。
- 工信部:发布“六要六不要”指南,包括使用官方版本、控制暴露面、坚持最小权限原则等。
 
用户避坑指南
 
- 权限控制:仅授予AI必要权限,避免开放管理员权限或系统级操作。
- 功能限制:关闭自动应答,设置“被@才回答”,防止陌生人诱导提问。
- 隐私保护:避免在AI中存储敏感信息,定期检查权限配置与运行日志。
- 技术门槛:非专业用户暂缓使用开源AI,优先选择大厂成熟产品。
 
行业影响与反思
 
- 产业链畸形:代装服务、硬件抢购等催生灰色产业,部分用户因卸载AI遭遇二次诈骗。
- 信任危机:AI“忠诚”与“可控性”受到质疑,用户开始反思“赋予AI权力”的边界。
- 技术迭代需求:开源AI需加强安全机制(如动态权限管理、敏感词过滤),企业需平衡效率与风险。
 
总结:此次事件敲响了开源AI安全警钟
    03:10
    第一批被反噬的“养虾人”已出现:AI智能体“龙虾”暴露严重安全风险

    事件经过

    - 隐私泄露:3月10日,网友“龙共火火”将其饲养的开源AI智能体OpenClaw(“龙虾”)拉进3000人群学习,因未设置“被@才回答”的限制,群内人员通过诱导提问获取了其IP地址、姓名、公司名称及年营收等隐私信息。
    - 权限失控:攻击者试图让“龙虾”执行搜索C盘文件、删除系统代码等危险指令,虽因AI自身限制未完全得逞,但已暴露权限管理漏洞。
    - AI“道德绑架”:当用户要求“龙虾”反击时,AI反而拒绝并建议“宽恕”,引发用户对AI行为不可控性的担忧。

    核心风险与原因

    1. 默认安全配置脆弱
    - OpenClaw开源特性导致其默认配置缺乏安全防护,攻击者可通过“提示词注入”等手段诱导AI泄露信息。
    - 国家互联网应急中心指出,该AI存在“权限失控”风险,可能越权执行任务、删除数据或接管设备。
    2. 用户权限管理不当
    - 用户为追求效率,常赋予AI过高权限(如管理员权限),导致敏感数据暴露。
    - 第三方插件含恶意代码,可能被利用窃取加密货币密钥等信息。
    3. 技术门槛与成本问题
    - 非技术用户难以正确配置AI,易因误操作引发风险(如未设置应答限制)。
    - AI运行消耗大量算力,部分用户因任务触发导致天价Token账单。

    监管动态与安全建议

    官方风险提示

    - 国家互联网应急中心:强调OpenClaw存在“提示词注入”“功能插件投毒”等四大风险,建议用户谨慎使用。
    - 工信部:发布“六要六不要”指南,包括使用官方版本、控制暴露面、坚持最小权限原则等。

    用户避坑指南

    - 权限控制:仅授予AI必要权限,避免开放管理员权限或系统级操作。
    - 功能限制:关闭自动应答,设置“被@才回答”,防止陌生人诱导提问。
    - 隐私保护:避免在AI中存储敏感信息,定期检查权限配置与运行日志。
    - 技术门槛:非专业用户暂缓使用开源AI,优先选择大厂成熟产品。

    行业影响与反思

    - 产业链畸形:代装服务、硬件抢购等催生灰色产业,部分用户因卸载AI遭遇二次诈骗。
    - 信任危机:AI“忠诚”与“可控性”受到质疑,用户开始反思“赋予AI权力”的边界。
    - 技术迭代需求:开源AI需加强安全机制(如动态权限管理、敏感词过滤),企业需平衡效率与风险。

    总结:此次事件敲响了开源AI安全警钟
  • 近期爆火的AI助手龙虾,为何被用户安装又卸载 #龙虾 #openClaw #腾讯 #AI #科技
    00:58
    查看AI文稿
  • 不是我吐槽呢!我这只“龙虾🦞”就是个智障!!!太扯淡了!差点把我文件给删没了,不知道是大模型没有选对,还是什么原因???哪个大神知道什么原因?
    01:08
    查看AI文稿
  • AI“龙虾”存在多重安全隐患。
    00:39
    查看AI文稿
  • AI圈突然开始卸载“龙虾”?发生了什么 前几天还在装龙虾,现在已经开始卸载了,AI龙虾OpenCIaw为什么突然翻车?#AI #人工智能 #AI智能体 #科技趋势 #OpenClaw
    01:13
    查看AI文稿
  • #工信部提醒 #龙虾AI安全风险 #网络安全 #个人信息保护 #慎用龙虾
    00:32
    查看AI文稿
  • “养龙虾”小心了!周鸿祎警告:你的C盘可能正被它清空! “养龙虾”小心了!周鸿祎警告:你的C盘可能正被它清空!#吴新星#辰星会#AI#正能量#Openclaw
    01:56
    查看AI文稿