您好!欢迎访问J9集团官方网站官方网站!

营业时间
MON-SAT 9:00-18:00

全国服务热线

公司门店地址
荔湾区中山八路新虹街58号

J9集团官方网站

j9集团

视频丨美AI模型自主入侵网络系统引担忧 如何筑牢AI安全底线?

来源:网络日期:2026-08-06 浏览:

  当前人工智能发展日新月异,深度融入生产生活各领域。在人工智能加速迭代过程中,其带来的安全风险也随之凸显。美国人工智能企业安特罗匹克公司(Anthropic)7月30日表示,其人工智能模型曾在网络能力测试中,未经授权访问了3家机构的系统。而美国开放人工智能研究中心(OpenAI)也在不久前承认,该公司多个人工智能模型在内部评估时,突破隔离测试环境,入侵了运营人工智能开源平台的美国抱抱脸公司的系统。消息公布后,AI工具安全问题、人工智能是否觉醒自主意识迅速成为大众热议焦点。

  这几起美国AI智能体安全事件,到底给我们带来哪些启示?先来听听专家怎么说。

  此次美国AI工具失控事件再次敲响人工智能安全警钟。专家表示,近年来,各类AI工具带来的安全风险在国内也集中显现,风险类型主要分为三类。

  今年年初,工业和信息化部、国家互联网应急中心发布预警,OpenClaw部署过程中信任边界界定模糊,可能出现越权操作,进而引发信息泄露、系统被控制等风险。7月工业和信息化部针对Claude Code后门风险发布警示,该隐患被NVDB(国家信息安全漏洞库)评定为严重级别,相关AI工具可在未经用户授权的情况下实施隐蔽监控,窃取源代码等关键资料。

  和传统网络攻击相比,AI驱动的攻击具备哪些新特征?当前我国又有哪些法律法规能够对人工智能相关行为形成约束?

  第一类是网络攻击的主体变了。攻击者的主体,在我们以前来看,都是实实在在的自然人。这些人做这些事情的时候是需要一定的技术能力,还有经验以及速度的。现在都不需要了,AI大模型它可以自主去完成。第二类不同点,实际上是AI大模型模拟了人的攻击行为,是非常隐蔽的,传统的安全检测措施很难来进行检出。

  随着人工智能加速落地应用,这类可自主访问网络、执行代码、操控设备的新型AI工具,突破了传统大模型仅被动应答的模式,衍生出全新风险场景。现有法律框架难以全面覆盖智能体自主行动带来的各类新问题,加快完善配套治理规则,补齐制度短板迫在眉睫。

  专家表示,人工智能技术加速迭代落地,随之而来的安全风险不容忽视。人工智能研发运营主体与广大使用者,都需要树立风险意识,多措并举做好安全防范。

  企业在部署人工智能的时候,尤其是这种具有自主行动的智能体的时候,也要充分考虑到智能体的安全,而不能部署在网络上就不管了。同时第三方独立的测评机制也要建立起来,不能成为一个企业自己部署、自己测试、自己认为安全的闭环。同时对于相关的责任追究机制以及相关技术标准的建立,还是需要一个逐步发展和完善的过程。

j9集团 丨NEWS