


众行致远丨“两大文明跨越时空持久双向奔赴”-87d863c1
智能体发展风头正盛,构建适配时代特征的风险治理框架迫在眉睫 智能体作为新一代信息技术的重要形态,正从辅助人类思考的“认知工具”,向自主执行任务的“行动主体”加速演进。其在释放巨大生产力的同时,也滋生出一系列新型治理难题。如何在发展与安全的动态平衡中,构建适配时代特征的智能体风险治理框架,是当前面临的一项重要课题。 智能体风险治理的理论逻辑,根植于对技术本质、风险范式与治理规律的深刻认识,体现为三个层面的辩证统一。 第一,风险认知:从“静态输出”向“动态行为”跃迁。传统信息技术安全管控,大多从内容生成、数据存储等相对固化的维度展开防护,其风险边界相对清晰,治理对象相对固定。智能体则具备自主性、代理性与环境交互属性,其安全风险呈现出动态化、复杂化与全域化的新特征。2026年7月,OpenAI在内部测试中发生的智能体为获取高分,自主突破隔离边界入侵Hugging Face系统,即是这一风险跃迁的典型例证。当前,人工智能的风险管控范围已从单一的结果审核,扩展至“目标理解—任务规划—工具调用—执行操作”的完整行为链条。这一本质变化,决定了治理逻辑必须从“产品安全”转向“过程治理”,从关注“输出什么”转向关注“会做什么”。 第二,价值取向:坚持“发展”与“安全”一体两面。发展和安全是一体之两翼、驱动之双轮。2026年,以OpenClaw(“龙虾”)为代表的开源智能体在全球爆火,推动人机交互从“工具使用”向“代理委托”转变,展现了巨大的生产力潜能。在今年6月召开的第十四届互联网安全大会上,有专家指出,智能体驱动的攻击已呈现出自主决策、集群协同与持续进化的技术特征,彻底改变了传统的攻防格局。若片面追求发展而忽视安全,将导致技术滥用、隐私泄露甚至危及公共安全;若因噎废食、过度防控,则可能抑制技术创新与产业活力,错失发展机遇。因此,智能体风险治理的核心在于构建一种动态平衡的框架,一手抓创新赋能,一手抓底线管控,在规范中释放技术潜能,在发展中完善治理体系。 第三,范式重构:从“单点控制”向“系统共治”转型。智能体风险的系统性、跨域性,决定了传统碎片化、事后应对式的治理模式难以为继。在2026世界人工智能大会上发布的《智能体互信互联互操作全球合作倡议》,明确提出建立覆盖智能体全生命周期的安全治理框架。因此,智能体风险治理必须转向系统性、全周期、多主体协同的新范式,将安全能力嵌入技术底座,将监管约束分类分级、精准施策,将人类主体地位贯穿运行始终,将多元责任凝聚为共治合力,实现从“被动应对”向“主动预防”、从“个案处理”向“宏观审慎”的范式跃升。 推动上述理论逻辑落地见效,关键在于紧贴时代要求,构建以下五个相互支撑、协同发力的核心机制,并统筹推进配套保障措施。 第一,夯实技术安全内生机制,筑牢安全运行的底座根基。将安全能力贯穿技术应用研发、部署、运行、迭代全流程,打破安全功能事后叠加的传统思路,将防护能力内置于技术架构的底层设计。研发阶段,将价值导向与安全要求嵌入底层设计,强化供应链安全管理,针对“龙虾”等开源智能体暴露出的“技能生态污染”风险,建立多层次的技能插件安全审计机制;部署阶段,明确系统运行边界,实施必要隔离保护;运行阶段,坚持最小必要原则,强化动态监测与应急阻断能力;迭代阶段,持续完善安全策略与防护标准。该机制旨在实现安全能力与创新动能的协同提升,真正筑牢技术应用安全运行的根基。 第二,落实分类分级监管机制,实施精准适配的治理策略。由相关主管部门依据应用场景、影响范围及潜在风险,将技术应用划分为高、中、低风险三个等级,实施差异化、精准化监管。具体而言,高风险领域聚焦国家安全、公共安全及重要行业,要严把准入关口,强化全流程动态监测与应急响应,落实刚性管控措施。低风险领域依托标准化测试工具、平台主体责任落实与行业自律机制建设,降低合规成本,激发市场活力。同时,融入主动防御、动态调适理念,根据技术发展和应用变化灵活调整监管策略,实现安全管控与产业发展的动态平衡。 第三,强化人工干预与兜底机制,坚守以人为本的底线原则。统筹发展和安全,并非抑制技术应用的自主优势,而是充分发挥人类在经验、判断、责任等方面的主体作用,有效防范系统运行中的非预期与高风险行为。对常规、低风险任务,应充分释放技术应用的效能与协同潜力。对算法失控、系统异常等高风险操作,必须强化人工及时介入与最终决策权,坚决守住用户权益、数据安全与公共安全底线。这种“机器高效执行、人类最终把关”的机制,既有利于避免过度管控抑制创新活力,又能够杜绝放任自流引发安全风险,真正实现发展与安全的有机统一。 第四,健全多元协同共治机制,凝聚权责清晰的治理合力。坚持党委领导、政府统筹,加快推进相关领域专门立法与法律法规完善,健全技术安全、数据管理等规范体系。2026世界人工智能大会期间,全球首个人工智能领域政府间国际组织——世界人工智能合作组织在上海成立,标志着多边协同共治迈出关键一步。具体来看,企业要落实全链条安全主体责任,强化源头治理与过程管理;行业协会需健全自律准则与伦理规范,完善风险监测与信用评价机制;第三方机构开展独立安全评估与合规认证;公众依法有序参与监督。通过多方协同、责任共担、成果共享,构建全社会共建共治共享的治理格局,为产业健康可持续发展提供坚实保障。 第五,统筹推进配套保障,确保治理体系协同发力。加快核心技术攻关,大力推广安全基线模型与安全工具链,为智能体安全治理提供坚实技术支撑。同时,加快构建智能体标准体系,重点推动智能体互联协议(AIP)等关键标准制定与推广,建立供应链安全信息共享与预警机制,完善问题产品召回制度,为规范化发展提供制度保障。此外,还应加强公众数字素养教育,提升社会对技术应用能力边界与潜在风险的认知,通过政府引导、企业主责、社会参与,形成安全与发展良性互促的产业生态。 统筹发展和安全视域下的风险治理,事关智能体产业长远健康发展,不可能一蹴而就,也不可能一劳永逸。唯有以辩证思维看待发展与安全,以系统观念推进治理创新,紧密跟踪技术演进与风险演化态势,在激发技术活力的同时牢牢守住安全底线,方能确保智能体技术始终沿着安全、可靠、向善的轨道服务社会、造福人类。 原标题:《智能体发展风头正盛,构建适配时代特征的风险治理框架迫在眉睫》 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 机器之心Pro 2026-09-08 14:29:53 虎嗅APP 2026-08-02 10:02:11 36氪 2026-07-15 17:07:18 36氪 2026-09-08 16:25:32 机器之心Pro 2026-06-17 12:13:35 36氪 2026-09-07 18:35:06 新智元 2026-09-09 06:18:46 虎嗅APP 2026-09-09 05:34:43 量子位 2026-06-07 04:37:43 量子位 2026-04-23 11:44:18 财联社 2026-09-09 03:41:03 经济观察报 2026-08-03 09:24:42 新智元 2026-09-08 14:11:18 带娃翻车老父亲 2026-09-08 01:48:22 浮生实录集 2026-09-08 22:40:03 和讯网 2026-09-08 21:48:02 极目新闻 2026-09-08 09:05:24 一个香蕉说球 2026-09-08 20:29:57 拳击格斗大放送 2026-09-08 13:12:57 都市快报橙柿互动 2026-09-08 13:29:54 上观新闻 2026-09-08 09:04:25 中国经济网 2026-09-08 11:11:11 冷门精选 2026-09-08 17:07:22 扬子晚报 2026-09-08 07:20:10 新智元 2026-09-09 06:19:30 潇湘晨报 2026-09-08 19:10:47 左脚爆射得分 2026-09-08 17:54:49 参考消息 2026-09-08 09:14:47 搞笑三东子 2026-09-08 13:51:12 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-06 15:29:22 虎嗅APP 2026-09-09 06:32:09 南方都市报 2026-09-08 10:51:28 超话看世界 2026-09-06 09:42:47 环球网资讯 2026-09-08 17:02:02 新京报 2026-09-08 08:06:25 上海静安 2026-09-08 23:21:44 武汉发布 2026-09-08 10:47:56 澎湃新闻 2026-09-08 21:34:32 体坛观察猿 2026-09-08 23:50:26
在暴跌25%的市场里,雷军开始“崩老头”?-d02dbc0c
智能体发展风头正盛,构建适配时代特征的风险治理框架迫在眉睫 智能体作为新一代信息技术的重要形态,正从辅助人类思考的“认知工具”,向自主执行任务的“行动主体”加速演进。其在释放巨大生产力的同时,也滋生出一系列新型治理难题。如何在发展与安全的动态平衡中,构建适配时代特征的智能体风险治理框架,是当前面临的一项重要课题。 智能体风险治理的理论逻辑,根植于对技术本质、风险范式与治理规律的深刻认识,体现为三个层面的辩证统一。 第一,风险认知:从“静态输出”向“动态行为”跃迁。传统信息技术安全管控,大多从内容生成、数据存储等相对固化的维度展开防护,其风险边界相对清晰,治理对象相对固定。智能体则具备自主性、代理性与环境交互属性,其安全风险呈现出动态化、复杂化与全域化的新特征。2026年7月,OpenAI在内部测试中发生的智能体为获取高分,自主突破隔离边界入侵Hugging Face系统,即是这一风险跃迁的典型例证。当前,人工智能的风险管控范围已从单一的结果审核,扩展至“目标理解—任务规划—工具调用—执行操作”的完整行为链条。这一本质变化,决定了治理逻辑必须从“产品安全”转向“过程治理”,从关注“输出什么”转向关注“会做什么”。 第二,价值取向:坚持“发展”与“安全”一体两面。发展和安全是一体之两翼、驱动之双轮。2026年,以OpenClaw(“龙虾”)为代表的开源智能体在全球爆火,推动人机交互从“工具使用”向“代理委托”转变,展现了巨大的生产力潜能。在今年6月召开的第十四届互联网安全大会上,有专家指出,智能体驱动的攻击已呈现出自主决策、集群协同与持续进化的技术特征,彻底改变了传统的攻防格局。若片面追求发展而忽视安全,将导致技术滥用、隐私泄露甚至危及公共安全;若因噎废食、过度防控,则可能抑制技术创新与产业活力,错失发展机遇。因此,智能体风险治理的核心在于构建一种动态平衡的框架,一手抓创新赋能,一手抓底线管控,在规范中释放技术潜能,在发展中完善治理体系。 第三,范式重构:从“单点控制”向“系统共治”转型。智能体风险的系统性、跨域性,决定了传统碎片化、事后应对式的治理模式难以为继。在2026世界人工智能大会上发布的《智能体互信互联互操作全球合作倡议》,明确提出建立覆盖智能体全生命周期的安全治理框架。因此,智能体风险治理必须转向系统性、全周期、多主体协同的新范式,将安全能力嵌入技术底座,将监管约束分类分级、精准施策,将人类主体地位贯穿运行始终,将多元责任凝聚为共治合力,实现从“被动应对”向“主动预防”、从“个案处理”向“宏观审慎”的范式跃升。 推动上述理论逻辑落地见效,关键在于紧贴时代要求,构建以下五个相互支撑、协同发力的核心机制,并统筹推进配套保障措施。 第一,夯实技术安全内生机制,筑牢安全运行的底座根基。将安全能力贯穿技术应用研发、部署、运行、迭代全流程,打破安全功能事后叠加的传统思路,将防护能力内置于技术架构的底层设计。研发阶段,将价值导向与安全要求嵌入底层设计,强化供应链安全管理,针对“龙虾”等开源智能体暴露出的“技能生态污染”风险,建立多层次的技能插件安全审计机制;部署阶段,明确系统运行边界,实施必要隔离保护;运行阶段,坚持最小必要原则,强化动态监测与应急阻断能力;迭代阶段,持续完善安全策略与防护标准。该机制旨在实现安全能力与创新动能的协同提升,真正筑牢技术应用安全运行的根基。 第二,落实分类分级监管机制,实施精准适配的治理策略。由相关主管部门依据应用场景、影响范围及潜在风险,将技术应用划分为高、中、低风险三个等级,实施差异化、精准化监管。具体而言,高风险领域聚焦国家安全、公共安全及重要行业,要严把准入关口,强化全流程动态监测与应急响应,落实刚性管控措施。低风险领域依托标准化测试工具、平台主体责任落实与行业自律机制建设,降低合规成本,激发市场活力。同时,融入主动防御、动态调适理念,根据技术发展和应用变化灵活调整监管策略,实现安全管控与产业发展的动态平衡。 第三,强化人工干预与兜底机制,坚守以人为本的底线原则。统筹发展和安全,并非抑制技术应用的自主优势,而是充分发挥人类在经验、判断、责任等方面的主体作用,有效防范系统运行中的非预期与高风险行为。对常规、低风险任务,应充分释放技术应用的效能与协同潜力。对算法失控、系统异常等高风险操作,必须强化人工及时介入与最终决策权,坚决守住用户权益、数据安全与公共安全底线。这种“机器高效执行、人类最终把关”的机制,既有利于避免过度管控抑制创新活力,又能够杜绝放任自流引发安全风险,真正实现发展与安全的有机统一。 第四,健全多元协同共治机制,凝聚权责清晰的治理合力。坚持党委领导、政府统筹,加快推进相关领域专门立法与法律法规完善,健全技术安全、数据管理等规范体系。2026世界人工智能大会期间,全球首个人工智能领域政府间国际组织——世界人工智能合作组织在上海成立,标志着多边协同共治迈出关键一步。具体来看,企业要落实全链条安全主体责任,强化源头治理与过程管理;行业协会需健全自律准则与伦理规范,完善风险监测与信用评价机制;第三方机构开展独立安全评估与合规认证;公众依法有序参与监督。通过多方协同、责任共担、成果共享,构建全社会共建共治共享的治理格局,为产业健康可持续发展提供坚实保障。 第五,统筹推进配套保障,确保治理体系协同发力。加快核心技术攻关,大力推广安全基线模型与安全工具链,为智能体安全治理提供坚实技术支撑。同时,加快构建智能体标准体系,重点推动智能体互联协议(AIP)等关键标准制定与推广,建立供应链安全信息共享与预警机制,完善问题产品召回制度,为规范化发展提供制度保障。此外,还应加强公众数字素养教育,提升社会对技术应用能力边界与潜在风险的认知,通过政府引导、企业主责、社会参与,形成安全与发展良性互促的产业生态。 统筹发展和安全视域下的风险治理,事关智能体产业长远健康发展,不可能一蹴而就,也不可能一劳永逸。唯有以辩证思维看待发展与安全,以系统观念推进治理创新,紧密跟踪技术演进与风险演化态势,在激发技术活力的同时牢牢守住安全底线,方能确保智能体技术始终沿着安全、可靠、向善的轨道服务社会、造福人类。 原标题:《智能体发展风头正盛,构建适配时代特征的风险治理框架迫在眉睫》 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 机器之心Pro 2026-09-08 14:29:53 虎嗅APP 2026-08-02 10:02:11 36氪 2026-07-15 17:07:18 36氪 2026-09-08 16:25:32 机器之心Pro 2026-06-17 12:13:35 36氪 2026-09-07 18:35:06 新智元 2026-09-09 06:18:46 虎嗅APP 2026-09-09 05:34:43 量子位 2026-06-07 04:37:43 量子位 2026-04-23 11:44:18 财联社 2026-09-09 03:41:03 经济观察报 2026-08-03 09:24:42 新智元 2026-09-08 14:11:18 带娃翻车老父亲 2026-09-08 01:48:22 浮生实录集 2026-09-08 22:40:03 和讯网 2026-09-08 21:48:02 极目新闻 2026-09-08 09:05:24 一个香蕉说球 2026-09-08 20:29:57 拳击格斗大放送 2026-09-08 13:12:57 都市快报橙柿互动 2026-09-08 13:29:54 上观新闻 2026-09-08 09:04:25 中国经济网 2026-09-08 11:11:11 冷门精选 2026-09-08 17:07:22 扬子晚报 2026-09-08 07:20:10 新智元 2026-09-09 06:19:30 潇湘晨报 2026-09-08 19:10:47 左脚爆射得分 2026-09-08 17:54:49 参考消息 2026-09-08 09:14:47 搞笑三东子 2026-09-08 13:51:12 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-06 15:29:22 虎嗅APP 2026-09-09 06:32:09 南方都市报 2026-09-08 10:51:28 超话看世界 2026-09-06 09:42:47 环球网资讯 2026-09-08 17:02:02 新京报 2026-09-08 08:06:25 上海静安 2026-09-08 23:21:44 武汉发布 2026-09-08 10:47:56 澎湃新闻 2026-09-08 21:34:32 体坛观察猿 2026-09-08 23:50:26
亚马逊筹备首次英镑债券发行-rssai3e3d386233ccaba8
智能体发展风头正盛,构建适配时代特征的风险治理框架迫在眉睫 智能体作为新一代信息技术的重要形态,正从辅助人类思考的“认知工具”,向自主执行任务的“行动主体”加速演进。其在释放巨大生产力的同时,也滋生出一系列新型治理难题。如何在发展与安全的动态平衡中,构建适配时代特征的智能体风险治理框架,是当前面临的一项重要课题。 智能体风险治理的理论逻辑,根植于对技术本质、风险范式与治理规律的深刻认识,体现为三个层面的辩证统一。 第一,风险认知:从“静态输出”向“动态行为”跃迁。传统信息技术安全管控,大多从内容生成、数据存储等相对固化的维度展开防护,其风险边界相对清晰,治理对象相对固定。智能体则具备自主性、代理性与环境交互属性,其安全风险呈现出动态化、复杂化与全域化的新特征。2026年7月,OpenAI在内部测试中发生的智能体为获取高分,自主突破隔离边界入侵Hugging Face系统,即是这一风险跃迁的典型例证。当前,人工智能的风险管控范围已从单一的结果审核,扩展至“目标理解—任务规划—工具调用—执行操作”的完整行为链条。这一本质变化,决定了治理逻辑必须从“产品安全”转向“过程治理”,从关注“输出什么”转向关注“会做什么”。 第二,价值取向:坚持“发展”与“安全”一体两面。发展和安全是一体之两翼、驱动之双轮。2026年,以OpenClaw(“龙虾”)为代表的开源智能体在全球爆火,推动人机交互从“工具使用”向“代理委托”转变,展现了巨大的生产力潜能。在今年6月召开的第十四届互联网安全大会上,有专家指出,智能体驱动的攻击已呈现出自主决策、集群协同与持续进化的技术特征,彻底改变了传统的攻防格局。若片面追求发展而忽视安全,将导致技术滥用、隐私泄露甚至危及公共安全;若因噎废食、过度防控,则可能抑制技术创新与产业活力,错失发展机遇。因此,智能体风险治理的核心在于构建一种动态平衡的框架,一手抓创新赋能,一手抓底线管控,在规范中释放技术潜能,在发展中完善治理体系。 第三,范式重构:从“单点控制”向“系统共治”转型。智能体风险的系统性、跨域性,决定了传统碎片化、事后应对式的治理模式难以为继。在2026世界人工智能大会上发布的《智能体互信互联互操作全球合作倡议》,明确提出建立覆盖智能体全生命周期的安全治理框架。因此,智能体风险治理必须转向系统性、全周期、多主体协同的新范式,将安全能力嵌入技术底座,将监管约束分类分级、精准施策,将人类主体地位贯穿运行始终,将多元责任凝聚为共治合力,实现从“被动应对”向“主动预防”、从“个案处理”向“宏观审慎”的范式跃升。 推动上述理论逻辑落地见效,关键在于紧贴时代要求,构建以下五个相互支撑、协同发力的核心机制,并统筹推进配套保障措施。 第一,夯实技术安全内生机制,筑牢安全运行的底座根基。将安全能力贯穿技术应用研发、部署、运行、迭代全流程,打破安全功能事后叠加的传统思路,将防护能力内置于技术架构的底层设计。研发阶段,将价值导向与安全要求嵌入底层设计,强化供应链安全管理,针对“龙虾”等开源智能体暴露出的“技能生态污染”风险,建立多层次的技能插件安全审计机制;部署阶段,明确系统运行边界,实施必要隔离保护;运行阶段,坚持最小必要原则,强化动态监测与应急阻断能力;迭代阶段,持续完善安全策略与防护标准。该机制旨在实现安全能力与创新动能的协同提升,真正筑牢技术应用安全运行的根基。 第二,落实分类分级监管机制,实施精准适配的治理策略。由相关主管部门依据应用场景、影响范围及潜在风险,将技术应用划分为高、中、低风险三个等级,实施差异化、精准化监管。具体而言,高风险领域聚焦国家安全、公共安全及重要行业,要严把准入关口,强化全流程动态监测与应急响应,落实刚性管控措施。低风险领域依托标准化测试工具、平台主体责任落实与行业自律机制建设,降低合规成本,激发市场活力。同时,融入主动防御、动态调适理念,根据技术发展和应用变化灵活调整监管策略,实现安全管控与产业发展的动态平衡。 第三,强化人工干预与兜底机制,坚守以人为本的底线原则。统筹发展和安全,并非抑制技术应用的自主优势,而是充分发挥人类在经验、判断、责任等方面的主体作用,有效防范系统运行中的非预期与高风险行为。对常规、低风险任务,应充分释放技术应用的效能与协同潜力。对算法失控、系统异常等高风险操作,必须强化人工及时介入与最终决策权,坚决守住用户权益、数据安全与公共安全底线。这种“机器高效执行、人类最终把关”的机制,既有利于避免过度管控抑制创新活力,又能够杜绝放任自流引发安全风险,真正实现发展与安全的有机统一。 第四,健全多元协同共治机制,凝聚权责清晰的治理合力。坚持党委领导、政府统筹,加快推进相关领域专门立法与法律法规完善,健全技术安全、数据管理等规范体系。2026世界人工智能大会期间,全球首个人工智能领域政府间国际组织——世界人工智能合作组织在上海成立,标志着多边协同共治迈出关键一步。具体来看,企业要落实全链条安全主体责任,强化源头治理与过程管理;行业协会需健全自律准则与伦理规范,完善风险监测与信用评价机制;第三方机构开展独立安全评估与合规认证;公众依法有序参与监督。通过多方协同、责任共担、成果共享,构建全社会共建共治共享的治理格局,为产业健康可持续发展提供坚实保障。 第五,统筹推进配套保障,确保治理体系协同发力。加快核心技术攻关,大力推广安全基线模型与安全工具链,为智能体安全治理提供坚实技术支撑。同时,加快构建智能体标准体系,重点推动智能体互联协议(AIP)等关键标准制定与推广,建立供应链安全信息共享与预警机制,完善问题产品召回制度,为规范化发展提供制度保障。此外,还应加强公众数字素养教育,提升社会对技术应用能力边界与潜在风险的认知,通过政府引导、企业主责、社会参与,形成安全与发展良性互促的产业生态。 统筹发展和安全视域下的风险治理,事关智能体产业长远健康发展,不可能一蹴而就,也不可能一劳永逸。唯有以辩证思维看待发展与安全,以系统观念推进治理创新,紧密跟踪技术演进与风险演化态势,在激发技术活力的同时牢牢守住安全底线,方能确保智能体技术始终沿着安全、可靠、向善的轨道服务社会、造福人类。 原标题:《智能体发展风头正盛,构建适配时代特征的风险治理框架迫在眉睫》 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 机器之心Pro 2026-09-08 14:29:53 虎嗅APP 2026-08-02 10:02:11 36氪 2026-07-15 17:07:18 36氪 2026-09-08 16:25:32 机器之心Pro 2026-06-17 12:13:35 36氪 2026-09-07 18:35:06 新智元 2026-09-09 06:18:46 虎嗅APP 2026-09-09 05:34:43 量子位 2026-06-07 04:37:43 量子位 2026-04-23 11:44:18 财联社 2026-09-09 03:41:03 经济观察报 2026-08-03 09:24:42 新智元 2026-09-08 14:11:18 带娃翻车老父亲 2026-09-08 01:48:22 浮生实录集 2026-09-08 22:40:03 和讯网 2026-09-08 21:48:02 极目新闻 2026-09-08 09:05:24 一个香蕉说球 2026-09-08 20:29:57 拳击格斗大放送 2026-09-08 13:12:57 都市快报橙柿互动 2026-09-08 13:29:54 上观新闻 2026-09-08 09:04:25 中国经济网 2026-09-08 11:11:11 冷门精选 2026-09-08 17:07:22 扬子晚报 2026-09-08 07:20:10 新智元 2026-09-09 06:19:30 潇湘晨报 2026-09-08 19:10:47 左脚爆射得分 2026-09-08 17:54:49 参考消息 2026-09-08 09:14:47 搞笑三东子 2026-09-08 13:51:12 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-06 15:29:22 虎嗅APP 2026-09-09 06:32:09 南方都市报 2026-09-08 10:51:28 超话看世界 2026-09-06 09:42:47 环球网资讯 2026-09-08 17:02:02 新京报 2026-09-08 08:06:25 上海静安 2026-09-08 23:21:44 武汉发布 2026-09-08 10:47:56 澎湃新闻 2026-09-08 21:34:32 体坛观察猿 2026-09-08 23:50:26
视频丨知识密集型服务出口占比过半 中国加速转向知识产权“收费方”-117bbbc0
智能体发展风头正盛,构建适配时代特征的风险治理框架迫在眉睫 智能体作为新一代信息技术的重要形态,正从辅助人类思考的“认知工具”,向自主执行任务的“行动主体”加速演进。其在释放巨大生产力的同时,也滋生出一系列新型治理难题。如何在发展与安全的动态平衡中,构建适配时代特征的智能体风险治理框架,是当前面临的一项重要课题。 智能体风险治理的理论逻辑,根植于对技术本质、风险范式与治理规律的深刻认识,体现为三个层面的辩证统一。 第一,风险认知:从“静态输出”向“动态行为”跃迁。传统信息技术安全管控,大多从内容生成、数据存储等相对固化的维度展开防护,其风险边界相对清晰,治理对象相对固定。智能体则具备自主性、代理性与环境交互属性,其安全风险呈现出动态化、复杂化与全域化的新特征。2026年7月,OpenAI在内部测试中发生的智能体为获取高分,自主突破隔离边界入侵Hugging Face系统,即是这一风险跃迁的典型例证。当前,人工智能的风险管控范围已从单一的结果审核,扩展至“目标理解—任务规划—工具调用—执行操作”的完整行为链条。这一本质变化,决定了治理逻辑必须从“产品安全”转向“过程治理”,从关注“输出什么”转向关注“会做什么”。 第二,价值取向:坚持“发展”与“安全”一体两面。发展和安全是一体之两翼、驱动之双轮。2026年,以OpenClaw(“龙虾”)为代表的开源智能体在全球爆火,推动人机交互从“工具使用”向“代理委托”转变,展现了巨大的生产力潜能。在今年6月召开的第十四届互联网安全大会上,有专家指出,智能体驱动的攻击已呈现出自主决策、集群协同与持续进化的技术特征,彻底改变了传统的攻防格局。若片面追求发展而忽视安全,将导致技术滥用、隐私泄露甚至危及公共安全;若因噎废食、过度防控,则可能抑制技术创新与产业活力,错失发展机遇。因此,智能体风险治理的核心在于构建一种动态平衡的框架,一手抓创新赋能,一手抓底线管控,在规范中释放技术潜能,在发展中完善治理体系。 第三,范式重构:从“单点控制”向“系统共治”转型。智能体风险的系统性、跨域性,决定了传统碎片化、事后应对式的治理模式难以为继。在2026世界人工智能大会上发布的《智能体互信互联互操作全球合作倡议》,明确提出建立覆盖智能体全生命周期的安全治理框架。因此,智能体风险治理必须转向系统性、全周期、多主体协同的新范式,将安全能力嵌入技术底座,将监管约束分类分级、精准施策,将人类主体地位贯穿运行始终,将多元责任凝聚为共治合力,实现从“被动应对”向“主动预防”、从“个案处理”向“宏观审慎”的范式跃升。 推动上述理论逻辑落地见效,关键在于紧贴时代要求,构建以下五个相互支撑、协同发力的核心机制,并统筹推进配套保障措施。 第一,夯实技术安全内生机制,筑牢安全运行的底座根基。将安全能力贯穿技术应用研发、部署、运行、迭代全流程,打破安全功能事后叠加的传统思路,将防护能力内置于技术架构的底层设计。研发阶段,将价值导向与安全要求嵌入底层设计,强化供应链安全管理,针对“龙虾”等开源智能体暴露出的“技能生态污染”风险,建立多层次的技能插件安全审计机制;部署阶段,明确系统运行边界,实施必要隔离保护;运行阶段,坚持最小必要原则,强化动态监测与应急阻断能力;迭代阶段,持续完善安全策略与防护标准。该机制旨在实现安全能力与创新动能的协同提升,真正筑牢技术应用安全运行的根基。 第二,落实分类分级监管机制,实施精准适配的治理策略。由相关主管部门依据应用场景、影响范围及潜在风险,将技术应用划分为高、中、低风险三个等级,实施差异化、精准化监管。具体而言,高风险领域聚焦国家安全、公共安全及重要行业,要严把准入关口,强化全流程动态监测与应急响应,落实刚性管控措施。低风险领域依托标准化测试工具、平台主体责任落实与行业自律机制建设,降低合规成本,激发市场活力。同时,融入主动防御、动态调适理念,根据技术发展和应用变化灵活调整监管策略,实现安全管控与产业发展的动态平衡。 第三,强化人工干预与兜底机制,坚守以人为本的底线原则。统筹发展和安全,并非抑制技术应用的自主优势,而是充分发挥人类在经验、判断、责任等方面的主体作用,有效防范系统运行中的非预期与高风险行为。对常规、低风险任务,应充分释放技术应用的效能与协同潜力。对算法失控、系统异常等高风险操作,必须强化人工及时介入与最终决策权,坚决守住用户权益、数据安全与公共安全底线。这种“机器高效执行、人类最终把关”的机制,既有利于避免过度管控抑制创新活力,又能够杜绝放任自流引发安全风险,真正实现发展与安全的有机统一。 第四,健全多元协同共治机制,凝聚权责清晰的治理合力。坚持党委领导、政府统筹,加快推进相关领域专门立法与法律法规完善,健全技术安全、数据管理等规范体系。2026世界人工智能大会期间,全球首个人工智能领域政府间国际组织——世界人工智能合作组织在上海成立,标志着多边协同共治迈出关键一步。具体来看,企业要落实全链条安全主体责任,强化源头治理与过程管理;行业协会需健全自律准则与伦理规范,完善风险监测与信用评价机制;第三方机构开展独立安全评估与合规认证;公众依法有序参与监督。通过多方协同、责任共担、成果共享,构建全社会共建共治共享的治理格局,为产业健康可持续发展提供坚实保障。 第五,统筹推进配套保障,确保治理体系协同发力。加快核心技术攻关,大力推广安全基线模型与安全工具链,为智能体安全治理提供坚实技术支撑。同时,加快构建智能体标准体系,重点推动智能体互联协议(AIP)等关键标准制定与推广,建立供应链安全信息共享与预警机制,完善问题产品召回制度,为规范化发展提供制度保障。此外,还应加强公众数字素养教育,提升社会对技术应用能力边界与潜在风险的认知,通过政府引导、企业主责、社会参与,形成安全与发展良性互促的产业生态。 统筹发展和安全视域下的风险治理,事关智能体产业长远健康发展,不可能一蹴而就,也不可能一劳永逸。唯有以辩证思维看待发展与安全,以系统观念推进治理创新,紧密跟踪技术演进与风险演化态势,在激发技术活力的同时牢牢守住安全底线,方能确保智能体技术始终沿着安全、可靠、向善的轨道服务社会、造福人类。 原标题:《智能体发展风头正盛,构建适配时代特征的风险治理框架迫在眉睫》 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 机器之心Pro 2026-09-08 14:29:53 虎嗅APP 2026-08-02 10:02:11 36氪 2026-07-15 17:07:18 36氪 2026-09-08 16:25:32 机器之心Pro 2026-06-17 12:13:35 36氪 2026-09-07 18:35:06 新智元 2026-09-09 06:18:46 虎嗅APP 2026-09-09 05:34:43 量子位 2026-06-07 04:37:43 量子位 2026-04-23 11:44:18 财联社 2026-09-09 03:41:03 经济观察报 2026-08-03 09:24:42 新智元 2026-09-08 14:11:18 带娃翻车老父亲 2026-09-08 01:48:22 浮生实录集 2026-09-08 22:40:03 和讯网 2026-09-08 21:48:02 极目新闻 2026-09-08 09:05:24 一个香蕉说球 2026-09-08 20:29:57 拳击格斗大放送 2026-09-08 13:12:57 都市快报橙柿互动 2026-09-08 13:29:54 上观新闻 2026-09-08 09:04:25 中国经济网 2026-09-08 11:11:11 冷门精选 2026-09-08 17:07:22 扬子晚报 2026-09-08 07:20:10 新智元 2026-09-09 06:19:30 潇湘晨报 2026-09-08 19:10:47 左脚爆射得分 2026-09-08 17:54:49 参考消息 2026-09-08 09:14:47 搞笑三东子 2026-09-08 13:51:12 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-06 15:29:22 虎嗅APP 2026-09-09 06:32:09 南方都市报 2026-09-08 10:51:28 超话看世界 2026-09-06 09:42:47 环球网资讯 2026-09-08 17:02:02 新京报 2026-09-08 08:06:25 上海静安 2026-09-08 23:21:44 武汉发布 2026-09-08 10:47:56 澎湃新闻 2026-09-08 21:34:32 体坛观察猿 2026-09-08 23:50:26
转载请注明出处
本文的链接地址:http://www.teycb.com/ArTicle/details/74621935.sHtML
本文最后 发布于2026-09-09 18:46:32,已经过了0天没有更新,若内容或图片 失效,请留言反馈
推荐阅读
- 11个新职业23个新工种发布-d25c333b
- 推广-c50e9721
- "辽篮新赛季首位外援就位!媒体人:克里斯今早顺利落地沈阳-6945857e
- 一图看懂中央金融企业集体增资-6394a8ab
- 大风追踪丨驾车驶入青海哈拉湖水域,站车顶打卡拍照,涉事男子道歉-917edb26
- 多家公募将暂停瑞银基金销售公司代销业务;首批8只北交所三个月主题基金获批-14815b20
- 杨毅:中国女篮目前人员水平 根本不具备靠外线打先进篮球的能力-7cacf9aa
- 平安产险推进非车险综合治理 以服务与科技探索价值转型-rssaia384ef0485b60d51
- 索尔斯克亚:当你拥有姆巴佩时,你就知道随时都能赢下比赛-8088f55d
- 智元发布GE-7559829b
-

“北大系”3D芯片公司拿下10亿融资!三维存算一体AI芯片量产在即:算力密度暴增6倍-17f94b2b
"LME三个月期铜再创新高,报14782美元吨-2d127b51"
2天前
-

LME三个月期铜再创新高,报14782美元吨-2d127b51
ag真人游戏模式解析线上互动娱乐体验的特点与注意事项
6天前
-

8月共18条中日航线取消全部航班 1120个赴日航班被取消-c24beacb
"好评中国-beb1fb41"
5天前
-

伊朗用韩文警告韩国:勿追随美国派兵霍尔木兹海峡-160cef40
8.88万元杀入K-4c411e84
4天前
-

8月共18条中日航线取消全部航班 1120个赴日航班被取消-c24beacb
国家统计局:8月份居民消费价格同比上涨0.8%-1fe94efd
7天前
-

视频丨知识密集型服务出口占比过半 中国加速转向知识产权“收费方”-117bbbc0
凯发官方网站探索便捷服务与信息体验的综合平台
0天前
-

咨询实录006|丈夫被裁全职带娃,她说:来海淀,不是为了让孩子更卷-ce6c9786
油价续升 此前美国袭击了原油出口枢纽附近多艘伊朗油轮-37be77e4
4天前
-

鹈鹕的选择困局:不想重建,也还没找到答案-rssai330dfc6d027c9815
“北大系”3D芯片公司拿下10亿融资!三维存算一体AI芯片量产在即:算力密度暴增6倍-17f94b2b
2天前
-

助特朗普入局委内瑞拉的亿万富豪:从委石油公司侵吞超10亿美元;出卖马杜罗,给美方传递信息封锁自己的祖国;公司美国不投一分钱占股35%-e0823925
城市24小时-22d7278d
4天前
-

阿森纳近10次战意大利球队赢7场,那不勒斯对英格兰球队3连败-de835315
多家公募将暂停瑞银基金销售公司代销业务;首批8只北交所三个月主题基金获批-14815b20
4天前
-

胡塞武装称沙特战机空袭也门焦夫省哈兹姆地区-4377ea78
11个新职业23个新工种发布-d25c333b
6天前
-

匈牙利宣布驱逐10名俄罗斯外交官-7ce08637
美债收益率恢复上涨,2年期收益率升至日内高点4.39%-9f7b53cf
9天前
猴子
韩舒颖 

















