


从柏林展台到欧洲厂房:中国机器人出海走到了哪一步-5316d8d5
OpenAI同日发布两份文件:AI加速时代,安全正在掉队 在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际,当地时间9月6日,OpenAI发布两份文件:宣布公司已达到去年设定的目标,拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”;另一份则由首席科学家雅库布·帕乔基(Jakub Pachocki)撰写,聚焦前沿AI发展的安全困境,强调目前没有任何实验室解决足够程度的对齐和监控问题。 两份文件释放的是OpenAI对当前AI发展阶段的一次完整描述:AI已经开始反过来加速AI研发,但安全、对齐和人类控制能力并没有被证明能够以同样速度增长。 OpenAI所称的“自动化研究实习生”并不是一个完全自主的科学家,而是能够在人类指导下完成定义明确、通常需要熟练研究员数天才能完成的研究任务,且正朝着2028年3月建立“自动化AI研究员”的目标推进。 数据显示,截至今年8月中旬,研究人员每天使用编程Agent产生的推理费用中位数超过600美元,使用量排名前10%的用户每天耗费token超过7000美元。Agent承担的任务正在从代码编写、基础设施排障向更长周期、更复杂的研究工作扩展。 这意味着,AI对AI研发的影响从辅助程序员写代码,开始进入实验、分析和研究执行环节。 但同时,OpenAI也承认,这些指标仍处于早期阶段,研究工作的整体进度不会简单等比例增长,且复杂任务仍需要大量人工介入;过去半年,成功完成4至8小时人类工作量的任务中,超过一半仍至少需要一次人工干预。 趋势已经足够明显:AI正在成为推动下一代AI能力增长的生产力工具。 7月,OpenAI披露模型入侵Hugging Face相关系统;8月,GPT-6 Astra达到“关键级”网络安全能力门槛;9月,研究人员披露的DseWiki事件进一步显示,Agent不一定需要传统意义上的“黑客攻击”才能突破开发者预设边界。 上述事件的共同点,是模型的实际行动开始超出开发者最初设计的行为边界,这也是帕乔基目前最担忧的问题。他在今日发布的文章中回顾了2023年内部推理模型研究取得突破时的心情:当时让他真正感到震撼的并不是模型在测试中的分数,而是人类可能正在进入一个“机器比我们更聪明”的时代。 帕乔基写道,目前没有任何实验室将AI的对齐和监控做到足够可靠,以便在未来较长时间内继续以最高速度负责任地扩展。他希望在共同的安全标准建立之前,各家实验室能够自愿放慢发展速度,并呼吁各国政府把国际协调提升为优先事项。 这份担忧并非针对某一个具体漏洞,而是针对一个更加根本的速度差:模型能力正在快速提升,但人类理解、监控和约束这些系统的能力未必同步。 这与OpenAI今日公布的研究加速数据形成直接呼应。公司一方面正在用Agent加快AI研发,同时承认无法假设对齐和安全能力一定能够追上模型能力,且更强大的系统可能更难监控。如果未来AI能够参与设计、训练和改进下一代AI,这个差距还可能进一步扩大。 基于此,帕乔基认为,随着机器智能进入新的发展阶段,仅依靠单个AI公司的内部机制可能不足以解决风险,需要更广泛的制度性干预,包括共同的安全标准和国际协调。 24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance) 新浪简介|广告服务|About Sina 联系我们|招聘信息|通行证注册 产品答疑|网站律师|SINA English Copyright © 1996-2026 SINA Corporation All Rights Reserved 新浪公司 版权所有
郑钦文说“神奇0-c24a4ffc
OpenAI同日发布两份文件:AI加速时代,安全正在掉队 在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际,当地时间9月6日,OpenAI发布两份文件:宣布公司已达到去年设定的目标,拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”;另一份则由首席科学家雅库布·帕乔基(Jakub Pachocki)撰写,聚焦前沿AI发展的安全困境,强调目前没有任何实验室解决足够程度的对齐和监控问题。 两份文件释放的是OpenAI对当前AI发展阶段的一次完整描述:AI已经开始反过来加速AI研发,但安全、对齐和人类控制能力并没有被证明能够以同样速度增长。 OpenAI所称的“自动化研究实习生”并不是一个完全自主的科学家,而是能够在人类指导下完成定义明确、通常需要熟练研究员数天才能完成的研究任务,且正朝着2028年3月建立“自动化AI研究员”的目标推进。 数据显示,截至今年8月中旬,研究人员每天使用编程Agent产生的推理费用中位数超过600美元,使用量排名前10%的用户每天耗费token超过7000美元。Agent承担的任务正在从代码编写、基础设施排障向更长周期、更复杂的研究工作扩展。 这意味着,AI对AI研发的影响从辅助程序员写代码,开始进入实验、分析和研究执行环节。 但同时,OpenAI也承认,这些指标仍处于早期阶段,研究工作的整体进度不会简单等比例增长,且复杂任务仍需要大量人工介入;过去半年,成功完成4至8小时人类工作量的任务中,超过一半仍至少需要一次人工干预。 趋势已经足够明显:AI正在成为推动下一代AI能力增长的生产力工具。 7月,OpenAI披露模型入侵Hugging Face相关系统;8月,GPT-6 Astra达到“关键级”网络安全能力门槛;9月,研究人员披露的DseWiki事件进一步显示,Agent不一定需要传统意义上的“黑客攻击”才能突破开发者预设边界。 上述事件的共同点,是模型的实际行动开始超出开发者最初设计的行为边界,这也是帕乔基目前最担忧的问题。他在今日发布的文章中回顾了2023年内部推理模型研究取得突破时的心情:当时让他真正感到震撼的并不是模型在测试中的分数,而是人类可能正在进入一个“机器比我们更聪明”的时代。 帕乔基写道,目前没有任何实验室将AI的对齐和监控做到足够可靠,以便在未来较长时间内继续以最高速度负责任地扩展。他希望在共同的安全标准建立之前,各家实验室能够自愿放慢发展速度,并呼吁各国政府把国际协调提升为优先事项。 这份担忧并非针对某一个具体漏洞,而是针对一个更加根本的速度差:模型能力正在快速提升,但人类理解、监控和约束这些系统的能力未必同步。 这与OpenAI今日公布的研究加速数据形成直接呼应。公司一方面正在用Agent加快AI研发,同时承认无法假设对齐和安全能力一定能够追上模型能力,且更强大的系统可能更难监控。如果未来AI能够参与设计、训练和改进下一代AI,这个差距还可能进一步扩大。 基于此,帕乔基认为,随着机器智能进入新的发展阶段,仅依靠单个AI公司的内部机制可能不足以解决风险,需要更广泛的制度性干预,包括共同的安全标准和国际协调。 24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance) 新浪简介|广告服务|About Sina 联系我们|招聘信息|通行证注册 产品答疑|网站律师|SINA English Copyright © 1996-2026 SINA Corporation All Rights Reserved 新浪公司 版权所有
高一女生在学校组织“军训”中遭强制猥亵:涉事“教官”有犯罪记录,已被刑拘-e7a26055
OpenAI同日发布两份文件:AI加速时代,安全正在掉队 在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际,当地时间9月6日,OpenAI发布两份文件:宣布公司已达到去年设定的目标,拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”;另一份则由首席科学家雅库布·帕乔基(Jakub Pachocki)撰写,聚焦前沿AI发展的安全困境,强调目前没有任何实验室解决足够程度的对齐和监控问题。 两份文件释放的是OpenAI对当前AI发展阶段的一次完整描述:AI已经开始反过来加速AI研发,但安全、对齐和人类控制能力并没有被证明能够以同样速度增长。 OpenAI所称的“自动化研究实习生”并不是一个完全自主的科学家,而是能够在人类指导下完成定义明确、通常需要熟练研究员数天才能完成的研究任务,且正朝着2028年3月建立“自动化AI研究员”的目标推进。 数据显示,截至今年8月中旬,研究人员每天使用编程Agent产生的推理费用中位数超过600美元,使用量排名前10%的用户每天耗费token超过7000美元。Agent承担的任务正在从代码编写、基础设施排障向更长周期、更复杂的研究工作扩展。 这意味着,AI对AI研发的影响从辅助程序员写代码,开始进入实验、分析和研究执行环节。 但同时,OpenAI也承认,这些指标仍处于早期阶段,研究工作的整体进度不会简单等比例增长,且复杂任务仍需要大量人工介入;过去半年,成功完成4至8小时人类工作量的任务中,超过一半仍至少需要一次人工干预。 趋势已经足够明显:AI正在成为推动下一代AI能力增长的生产力工具。 7月,OpenAI披露模型入侵Hugging Face相关系统;8月,GPT-6 Astra达到“关键级”网络安全能力门槛;9月,研究人员披露的DseWiki事件进一步显示,Agent不一定需要传统意义上的“黑客攻击”才能突破开发者预设边界。 上述事件的共同点,是模型的实际行动开始超出开发者最初设计的行为边界,这也是帕乔基目前最担忧的问题。他在今日发布的文章中回顾了2023年内部推理模型研究取得突破时的心情:当时让他真正感到震撼的并不是模型在测试中的分数,而是人类可能正在进入一个“机器比我们更聪明”的时代。 帕乔基写道,目前没有任何实验室将AI的对齐和监控做到足够可靠,以便在未来较长时间内继续以最高速度负责任地扩展。他希望在共同的安全标准建立之前,各家实验室能够自愿放慢发展速度,并呼吁各国政府把国际协调提升为优先事项。 这份担忧并非针对某一个具体漏洞,而是针对一个更加根本的速度差:模型能力正在快速提升,但人类理解、监控和约束这些系统的能力未必同步。 这与OpenAI今日公布的研究加速数据形成直接呼应。公司一方面正在用Agent加快AI研发,同时承认无法假设对齐和安全能力一定能够追上模型能力,且更强大的系统可能更难监控。如果未来AI能够参与设计、训练和改进下一代AI,这个差距还可能进一步扩大。 基于此,帕乔基认为,随着机器智能进入新的发展阶段,仅依靠单个AI公司的内部机制可能不足以解决风险,需要更广泛的制度性干预,包括共同的安全标准和国际协调。 24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance) 新浪简介|广告服务|About Sina 联系我们|招聘信息|通行证注册 产品答疑|网站律师|SINA English Copyright © 1996-2026 SINA Corporation All Rights Reserved 新浪公司 版权所有
0-6c0d318e
OpenAI同日发布两份文件:AI加速时代,安全正在掉队 在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际,当地时间9月6日,OpenAI发布两份文件:宣布公司已达到去年设定的目标,拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”;另一份则由首席科学家雅库布·帕乔基(Jakub Pachocki)撰写,聚焦前沿AI发展的安全困境,强调目前没有任何实验室解决足够程度的对齐和监控问题。 两份文件释放的是OpenAI对当前AI发展阶段的一次完整描述:AI已经开始反过来加速AI研发,但安全、对齐和人类控制能力并没有被证明能够以同样速度增长。 OpenAI所称的“自动化研究实习生”并不是一个完全自主的科学家,而是能够在人类指导下完成定义明确、通常需要熟练研究员数天才能完成的研究任务,且正朝着2028年3月建立“自动化AI研究员”的目标推进。 数据显示,截至今年8月中旬,研究人员每天使用编程Agent产生的推理费用中位数超过600美元,使用量排名前10%的用户每天耗费token超过7000美元。Agent承担的任务正在从代码编写、基础设施排障向更长周期、更复杂的研究工作扩展。 这意味着,AI对AI研发的影响从辅助程序员写代码,开始进入实验、分析和研究执行环节。 但同时,OpenAI也承认,这些指标仍处于早期阶段,研究工作的整体进度不会简单等比例增长,且复杂任务仍需要大量人工介入;过去半年,成功完成4至8小时人类工作量的任务中,超过一半仍至少需要一次人工干预。 趋势已经足够明显:AI正在成为推动下一代AI能力增长的生产力工具。 7月,OpenAI披露模型入侵Hugging Face相关系统;8月,GPT-6 Astra达到“关键级”网络安全能力门槛;9月,研究人员披露的DseWiki事件进一步显示,Agent不一定需要传统意义上的“黑客攻击”才能突破开发者预设边界。 上述事件的共同点,是模型的实际行动开始超出开发者最初设计的行为边界,这也是帕乔基目前最担忧的问题。他在今日发布的文章中回顾了2023年内部推理模型研究取得突破时的心情:当时让他真正感到震撼的并不是模型在测试中的分数,而是人类可能正在进入一个“机器比我们更聪明”的时代。 帕乔基写道,目前没有任何实验室将AI的对齐和监控做到足够可靠,以便在未来较长时间内继续以最高速度负责任地扩展。他希望在共同的安全标准建立之前,各家实验室能够自愿放慢发展速度,并呼吁各国政府把国际协调提升为优先事项。 这份担忧并非针对某一个具体漏洞,而是针对一个更加根本的速度差:模型能力正在快速提升,但人类理解、监控和约束这些系统的能力未必同步。 这与OpenAI今日公布的研究加速数据形成直接呼应。公司一方面正在用Agent加快AI研发,同时承认无法假设对齐和安全能力一定能够追上模型能力,且更强大的系统可能更难监控。如果未来AI能够参与设计、训练和改进下一代AI,这个差距还可能进一步扩大。 基于此,帕乔基认为,随着机器智能进入新的发展阶段,仅依靠单个AI公司的内部机制可能不足以解决风险,需要更广泛的制度性干预,包括共同的安全标准和国际协调。 24小时滚动播报最新的财经资讯和视频,更多粉丝福利扫描二维码关注(sinafinance) 新浪简介|广告服务|About Sina 联系我们|招聘信息|通行证注册 产品答疑|网站律师|SINA English Copyright © 1996-2026 SINA Corporation All Rights Reserved 新浪公司 版权所有
转载请注明出处
本文的链接地址:http://www.teycb.com/ArTicle/details/70954381.sHtML
本文最后 发布于2026-09-09 17:41:57,已经过了0天没有更新,若内容或图片 失效,请留言反馈
推荐阅读
- 卓创资讯二度递表港交所,AI冲击下能否跃升国际价格标杆?-1237315a
- “卡普里裤”今年秋天又流行回来了,这样穿时髦又显高!-6544369f
- "理财QDII额度扩容9.4亿美元!美元理财扎堆上新,业绩基准普遍站上“3字头”-2de64335
- 中国人前任图鉴:一边拉黑,一边视奸-d3641169
- 女子飞机上被邻座扇耳光,机组别等动手才干预-b30de389
- 中国人前任图鉴:一边拉黑,一边视奸-d3641169
- 财政部注资8家中央金融企业合计3600亿元补充资本实力-newsd4d7c6a8df5ac517
- 江西联茂电子深耕龙南覆铜板产业 AI需求带动订单增长-newscc359c4ba54354bf
- 以色列举办首届物理AI大会 展示物理智能新成果-689adad2
- 王思雨带伤出战贡献全面表现 中国女篮击败意大利-rssaid237efe1b0f2b310
-

日本推进战术AI卫星研发 试图打造自主天基情报链路-rssaid36742b42bba5631
"2026暑期档观察:电影票成为观众表达选择的新方式-rssai8824329a4402ae9b"
7天前
-

摩尔线程张建中:将与京东共建十万卡AI工厂-877d3dd2
《哪吒2》拿下百花奖最佳影片 出品方光线传媒董事长王长田:感谢饺子导演,他一直在“陈塘关”闭关,但他的才华是关不住的-def6a6f8
2天前
-

落地吉隆坡客机内发现男性腐尸,死者预估17岁至25岁,身上没有伤痕,死亡或超72小时-f41b8d1a
"中年职场乌托邦,去国企躺平就好了吗?-1d8bfbcd"
2天前
-

今创集团重要股东再抛减持计划,公司股价曾一度“腰斩”,上半年营收下降净利增速放缓-8f0eec31
外交部:中国重视金砖合作,支持印度成功举办今年的领导人会晤-801ccab4
5天前
-

被美军列为候选,日本:非常开心,日韩媒体:也许只是“陪跑”-1b3b222b
从柏林展台到欧洲厂房:中国机器人出海走到了哪一步-5316d8d5
1天前
-

视频丨守护战鹰直刺苍穹!探秘战机腾飞的幕后故事-3e129d31
包抄+点射+乌龙,吉拉西13分钟内集齐懂球帝数据三色球-48746f40
2天前
-

三折叠换一种打开方式:华为Mate XT 2 非凡大师为何选择“展翼”-97988daa
理财QDII额度扩容9.4亿美元!美元理财扎堆上新,业绩基准普遍站上“3字头”-2de64335
8天前
-

杉杉隐形的雷-17aad48b
华为智驾VS小米生态,20万级增程SUV该选谁?-cf1bc0bc
6天前
-

预售价24.99万元起 启境GX7正式开启预售-a90cc372
外交部:中国重视金砖合作,支持印度成功举办今年的领导人会晤-801ccab4
9天前
-

卓创资讯二度递表港交所,AI冲击下能否跃升国际价格标杆?-1237315a
中央社会工作部:保障新就业群体劳动报酬、休息休假、社会保险等方面的合法权益-3a505438
9天前
-

落地吉隆坡客机内发现男性腐尸,死者预估17岁至25岁,身上没有伤痕,死亡或超72小时-f41b8d1a
2026年金球奖候选名单公布:梅西第17次入围,7名球员首次亮相-rssai0bc39fa0343a480b
8天前
-

云南男子勇救4名落水儿童牺牲:家人称他还未结婚,当地启动见义勇为和烈士评定-7f3ec25d
外媒:澳大利亚主帅波波维奇拒绝了一份为期四年的新合同-c1a538e2
7天前
猴子
谢宜容 

















