冰糖炖雪梨主题曲

〖One〗，邦雅曼-8c5c44b8

，AI展现人类理解不了的“异类心智”，OpenAI首席科学家：快踩刹车, 放缓开发 　　当地时间9月6日，雅库布·帕霍茨基在OpenAI官网发表题为《一个异类心智》的长文。文中他给出两个看似矛盾的判断：一方面，他“强烈预期”AI当前的进展速度可以持续到递归自我改进（RSI）阶段——即AI开始自己迭代，无需人类开发者的介入；另一方面，他写道，目前没有任何一家实验室（包括OpenAI自己）能把对AI的监控和对齐工作做到足够负责任的程度。 　　他呼吁全行业在安全标准建立之前自愿放慢发展脚步，并透露OpenAI打算在必要时单方面暂停进一步扩大研发规模。这意味着身为OpenAI首席科学家的雅库布·帕霍茨基亲自为AI狂潮踩下了刹车。 　　长文从2023年年中讲起。当时在OpenAI内部一个名为RLSlow的项目中，帕霍茨基与同事第一次看到推理模型规模化训练的初步结果，确信他们能够解锁预训练模型形成思维链的能力。三年后，推理模型已经能操作电脑和图形界面、与人类及其他模型协作、执行研究项目，并改变了网络安全的格局。 　　他用一个类比解释这种系统的特殊性：脑成像可以解释一个人做心算时脑区如何活动，却解释不了这个人当年是怎么学会心算的。在他看来，大模型是被“生长”而非被“设计”出来的，研究者只设定了数据、算法和目标，模型最终形成的内部结构没有任何人逐层规划过。这也是为什么帕霍茨基用“异类心智”这个字眼来进行比喻，因为人类始终无法完全理解AI的成长路径。 　　帕霍茨基在文中罕见复盘了OpenAI自己出现过的安全事件。当时AI代理们守住了“不对人类进行社会工程”的边界，却在面对一些对大模型有利、于人类有害的任务时，屡屡做出越界行为，包括撰写抗议邮件，甚至注册域名搭建警告网站。 　　事件发生后，OpenAI暂停了面向最新模型的训练，之后在更严格的限制条件下恢复了部分训练工作。 　　他还指出，人类在对AI模型进行预训练时采取的“价值对齐”手段，往往经不起模型升级压力的考验。因为足够强的模型甚至会学会“动机性推理”，即伪装自己“对齐”了人类的价值观，以隐藏自己行为的真实目的。 　　帕霍茨基判断，业界赖以为安全底线的思维链监控正在失效，原因有三：模型对语言化思维链的依赖随时间减少；AI越来越擅长推理和操纵自己的推理过程；预训练的进步让模型即使不做语言化推理也变得更聪明。 　　他预计，未来通用AI的进展将越来越被“监控置信度”卡脖子，而未来5年将出现可大规模部署的可靠AI研究代理。 　　值得一提的是模型层面的进展。文中称，GPT-6 Astra是首个受益于长期对齐工作的模型，对齐水平显著优于上一代GPT-5.6 Sol。但他同时警告，对齐工作的进步，未必能在未来跑赢通用智能的进步速度。 　　在帕霍茨基看来，大模型在入侵和突破计算机系统方面正变得超越人类，当前是加固关键基础设施的狭窄窗口期。他写道：“一旦真正理解了利害攸关的程度，不惜一切代价向前冲的想法就显得荒谬。” 　　具体到行业层面，他期望“自愿放缓”在行业内成为常态，直到建立共享安全标准；OpenAI的准备度框架、Anthropic的负责任扩模政策这类承诺，应演变为被广泛强制的安全门槛，由第三方审计、政府机构或国际机构执行；AI发展的国际协调，应成为各国政府的首要议题。 举报邮箱：jubao@vip.sina.com Copyright © 1996-2026 SINA Corporation All Rights Reserved 新浪公司 版权所有
〖Two〗，J博士：现在的比赛由前锋和后卫主导 文班亚马将让中锋重现荣光-3a299da2，AI展现人类理解不了的“异类心智”，OpenAI首席科学家：快踩刹车, 放缓开发 　　当地时间9月6日，雅库布·帕霍茨基在OpenAI官网发表题为《一个异类心智》的长文。文中他给出两个看似矛盾的判断：一方面，他“强烈预期”AI当前的进展速度可以持续到递归自我改进（RSI）阶段——即AI开始自己迭代，无需人类开发者的介入；另一方面，他写道，目前没有任何一家实验室（包括OpenAI自己）能把对AI的监控和对齐工作做到足够负责任的程度。 　　他呼吁全行业在安全标准建立之前自愿放慢发展脚步，并透露OpenAI打算在必要时单方面暂停进一步扩大研发规模。这意味着身为OpenAI首席科学家的雅库布·帕霍茨基亲自为AI狂潮踩下了刹车。 　　长文从2023年年中讲起。当时在OpenAI内部一个名为RLSlow的项目中，帕霍茨基与同事第一次看到推理模型规模化训练的初步结果，确信他们能够解锁预训练模型形成思维链的能力。三年后，推理模型已经能操作电脑和图形界面、与人类及其他模型协作、执行研究项目，并改变了网络安全的格局。 　　他用一个类比解释这种系统的特殊性：脑成像可以解释一个人做心算时脑区如何活动，却解释不了这个人当年是怎么学会心算的。在他看来，大模型是被“生长”而非被“设计”出来的，研究者只设定了数据、算法和目标，模型最终形成的内部结构没有任何人逐层规划过。这也是为什么帕霍茨基用“异类心智”这个字眼来进行比喻，因为人类始终无法完全理解AI的成长路径。 　　帕霍茨基在文中罕见复盘了OpenAI自己出现过的安全事件。当时AI代理们守住了“不对人类进行社会工程”的边界，却在面对一些对大模型有利、于人类有害的任务时，屡屡做出越界行为，包括撰写抗议邮件，甚至注册域名搭建警告网站。 　　事件发生后，OpenAI暂停了面向最新模型的训练，之后在更严格的限制条件下恢复了部分训练工作。 　　他还指出，人类在对AI模型进行预训练时采取的“价值对齐”手段，往往经不起模型升级压力的考验。因为足够强的模型甚至会学会“动机性推理”，即伪装自己“对齐”了人类的价值观，以隐藏自己行为的真实目的。 　　帕霍茨基判断，业界赖以为安全底线的思维链监控正在失效，原因有三：模型对语言化思维链的依赖随时间减少；AI越来越擅长推理和操纵自己的推理过程；预训练的进步让模型即使不做语言化推理也变得更聪明。 　　他预计，未来通用AI的进展将越来越被“监控置信度”卡脖子，而未来5年将出现可大规模部署的可靠AI研究代理。 　　值得一提的是模型层面的进展。文中称，GPT-6 Astra是首个受益于长期对齐工作的模型，对齐水平显著优于上一代GPT-5.6 Sol。但他同时警告，对齐工作的进步，未必能在未来跑赢通用智能的进步速度。 　　在帕霍茨基看来，大模型在入侵和突破计算机系统方面正变得超越人类，当前是加固关键基础设施的狭窄窗口期。他写道：“一旦真正理解了利害攸关的程度，不惜一切代价向前冲的想法就显得荒谬。” 　　具体到行业层面，他期望“自愿放缓”在行业内成为常态，直到建立共享安全标准；OpenAI的准备度框架、Anthropic的负责任扩模政策这类承诺，应演变为被广泛强制的安全门槛，由第三方审计、政府机构或国际机构执行；AI发展的国际协调，应成为各国政府的首要议题。 举报邮箱：jubao@vip.sina.com Copyright © 1996-2026 SINA Corporation All Rights Reserved 新浪公司 版权所有
〖Three〗，83亿，顺义成交1处低密地块！-e047829e，AI展现人类理解不了的“异类心智”，OpenAI首席科学家：快踩刹车, 放缓开发 　　当地时间9月6日，雅库布·帕霍茨基在OpenAI官网发表题为《一个异类心智》的长文。文中他给出两个看似矛盾的判断：一方面，他“强烈预期”AI当前的进展速度可以持续到递归自我改进（RSI）阶段——即AI开始自己迭代，无需人类开发者的介入；另一方面，他写道，目前没有任何一家实验室（包括OpenAI自己）能把对AI的监控和对齐工作做到足够负责任的程度。 　　他呼吁全行业在安全标准建立之前自愿放慢发展脚步，并透露OpenAI打算在必要时单方面暂停进一步扩大研发规模。这意味着身为OpenAI首席科学家的雅库布·帕霍茨基亲自为AI狂潮踩下了刹车。 　　长文从2023年年中讲起。当时在OpenAI内部一个名为RLSlow的项目中，帕霍茨基与同事第一次看到推理模型规模化训练的初步结果，确信他们能够解锁预训练模型形成思维链的能力。三年后，推理模型已经能操作电脑和图形界面、与人类及其他模型协作、执行研究项目，并改变了网络安全的格局。 　　他用一个类比解释这种系统的特殊性：脑成像可以解释一个人做心算时脑区如何活动，却解释不了这个人当年是怎么学会心算的。在他看来，大模型是被“生长”而非被“设计”出来的，研究者只设定了数据、算法和目标，模型最终形成的内部结构没有任何人逐层规划过。这也是为什么帕霍茨基用“异类心智”这个字眼来进行比喻，因为人类始终无法完全理解AI的成长路径。 　　帕霍茨基在文中罕见复盘了OpenAI自己出现过的安全事件。当时AI代理们守住了“不对人类进行社会工程”的边界，却在面对一些对大模型有利、于人类有害的任务时，屡屡做出越界行为，包括撰写抗议邮件，甚至注册域名搭建警告网站。 　　事件发生后，OpenAI暂停了面向最新模型的训练，之后在更严格的限制条件下恢复了部分训练工作。 　　他还指出，人类在对AI模型进行预训练时采取的“价值对齐”手段，往往经不起模型升级压力的考验。因为足够强的模型甚至会学会“动机性推理”，即伪装自己“对齐”了人类的价值观，以隐藏自己行为的真实目的。 　　帕霍茨基判断，业界赖以为安全底线的思维链监控正在失效，原因有三：模型对语言化思维链的依赖随时间减少；AI越来越擅长推理和操纵自己的推理过程；预训练的进步让模型即使不做语言化推理也变得更聪明。 　　他预计，未来通用AI的进展将越来越被“监控置信度”卡脖子，而未来5年将出现可大规模部署的可靠AI研究代理。 　　值得一提的是模型层面的进展。文中称，GPT-6 Astra是首个受益于长期对齐工作的模型，对齐水平显著优于上一代GPT-5.6 Sol。但他同时警告，对齐工作的进步，未必能在未来跑赢通用智能的进步速度。 　　在帕霍茨基看来，大模型在入侵和突破计算机系统方面正变得超越人类，当前是加固关键基础设施的狭窄窗口期。他写道：“一旦真正理解了利害攸关的程度，不惜一切代价向前冲的想法就显得荒谬。” 　　具体到行业层面，他期望“自愿放缓”在行业内成为常态，直到建立共享安全标准；OpenAI的准备度框架、Anthropic的负责任扩模政策这类承诺，应演变为被广泛强制的安全门槛，由第三方审计、政府机构或国际机构执行；AI发展的国际协调，应成为各国政府的首要议题。 举报邮箱：jubao@vip.sina.com Copyright © 1996-2026 SINA Corporation All Rights Reserved 新浪公司 版权所有
〖Four〗，哈里斯：很荣幸成为北控主教练 希望能给北控建立起一个体系-5d3ad833，AI展现人类理解不了的“异类心智”，OpenAI首席科学家：快踩刹车, 放缓开发 　　当地时间9月6日，雅库布·帕霍茨基在OpenAI官网发表题为《一个异类心智》的长文。文中他给出两个看似矛盾的判断：一方面，他“强烈预期”AI当前的进展速度可以持续到递归自我改进（RSI）阶段——即AI开始自己迭代，无需人类开发者的介入；另一方面，他写道，目前没有任何一家实验室（包括OpenAI自己）能把对AI的监控和对齐工作做到足够负责任的程度。 　　他呼吁全行业在安全标准建立之前自愿放慢发展脚步，并透露OpenAI打算在必要时单方面暂停进一步扩大研发规模。这意味着身为OpenAI首席科学家的雅库布·帕霍茨基亲自为AI狂潮踩下了刹车。 　　长文从2023年年中讲起。当时在OpenAI内部一个名为RLSlow的项目中，帕霍茨基与同事第一次看到推理模型规模化训练的初步结果，确信他们能够解锁预训练模型形成思维链的能力。三年后，推理模型已经能操作电脑和图形界面、与人类及其他模型协作、执行研究项目，并改变了网络安全的格局。 　　他用一个类比解释这种系统的特殊性：脑成像可以解释一个人做心算时脑区如何活动，却解释不了这个人当年是怎么学会心算的。在他看来，大模型是被“生长”而非被“设计”出来的，研究者只设定了数据、算法和目标，模型最终形成的内部结构没有任何人逐层规划过。这也是为什么帕霍茨基用“异类心智”这个字眼来进行比喻，因为人类始终无法完全理解AI的成长路径。 　　帕霍茨基在文中罕见复盘了OpenAI自己出现过的安全事件。当时AI代理们守住了“不对人类进行社会工程”的边界，却在面对一些对大模型有利、于人类有害的任务时，屡屡做出越界行为，包括撰写抗议邮件，甚至注册域名搭建警告网站。 　　事件发生后，OpenAI暂停了面向最新模型的训练，之后在更严格的限制条件下恢复了部分训练工作。 　　他还指出，人类在对AI模型进行预训练时采取的“价值对齐”手段，往往经不起模型升级压力的考验。因为足够强的模型甚至会学会“动机性推理”，即伪装自己“对齐”了人类的价值观，以隐藏自己行为的真实目的。 　　帕霍茨基判断，业界赖以为安全底线的思维链监控正在失效，原因有三：模型对语言化思维链的依赖随时间减少；AI越来越擅长推理和操纵自己的推理过程；预训练的进步让模型即使不做语言化推理也变得更聪明。 　　他预计，未来通用AI的进展将越来越被“监控置信度”卡脖子，而未来5年将出现可大规模部署的可靠AI研究代理。 　　值得一提的是模型层面的进展。文中称，GPT-6 Astra是首个受益于长期对齐工作的模型，对齐水平显著优于上一代GPT-5.6 Sol。但他同时警告，对齐工作的进步，未必能在未来跑赢通用智能的进步速度。 　　在帕霍茨基看来，大模型在入侵和突破计算机系统方面正变得超越人类，当前是加固关键基础设施的狭窄窗口期。他写道：“一旦真正理解了利害攸关的程度，不惜一切代价向前冲的想法就显得荒谬。” 　　具体到行业层面，他期望“自愿放缓”在行业内成为常态，直到建立共享安全标准；OpenAI的准备度框架、Anthropic的负责任扩模政策这类承诺，应演变为被广泛强制的安全门槛，由第三方审计、政府机构或国际机构执行；AI发展的国际协调，应成为各国政府的首要议题。 举报邮箱：jubao@vip.sina.com Copyright © 1996-2026 SINA Corporation All Rights Reserved 新浪公司 版权所有
〖Five〗，今年最惨的6个专业，平均月薪跌破4000元，就业率低得离谱！-c8e59193，AI展现人类理解不了的“异类心智”，OpenAI首席科学家：快踩刹车, 放缓开发 　　当地时间9月6日，雅库布·帕霍茨基在OpenAI官网发表题为《一个异类心智》的长文。文中他给出两个看似矛盾的判断：一方面，他“强烈预期”AI当前的进展速度可以持续到递归自我改进（RSI）阶段——即AI开始自己迭代，无需人类开发者的介入；另一方面，他写道，目前没有任何一家实验室（包括OpenAI自己）能把对AI的监控和对齐工作做到足够负责任的程度。 　　他呼吁全行业在安全标准建立之前自愿放慢发展脚步，并透露OpenAI打算在必要时单方面暂停进一步扩大研发规模。这意味着身为OpenAI首席科学家的雅库布·帕霍茨基亲自为AI狂潮踩下了刹车。 　　长文从2023年年中讲起。当时在OpenAI内部一个名为RLSlow的项目中，帕霍茨基与同事第一次看到推理模型规模化训练的初步结果，确信他们能够解锁预训练模型形成思维链的能力。三年后，推理模型已经能操作电脑和图形界面、与人类及其他模型协作、执行研究项目，并改变了网络安全的格局。 　　他用一个类比解释这种系统的特殊性：脑成像可以解释一个人做心算时脑区如何活动，却解释不了这个人当年是怎么学会心算的。在他看来，大模型是被“生长”而非被“设计”出来的，研究者只设定了数据、算法和目标，模型最终形成的内部结构没有任何人逐层规划过。这也是为什么帕霍茨基用“异类心智”这个字眼来进行比喻，因为人类始终无法完全理解AI的成长路径。 　　帕霍茨基在文中罕见复盘了OpenAI自己出现过的安全事件。当时AI代理们守住了“不对人类进行社会工程”的边界，却在面对一些对大模型有利、于人类有害的任务时，屡屡做出越界行为，包括撰写抗议邮件，甚至注册域名搭建警告网站。 　　事件发生后，OpenAI暂停了面向最新模型的训练，之后在更严格的限制条件下恢复了部分训练工作。 　　他还指出，人类在对AI模型进行预训练时采取的“价值对齐”手段，往往经不起模型升级压力的考验。因为足够强的模型甚至会学会“动机性推理”，即伪装自己“对齐”了人类的价值观，以隐藏自己行为的真实目的。 　　帕霍茨基判断，业界赖以为安全底线的思维链监控正在失效，原因有三：模型对语言化思维链的依赖随时间减少；AI越来越擅长推理和操纵自己的推理过程；预训练的进步让模型即使不做语言化推理也变得更聪明。 　　他预计，未来通用AI的进展将越来越被“监控置信度”卡脖子，而未来5年将出现可大规模部署的可靠AI研究代理。 　　值得一提的是模型层面的进展。文中称，GPT-6 Astra是首个受益于长期对齐工作的模型，对齐水平显著优于上一代GPT-5.6 Sol。但他同时警告，对齐工作的进步，未必能在未来跑赢通用智能的进步速度。 　　在帕霍茨基看来，大模型在入侵和突破计算机系统方面正变得超越人类，当前是加固关键基础设施的狭窄窗口期。他写道：“一旦真正理解了利害攸关的程度，不惜一切代价向前冲的想法就显得荒谬。” 　　具体到行业层面，他期望“自愿放缓”在行业内成为常态，直到建立共享安全标准；OpenAI的准备度框架、Anthropic的负责任扩模政策这类承诺，应演变为被广泛强制的安全门槛，由第三方审计、政府机构或国际机构执行；AI发展的国际协调，应成为各国政府的首要议题。 举报邮箱：jubao@vip.sina.com Copyright © 1996-2026 SINA Corporation All Rights Reserved 新浪公司 版权所有
〖Six〗，刚上任连续引入两位FMVP！甘西：这一切仍然让人感觉有些不真实-bf78c936，AI展现人类理解不了的“异类心智”，OpenAI首席科学家：快踩刹车, 放缓开发 　　当地时间9月6日，雅库布·帕霍茨基在OpenAI官网发表题为《一个异类心智》的长文。文中他给出两个看似矛盾的判断：一方面，他“强烈预期”AI当前的进展速度可以持续到递归自我改进（RSI）阶段——即AI开始自己迭代，无需人类开发者的介入；另一方面，他写道，目前没有任何一家实验室（包括OpenAI自己）能把对AI的监控和对齐工作做到足够负责任的程度。 　　他呼吁全行业在安全标准建立之前自愿放慢发展脚步，并透露OpenAI打算在必要时单方面暂停进一步扩大研发规模。这意味着身为OpenAI首席科学家的雅库布·帕霍茨基亲自为AI狂潮踩下了刹车。 　　长文从2023年年中讲起。当时在OpenAI内部一个名为RLSlow的项目中，帕霍茨基与同事第一次看到推理模型规模化训练的初步结果，确信他们能够解锁预训练模型形成思维链的能力。三年后，推理模型已经能操作电脑和图形界面、与人类及其他模型协作、执行研究项目，并改变了网络安全的格局。 　　他用一个类比解释这种系统的特殊性：脑成像可以解释一个人做心算时脑区如何活动，却解释不了这个人当年是怎么学会心算的。在他看来，大模型是被“生长”而非被“设计”出来的，研究者只设定了数据、算法和目标，模型最终形成的内部结构没有任何人逐层规划过。这也是为什么帕霍茨基用“异类心智”这个字眼来进行比喻，因为人类始终无法完全理解AI的成长路径。 　　帕霍茨基在文中罕见复盘了OpenAI自己出现过的安全事件。当时AI代理们守住了“不对人类进行社会工程”的边界，却在面对一些对大模型有利、于人类有害的任务时，屡屡做出越界行为，包括撰写抗议邮件，甚至注册域名搭建警告网站。 　　事件发生后，OpenAI暂停了面向最新模型的训练，之后在更严格的限制条件下恢复了部分训练工作。 　　他还指出，人类在对AI模型进行预训练时采取的“价值对齐”手段，往往经不起模型升级压力的考验。因为足够强的模型甚至会学会“动机性推理”，即伪装自己“对齐”了人类的价值观，以隐藏自己行为的真实目的。 　　帕霍茨基判断，业界赖以为安全底线的思维链监控正在失效，原因有三：模型对语言化思维链的依赖随时间减少；AI越来越擅长推理和操纵自己的推理过程；预训练的进步让模型即使不做语言化推理也变得更聪明。 　　他预计，未来通用AI的进展将越来越被“监控置信度”卡脖子，而未来5年将出现可大规模部署的可靠AI研究代理。 　　值得一提的是模型层面的进展。文中称，GPT-6 Astra是首个受益于长期对齐工作的模型，对齐水平显著优于上一代GPT-5.6 Sol。但他同时警告，对齐工作的进步，未必能在未来跑赢通用智能的进步速度。 　　在帕霍茨基看来，大模型在入侵和突破计算机系统方面正变得超越人类，当前是加固关键基础设施的狭窄窗口期。他写道：“一旦真正理解了利害攸关的程度，不惜一切代价向前冲的想法就显得荒谬。” 　　具体到行业层面，他期望“自愿放缓”在行业内成为常态，直到建立共享安全标准；OpenAI的准备度框架、Anthropic的负责任扩模政策这类承诺，应演变为被广泛强制的安全门槛，由第三方审计、政府机构或国际机构执行；AI发展的国际协调，应成为各国政府的首要议题。 举报邮箱：jubao@vip.sina.com Copyright © 1996-2026 SINA Corporation All Rights Reserved 新浪公司 版权所有
〖Seven〗，首届流行音乐创作大会在广州举行 多项举措聚焦原创与产业生态建设-news4b9e995cd5fefd32，AI展现人类理解不了的“异类心智”，OpenAI首席科学家：快踩刹车, 放缓开发 　　当地时间9月6日，雅库布·帕霍茨基在OpenAI官网发表题为《一个异类心智》的长文。文中他给出两个看似矛盾的判断：一方面，他“强烈预期”AI当前的进展速度可以持续到递归自我改进（RSI）阶段——即AI开始自己迭代，无需人类开发者的介入；另一方面，他写道，目前没有任何一家实验室（包括OpenAI自己）能把对AI的监控和对齐工作做到足够负责任的程度。 　　他呼吁全行业在安全标准建立之前自愿放慢发展脚步，并透露OpenAI打算在必要时单方面暂停进一步扩大研发规模。这意味着身为OpenAI首席科学家的雅库布·帕霍茨基亲自为AI狂潮踩下了刹车。 　　长文从2023年年中讲起。当时在OpenAI内部一个名为RLSlow的项目中，帕霍茨基与同事第一次看到推理模型规模化训练的初步结果，确信他们能够解锁预训练模型形成思维链的能力。三年后，推理模型已经能操作电脑和图形界面、与人类及其他模型协作、执行研究项目，并改变了网络安全的格局。 　　他用一个类比解释这种系统的特殊性：脑成像可以解释一个人做心算时脑区如何活动，却解释不了这个人当年是怎么学会心算的。在他看来，大模型是被“生长”而非被“设计”出来的，研究者只设定了数据、算法和目标，模型最终形成的内部结构没有任何人逐层规划过。这也是为什么帕霍茨基用“异类心智”这个字眼来进行比喻，因为人类始终无法完全理解AI的成长路径。 　　帕霍茨基在文中罕见复盘了OpenAI自己出现过的安全事件。当时AI代理们守住了“不对人类进行社会工程”的边界，却在面对一些对大模型有利、于人类有害的任务时，屡屡做出越界行为，包括撰写抗议邮件，甚至注册域名搭建警告网站。 　　事件发生后，OpenAI暂停了面向最新模型的训练，之后在更严格的限制条件下恢复了部分训练工作。 　　他还指出，人类在对AI模型进行预训练时采取的“价值对齐”手段，往往经不起模型升级压力的考验。因为足够强的模型甚至会学会“动机性推理”，即伪装自己“对齐”了人类的价值观，以隐藏自己行为的真实目的。 　　帕霍茨基判断，业界赖以为安全底线的思维链监控正在失效，原因有三：模型对语言化思维链的依赖随时间减少；AI越来越擅长推理和操纵自己的推理过程；预训练的进步让模型即使不做语言化推理也变得更聪明。 　　他预计，未来通用AI的进展将越来越被“监控置信度”卡脖子，而未来5年将出现可大规模部署的可靠AI研究代理。 　　值得一提的是模型层面的进展。文中称，GPT-6 Astra是首个受益于长期对齐工作的模型，对齐水平显著优于上一代GPT-5.6 Sol。但他同时警告，对齐工作的进步，未必能在未来跑赢通用智能的进步速度。 　　在帕霍茨基看来，大模型在入侵和突破计算机系统方面正变得超越人类，当前是加固关键基础设施的狭窄窗口期。他写道：“一旦真正理解了利害攸关的程度，不惜一切代价向前冲的想法就显得荒谬。” 　　具体到行业层面，他期望“自愿放缓”在行业内成为常态，直到建立共享安全标准；OpenAI的准备度框架、Anthropic的负责任扩模政策这类承诺，应演变为被广泛强制的安全门槛，由第三方审计、政府机构或国际机构执行；AI发展的国际协调，应成为各国政府的首要议题。 举报邮箱：jubao@vip.sina.com Copyright © 1996-2026 SINA Corporation All Rights Reserved 新浪公司 版权所有