


大家人寿9.8亿元参投远见卓珩基金 险资布局私募股权持续推进-rssaic0bd9cfda7ad0663
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
动力电池全周期安全测评技术成果发布-rssai4e5b840c7424b520
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
大河国际车展集结多品牌重磅优惠-6ea2483b
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
绍兴宠博会引入“浙里出海”行动助力宠物用品企业拓展跨境市场-news01f873b8bd8639b6
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
转载请注明出处
本文的链接地址:http://www.teycb.com/ArTicle/details/27015498.sHtML
本文最后 发布于2026-09-09 19:32:56,已经过了0天没有更新,若内容或图片 失效,请留言反馈
推荐阅读
- 出机会一定得坚决!罗欣棫绕掩护弧顶出机会 三分一箭穿心!-44eb822b
- 财经商讯-f16aebb1
- "乌基辅市及基辅州遭俄空袭死亡人数升至7人-304dad1d
- 操盘必读:影响股市利好或利空消息-deb196c9
- 国家版权局发布《版权工作“十五五”规划》明确未来五年版权工作重点任务-news32b5d0d3cc892ea7
- 国家药监局:珍视明等37批次药品抽检不合格-1a029695
- 库克卸任了,雷军呢?-cff40f6f
- 高质量教材体系映照育人初心-b7a37551
- 青峰村的“美学致富”实验-3707547c
- 马筱梅这回彻底开眼了,见识了什么叫天差地别,跟着汪小菲连教室都进不去-0b546b8f
-

IFA 2026展现中国智造,Doova机器人探索独居老人智慧陪伴场景-rssaicee1d720886f1635
"金秋最流行的鞋子,“红色”更时髦!-d6a358cf"
1天前
-

中方一出手,日媒就敏感:敲打日本-847a4c8e
鹈鹕完成交易后薪资空间增加 有望完成马瑟林签约-rssaid6d54f16399d25da
2天前
-

因模仿老师走红的少年网红钟美美发长文谈父亲家暴 “用妻子儿女的呜咽去成全阳刚,只是对阳刚拙劣的模仿”-8a12f29c
"兼职提供身份信息后被登记为高管 大学生获法院判决解除挂名-rssai68d1a3b003755948"
7天前
-

“反向海淘”是一场世界对中国的认知升级(记者手记)-5ab668d6
极目深度丨部分商家因禁塑令屏蔽地址让海南客户无法网购下单,有网友下单后被劝退,当地回应:存在误解,不要扩大禁运范围-49a90bcf
1天前
-

出机会一定得坚决!罗欣棫绕掩护弧顶出机会 三分一箭穿心!-44eb822b
别再被带节奏!青海枸杞毁林占田?实地探访揭开真相-43ad2857
2天前
-

委内瑞拉首都附近国际机场恢复商业客运航班-3ca18935
大河国际车展集结多品牌重磅优惠-6ea2483b
6天前
-

RMC:波尔多球员发声明,称感觉被抛弃-63f6fce6
AI算力概念股期中考:合计营收超万亿元,平均研发强度接近2.6%,需求放量之下盈利质量分化-d327839a
6天前
-

因模仿老师走红的少年网红钟美美发长文谈父亲家暴 “用妻子儿女的呜咽去成全阳刚,只是对阳刚拙劣的模仿”-8a12f29c
行业商协会如何“瘦身强体”?山东这样回答-cf8d5b2f
2天前
-

“87版”《红楼梦》演员香港首演话剧《我爱桃花》 再聚舞台演绎新篇-news80d8d79e039fbf17
【新思想引领新征程】我国服务贸易新格局加速成型-94a2df72
9天前
-

芯片架构从平面变3D,专家解读华为麒麟9050 Pro新突破-8955cbd2
马竞主席:阿尔瓦雷斯一事已经结束,是否出场由主帅决定-9c32841a
4天前
-

国家版权局发布《版权工作“十五五”规划》明确未来五年版权工作重点任务-news32b5d0d3cc892ea7
地缘风险退潮 上海原油期货单季跌逾30%-2def7598
1天前
-

鹈鹕完成交易后薪资空间增加 有望完成马瑟林签约-rssaid6d54f16399d25da
委内瑞拉首都附近国际机场恢复商业客运航班-3ca18935
0天前
猴子
宋纬盛 

















