


北京城建,等来了现房时代-a279f507
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
育儿补贴制度将会产生3方面预期效果 每年将惠及上千万家庭-1f9cdfa2
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
国台办:祖国统一对于台湾同胞而言不是选答题 而是必答题-9bb53c84
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
美财长谈加拿大反制美国:小小腊肠犬惹牧羊犬,影响微不足道-c833a3a4
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
转载请注明出处
本文的链接地址:http://www.teycb.com/ArTicle/details/03859146.sHtML
本文最后 发布于2026-09-09 21:22:35,已经过了0天没有更新,若内容或图片 失效,请留言反馈
推荐阅读
- “保险+期货”多点开花 国信期货金融助农再扩版图-399a7116
- 教师节福利来了!湖南多家景区向全国教师免票-5a78aca6
- "一座小城,用15年成中国最大房车生产出口基地-5b9f79e5
- 百年信义传家 五十余载救火无悔!无锡缪梅清获评全国“诚信之星”-a02c9738
- 四大AI预测巴萨vs费耶诺德:进球大战,各家均看好主场取胜-aae32e83
- 锅圈食汇万店困局:没有新的故事,只有新的地雷-a7c84409
- 四大AI预测巴萨vs费耶诺德:进球大战,各家均看好主场取胜-aae32e83
- 日元涨势继续 突破1美元兑154日元水平-ea15b74d
- 时代新材亮相动力电池大会 以高分子材料赋能新能源产业-a3bba3d9
- 定位中大型车 吉利银河TT将于今日首发亮相-c6b49b51
-

智汇前海聚合亚太声音 媒体高端论坛聚焦合作共荣
"哥伦比亚总统称将加强与美禁毒合作-67f529c9"
6天前
-

秋天,穿风衣吧!-f1d9a709
时代新材亮相动力电池大会 以高分子材料赋能新能源产业-a3bba3d9
3天前
-

特朗普频发AI图片引发关注 从领土想象到政治表达-rssai27c385411d6d8452
"北京引入割草机器人治理秋季花粉-30d707eb"
7天前
-

解锁人体衰老密码!干细胞和衰老有什么联系?-bc2ab3dd
镜报:阿诺德、琼斯伯纳乌重聚,阿诺德的日子不好过-c7d00232
8天前
-

日元涨势继续 突破1美元兑154日元水平-ea15b74d
“i茅台”调整次新飞天投放规则:每日开放购买,全年总量不变-rssai83f889f5ba01ef04
3天前
-

星宇股份劝退应届生处分多人续:当地确认公司有HR总监岗位-eeaf2f90
新浪网-a65e3785
4天前
-

OpenAI首席科学家发文预警:我们正在造出无法理解的外星大脑,而且谁都没准备好;Anthropic IPO时间表后移:招股书预计9月底披露,上市或推迟至11月|全球科技早参-cffad745
砸十万卡算力、采千万小时数据、布数百万台机器人:京东重仓物理AI-0f87ec44
9天前
-

“i茅台”调整次新飞天投放规则:每日开放购买,全年总量不变-rssai83f889f5ba01ef04
北京引入割草机器人治理秋季花粉-30d707eb
2天前
-

敦化推进全域文旅融合发展 文旅产业活力持续提升-rssaif28d415fb5e706aa
恒指期货夜盘收跌0.32%-5f1710b5
3天前
-

武契奇宣布塞尔维亚提前议会选举安排-rssaia124a579d93678e1
中金公司“三合一”重大资产重组获批-39f7c2e5
9天前
-

美债收益率恢复上涨,2年期收益率升至日内高点4.39%-9f7b53cf
多领域消息汇总:国际局势、监管举措与企业动态引发关注-rssai8900670da4204066
2天前
-

井柏然晒栾念分手剧照,雪中独坐情绪张力十足-155e296c
广西洪水冲毁养蛇场,眼镜蛇逃逸!被蛇咬伤,记住这6步能救命-ba0bc893
4天前
猴子
简木人 

















