


17岁少年被假警察骗出遭殴打案进入起诉阶段:打人者看守所写信求谅解 检方指控三人涉嫌寻衅滋事罪-c3e7efa5
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
超级奶爸!李凯尔社媒晒带娃照:我的小男孩👋-227c6de8
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
2026年长途自驾游选增程SUV 这三款车分人群推荐-a7c5698e
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
伊朗多线释放强硬信号 美军基地因移动设备陷“暴露”危机-534d5072
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
转载请注明出处
本文的链接地址:http://www.teycb.com/ArTicle/details/86243759.sHtML
本文最后 发布于2026-09-09 17:53:57,已经过了0天没有更新,若内容或图片 失效,请留言反馈
推荐阅读
- 曼联跟队:卢克-bb88e362
- 三连冠在路上!“冠军锦鲤”狄龙·琼斯加盟76人 生涯夺冠率100%-bbb42af2
- "叙利亚一武器库爆炸致14死11伤-d66698be
- ag真人游戏模式解析线上互动娱乐体验的特点与注意事项
- 小米造车,雷军卖房?-c974e9c9
- 独家|《后西游记》成本仅为同类S级真人剧几分之一 芒果超媒董事长蔡怀军:男性会员拉新超预期-8ac30cef
- 在青云谱,遇见可体验的文化南昌-4af8cfe9
- 首次!在读高中生入选成年国足-e6b0983b
- 范布隆克霍斯特:我是巴萨历史的一部分,再次回到这里很特别-802850c2
- 独家|《后西游记》成本仅为同类S级真人剧几分之一 芒果超媒董事长蔡怀军:男性会员拉新超预期-8ac30cef
-

每经热评-32e83886
"dafa黄金版平台功能解析与使用体验介绍"
7天前
-

男演员的面容管理很重要!看《生逢其时》中郭涛和郭晓东就知道了-014701ad
200余位代表在太原探讨电碳算协同发展路径-news87b66a4cb595dd2d
7天前
-

在青云谱,遇见可体验的文化南昌-4af8cfe9
"楼市新政后北京首场土拍:华润置地83亿竞得顺义宅地,朝阳将台乡地块暂停出让-b7afeb25"
0天前
-

伊朗多线释放强硬信号 美军基地因移动设备陷“暴露”危机-534d5072
2026年长途自驾游选增程SUV 这三款车分人群推荐-a7c5698e
3天前
-

网易新闻-e878d6c7
微塑料进入人体引关注:风险需要重视,也不必过度恐慌-rssai19536b5947c4a749
6天前
-

中国证监会原副主席王建军一审被判无期徒刑-e83bedd2
对话姚洋:房地产永远是朝阳产业,未来仍是中国经济重要支柱|金融新动能-df0034b8
4天前
-

继续带伤出战!王思雨赛前依靠止痛药、消炎药缓解脚的疼痛-a51076a9
曼联跟队:卢克-bb88e362
4天前
-

首次!在读高中生入选成年国足-e6b0983b
罗滕:杜埃落选2026金球奖30人名单太离谱-c6c02150
4天前
-

200余位代表在太原探讨电碳算协同发展路径-news87b66a4cb595dd2d
超级奶爸!李凯尔社媒晒带娃照:我的小男孩👋-227c6de8
2天前
-

17岁少年被假警察骗出遭殴打案进入起诉阶段:打人者看守所写信求谅解 检方指控三人涉嫌寻衅滋事罪-c3e7efa5
伊朗多线释放强硬信号 美军基地因移动设备陷“暴露”危机-534d5072
3天前
-

北方华创研发投入达72亿元 新品商业化阶段利润压力显现-rssai1e6b7cb2845a41bf
影院卖得一般,网播后爆火,《抓特务》口碑为何两级反转?-eb869540
0天前
-

赵一鸣、好想来“缺斤短两”遭严查,品牌方回应-af296272
叙利亚一武器库爆炸致14死11伤-d66698be
9天前
猴子
林爱妤 

















