


活力中国调研行|优质种猪住上智慧楼房-a9797591
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
硬核赛道上的青春力量:年轻科研者探索创新未来-rssai0a0ca46be895fdbc
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
长安启源Q06预售破万后 才知道长安想打的是什么牌-03c147ab
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
凯发k8国际登录厅打造便捷娱乐体验与智能服务融合的新选择
六人利用AI“越狱”生成淫秽物品,法官提醒技术中立≠技术无罪 IT之家 9 月 8 日消息,中央广播电视总台中国之声今天(8 日)报道称,曾是某游戏公司程序员的郑某组建研发团队,通过改写系统提示词实现 AI 模型“越狱”、设定角色卡诱导对话场景等方式,为用户输出淫秽内容提供技术条件。近日,浙江省余姚市人民法院审结这起利用生成式 AI 制作淫秽物品牟利案,认定郑某等人构成制作淫秽物品牟利罪。 被告人郑某曾是国内一家游戏大厂的员工,在 AI 领域有一定影响力,也曾赴国外进行深造,2024 年 7 月,他接触到境外一款 AI 色聊机器人后,萌生了开发同类软件非法牟利的想法。 在产生这一想法后,郑某邀请同事谢某及在网上认识的严某等 6 人组建研发团队,经过调试后,团队研发的生成式 AI 模型于 2025 年 1 月在境外平台上线,并接入了“第四方支付”、虚拟币等多种渠道向用户收取费用。 郑某等人通过技术手段对基础模型实施“越狱”,突破了大模型内置的色情内容安全限制。用户在充值付费后,就可以在这个模型中选择角色卡和 AI 机器人进行色情聊天,这些聊天内容还可以通过消耗积分来生成淫秽的静态或者动态图片。 2025 年 7 月,公安民警在发现违法犯罪线索后进行立案侦查。历时两个月,将郑某等六名被告人全部抓获归案。 根据浙江省余姚市人民法院刑事审判庭法官助理孙钰萍介绍,该 AI 模型运营期间生成了静态图片超 37 万张,动态图片超 6000 张,用户充值金额达 24000 美元,折合成人民币约 17 万元。经鉴定,在随机抽取的 12500 张静态图片和全量动态图片中有 9000 多张静态图片,5000 多张动态图片被认定为淫秽物品。 浙江省余姚市人民法院刑事审判庭法官诸张琳指出,目前的生成式 AI 模型本身都自带内容安全过滤功能,主要是为了拦截各类不良违法信息,它本身不是犯罪的工具。 但在这起案件中,被告人郑某等 6 人使用提示词工程,通过反复编写修改系统提示词、设置角色卡、搭建对话场景等方法,突破了 AI 模型原有的伦理和安全防护限制,让用户在使用时能自动生成各类淫秽内容,把 AI 模型从一种通用工具训练成了一款专门输出淫秽物品的犯罪工具。 诸张琳提醒,“技术中立”从来不是违法犯罪的挡箭牌,我们不能以内容由 AI 生成,就否定了开发者的“制作者”身份。开发者主动篡改模型的安全机制,搭建便于产出淫秽内容的技术环境,对违法内容的生成具备实质性的控制力。虽然这个内容是应用户要求生成的,但开发者仍属于刑法意义上淫秽物品的“制作者”,应当承担相应的刑事责任。 IT之家注:依据 9 月 7 日发布的《最高人民法院关于依法审理涉人工智能纠纷案件的意见》要求,利用深度伪造等技术进行诈骗、侮辱、诽谤、侵犯公民个人信息、制作、贩卖、传播淫秽物品的行为构成犯罪的,坚决依法严惩,追究刑事责任。 特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。 Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services. 学申论的谈妹 2026-09-07 19:49:44 上观新闻 2026-09-08 09:04:25 扬子晚报 2026-09-07 22:11:30 鲁中晨报 2026-09-05 17:14:04 河北日报 2026-09-08 15:25:00 中国经济网 2026-09-08 11:11:11 扬子晚报 2026-09-08 07:20:10 鲁中晨报 2026-09-06 15:47:03 南方都市报 2026-09-08 10:51:28 新京报 2026-09-08 08:06:25 看看新闻Knews 2026-09-07 23:08:28 鲁中晨报 2026-09-08 07:03:22 第一财经资讯 2026-09-07 13:22:17 新民晚报 2026-09-08 09:46:35 南方都市报 2026-09-06 11:41:02 澎湃新闻 2026-09-08 10:36:13 人民资讯 2026-09-07 21:04:04 海外网 2026-09-08 15:27:07 财联社 2026-09-08 14:40:03 南方都市报 2026-09-08 16:18:06 环球网资讯 2026-09-08 14:40:05 金台资讯 2026-09-08 16:16:16 都市快报橙柿互动 2026-09-08 13:29:54
转载请注明出处
本文的链接地址:http://www.teycb.com/ArTicle/details/83914620.sHtML
本文最后 发布于2026-09-10 01:04:00,已经过了0天没有更新,若内容或图片 失效,请留言反馈
推荐阅读
- 纽约期金突破4450美元盎司-e62f9ccd
- CBOT农产品期货主力合约多数上涨 小麦期货涨1.81%-rssai5bae0202cf5de32d
- "LG U+在韩国推出家庭安保订阅服务“Homecam Lite”-rssai884fc479743ca6f5
- 国际油价大涨近4%,布油站上100美元大关-5b4e7001
- 报告-d42128bc
- 给AI投毒搅乱广告业!中国广告博物馆馆长黄升民:建内容银行,拒绝被GEO绑架-132896dc
- 伊朗公布一款新型导弹-b5f07f18
- 代码显示谷歌正开发 Cast Trackpad 工具,可将安卓手机作为 Googlebook 笔记本触控板-af21c5e2
- 小鹏X9辅助驾驶变道后发生追尾 车主与车企就责任认定继续沟通-rssai8c06d02ba5315078
- “已经拿美国军舰试验过”!伊朗公布一款新型弹道导弹:从被动威慑转向主动威慑-7dbc8a23
-

伊朗公布一款新型导弹-b5f07f18
"港股海光芯正涨超10%-0043aba8"
6天前
-

报告-d42128bc
五年两婚生三子,如今自曝接不到商演,何洁究竟是如何一步步自毁前程的?-9a885013
6天前
-

美国安机构指责中国企业蒸馏美国模型,外交部:不要进行不实的指责和抹黑-2f0dfb16
"今年前8个月陇电入鲁工程送电量突破300亿千瓦时-9c2b7413"
5天前
-

ag亚官游带来便捷娱乐体验与多元互动新选择
外媒炒作中国人形机器人参战说法 专家称存在夸大和误读-rssaia7183d4e9a9d8b61
5天前
-

媒体人:火箭&活塞在等对方先报价 阿门的合同压低了奥萨尔的价格-08813182
习近平同英国首相伯纳姆通电话-e3bf7892
4天前
-

苹果首秀iPhone Duo双电池系统,20分钟最多可充至50%电量-728b7a4e
穆帅:卜拉欣首发是因为更擅长和队友配合,他也可以适当回撤-8c2ed614
5天前
-

胡尔克:很难说自己还能踢多久,只要身体状态好我就想继续踢-91c5001f
凯迪拉克XT5 PHEV上市 定价瞄准油电同价市场-rssai5c0e8ced8c376a6f
1天前
-

连续3年进四强!佩古拉逆转赢下美国德比,第4次闯入大满贯半决赛-e1e87562
赢下郑钦文就成世界第1!27岁美女放话:这是我的目标 做到1点就能赢-13984bad
5天前
-

青春华章丨燃!这就是今天的中国青年-6b46ecbc
意大利向印尼移交退役航母“加里波第”号-newsfca1abad4ba12788
5天前
-

微塑料进入人体引关注:风险需要重视,也不必过度恐慌-rssai19536b5947c4a749
山东菏泽一小学招生争议再起 家长称小户型房产影响入学-rssai76fcea64f69c116e
2天前
-

凯迪拉克XT5 PHEV上市 定价瞄准油电同价市场-rssai5c0e8ced8c376a6f
以色列高官:是时候承认马岛属于阿根廷了-dcbebd14
8天前
-

国家统计局:8月份居民消费价格同比上涨0.8%-1fe94efd
美国国债收益率走高,短端领跌,油价尾盘恢复涨势-rssai3db6b419c1638459
0天前
猴子
许肇韦 

















