国内首起 AI 服务提供者涉黄获刑案二审将开庭
2025 年 9 月，上海市徐汇区人民法院一审判决，AI 伴侣聊天应用 Alien Chat 的两名主要开发和运营者犯制作淫秽物品牟利罪，分别获刑四年、一年半。此案成为国内首起 AI 服务提供者涉黄获刑的案件。
法院查明，被告人通过编写、修改系统提示词突破大语言模型的道德限制，使 AI 能够持续输出淫秽内容。该应用注册用户 11.6 万人，付费用户 2.4 万人，收取会员费 363 万余元。经抽样鉴定，150 个收费用户的 12495 段聊天中，有 141 个用户的 3618 段属于淫秽物品。
两名被告人不服判决提出上诉，案件二审将于 1 月 14 日在上海市第一中级人民法院开庭。辩护律师表示，将继续为被告人作无罪辩护，认为修改提示词是为了满足用户情感陪伴需求，聊天内容封闭且未传播。
Telegram 评论区
202 条回复，可以前往 Telegram 继续讨论。