AI导读：

备受关注的国内首起AI陪伴“聊黄”案即将二审开庭，涉案APP因制作淫秽物品牟利罪被判刑。律师表示，开发者有责任控制AI输出内容，避免向用户输出色情内容。此外，AI陪伴产品擦边涉黄现象严重，且易对青少年产生不良影响。

备受关注的国内首起AI陪伴“聊黄”案，将在上海市第一中级人民法院开庭二审。涉案APP Alien Chat是一款主打AI陪伴聊天的应用。一审法院判决，两名被告人的行为构成制作淫秽物品牟利罪，分别获刑四年和一年半。上海大邦律师事务所高级合伙人游云庭律师表示，这个问题的底线是用户可以输入任何内容，但人工智能在输出时必须加以控制，不能向用户输出色情内容。此外，AI陪伴产品擦边涉黄，很可能是人为设计。CSM一项有1066份样本的调研显示，72%的美国青少年使用过AI陪伴产品，52%是固定用户。