AI导读:

央视315晚会曝光了“AI投毒”产业,记者通过暗访揭示了背后的乱象。有人向AI大模型投毒,制造虚假内容欺骗消费者。这场曝光引发了行业内的讨论和反思,也引出了关于AI行业治理和监管的问题。

央视315晚会的曝光,揭开了“AI投毒”这个隐秘产业的口子。通过暗访发现,用户在AI对话框里敲下一个问题,得到的那个看似公允的答案,可能早就被人在后台精心设计过了。这场曝光揭开了GEO产业链背后的乱象与本质。有人专门向AI大模型“投毒”,批量制造虚假的测评、虚构的排行榜,甚至凭空捏造出一款根本不存在的智能手环,然后通过自动化软件把内容铺满互联网的角落。