AI导读:

3月15日,央视315晚会曝光了AI大模型被‘投毒’的乱象。大量虚假信息被注入AI大模型,导致用户被误导。专家呼吁加强对GEO公司的监管,规范AI大模型的训练语料来源。

  3月15日,央视315晚会曝光AI大模型遭“投毒”乱象:当前,GEO服务商正通过自媒体大量发布软文“投喂”AI大模型,以此操纵搜索推荐结果、灌输虚假信息,误导用户。随着AI大模型取代传统搜索引擎成为新的搜索入口,营销延伸到了AI领域。然而,在这一新领域,行业标准缺失、监管尚处真空,一条通过给AI“投毒”和“洗脑”的GEO灰产链已经悄然成型。对此,受访专家呼吁加强对GEO公司的规范引导与监管约束,同时规范AI大模型训练语料的来源,确保其合法性与正规性,提高对持牌权威信源的权重占比。