AI导读:

今年“3·15”期间,AI大模型“投毒”乱象引发关注。一款名为GEO的软件工具通过付费就能让客户产品成为AI回答中的“标准答案”。记者调查发现,GEO系统正在电商平台以极低门槛渗透,最低9.9元即可试用。这种操作不仅违法违规,还深刻影响AI大模型的公信力。

今年“3·15”期间,AI大模型面临的“投毒”乱象被推至聚光灯下。一款名为生成式引擎优化(GEO)的软件工具浮出水面——服务商宣称,只需付费,就能让客户产品在主流AI大模型的回答中“榜上有名”,甚至令虚假广告摇身一变成为“标准答案”。证券时报记者调查发现,GEO系统正以极低的门槛大肆渗透。在电商平台上,最低9.9元即可试用,操作过程极为简单,给违法违规行为留下了巨大的操作空间。当AI日益嵌入日常生活,大模型为何频频被GEO系统“挟持”,值得深思。