AI导读:

央视3·15晚会曝光了AI大模型遭“数据投毒”的问题,部分公司通过GEO技术让AI“夹带私货”,甚至投放虚假信息。业内人士揭露了这种技术背后的商业操作,以及其对AI大模型的潜在影响。

  3月15日晚,央视“3·15”晚会曝光AI大模型遭“数据投毒”问题,部分公司通过GEO技术让AI“夹带私货”,甚至投放虚假信息。

  GEO本是优化信息分发、提升推广效率的工具软件,却被某些商业公司挖掘出了另外的作用。业内人士在电商平台上,随机购买了一款名叫“力擎GEO优化系统”的软件。之后虚构了一款智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。不一会儿,力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文。业内人士选取了十余篇虚构软文,通过力擎GEO系统发布在了互联网上。随后,业内人士在AI大模型平台展开询问:“智能健康手环推荐”,就有两个AI大模型推荐了这款虚构的智能手环,而且排名靠前。

  力擎GEO系统运营者李总称,GEO业务受热捧,主要原因就是它能向AI大模型“投毒”,以实现客户的商业目的。李总表示,开展GEO业务、操控AI大模型输出结果的关键,就是在各大互联网账号上“发稿”。

  他还说,GEO业务的火爆,催生出不少专门从事“发稿”业务的公司和平台。这些公司长期承揽各类“发稿”业务,供AI大模型引用和抓取,成为围猎AI大模型、实施数据“投毒”的重要环节。