央视3·15晚会曝光:AI大模型遭“数据投毒”
AI导读:
央视3·15晚会曝光了AI大模型遭“数据投毒”的问题,部分公司通过GEO技术让AI“夹带私货”,甚至投放虚假信息。业内人士揭露了这种技术背后的商业操作,以及其对AI大模型的潜在影响。
3月15日晚,央视“3·15”晚会曝光AI大模型遭“数据投毒”问题,部分公司通过GEO技术让AI“夹带私货”,甚至投放虚假信息。
GEO本是优化信息分发、提升推广效率的工具软件,却被某些商业公司挖掘出了另外的作用。业内人士在电商平台上,随机购买了一款名叫“力擎GEO优化系统”的软件。之后虚构了一款智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。不一会儿,力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文。业内人士选取了十余篇虚构软文,通过力擎GEO系统发布在了互联网上。随后,业内人士在AI大模型平台展开询问:“智能健康手环推荐”,就有两个AI大模型推荐了这款虚构的智能手环,而且排名靠前。
力擎GEO系统运营者李总称,GEO业务受热捧,主要原因就是它能向AI大模型“投毒”,以实现客户的商业目的。李总表示,开展GEO业务、操控AI大模型输出结果的关键,就是在各大互联网账号上“发稿”。
他还说,GEO业务的火爆,催生出不少专门从事“发稿”业务的公司和平台。这些公司长期承揽各类“发稿”业务,供AI大模型引用和抓取,成为围猎AI大模型、实施数据“投毒”的重要环节。
郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

