近期，记者发现有大量以AI问答截图形式的虚假信息在股民平台传播。这些截图中，多个账号利用AI大模型给出错误答案，将某上市公司与Deepseek强行关联，炮制虚假概念误导投资者，并引发公司股价剧烈波动。

股市“黑嘴”借AI大模型散播谣言成新趋势。一批账号在网络平台广泛制造不实信息，导致虚假内容迅速扩散。当AI再次回答相关提问时，这些不实信息被纳入信源，导致大模型语料库“污染”，进而给出错误答案。

AI大模型迭代迅速，发展迅猛，但也带来了新的挑战和问题。如何防止AI沦为股市“黑嘴”的工具？如何避免虚假信息被AI纳入造成泛滥？这些都是亟待解决的问题。

多家上市公司无辜躺枪成“AI谣言”主角

网传截图中，提问者通过诱导性提问，让AI大模型作出特定回答，声称上市公司参股DeepSeek或提供技术支持，随后截图传播，引发投资者热议。涉及公司包括慈星股份、华胜天成、并行科技、诚迈科技、三六零等。

对此，多家公司纷纷澄清，表示与DeepSeek无关联。华胜天成在交易所互动平台明确回复未持有DeepSeek股份。慈星股份也明确表示未参与DeepSeek投资，提醒投资者注意甄别网络信息。

值得注意的是，不少上市公司被错误地归为DeepSeek概念股，实际上仅完成了DeepSeek本地化部署，并无实质性业务合作。近期，多家A股上市公司因股价异动发布澄清公告，提示DeepSeek相关风险。

股市热点频出，如何辨别真假信息尤为关键。财经评论员指出，上市公司成为某概念股需具备实质性关联，否则不可能成为相关概念股。

高频错误信息投放或降低大模型准确度

股市“黑嘴”利用AI大模型散播谣言已成新套路。不实信息在网络平台广泛传播，导致AI大模型语料库受到污染，给出错误答案。

行业资深人士透露，大模型“语料污染”包括数据注入、数据中毒、数据欺骗和数据伪造等。不实信息可经自动化工具批量生成，增加治理难度。中文语料稀缺，大模型从网络抓取数据，错误信息累积，导致不实信息泛滥。

中国信通院专家表示，高频错误信息投放会影响大模型准确度，产生不真实幻觉问题。建议投资理财等事实类问题需交叉验证，引导正确答案。

避免虚假信源被纳入大模型，需从技术层面规制信息传播。强化数据源治理与模型纠偏机制，建立动态数据清洗和验证流程，引入权威信源“白名单”，提升模型对虚假信息的识别能力。

多方共同治理方能见效

利用AI散播虚假信息不能成为责任主体推诿的借口。律师指出，账号运营者承担主要责任，网络平台应实质审查内容并承担责任，AI开发者应防止滥用并限制应用范围。监管部门应建立信息溯源机制，处罚有责任主体。

康德智库专家表示，治理这一乱象需加强技术监管和数据监管，开发AI内容识别技术监管工具，识别虚假信息，及时阻断传播。完善相关法律，明确AI生成内容保护原则和法律责任主体。推动金融行业制定AI应用伦理规范，禁止利用AI操纵市场。

投资者需谨慎辨别资本市场信息，对AI投资建议保持谨慎，进行多方验证。理性投资，制定合理投资策略，避免盲目跟风。

（文章来源：上海证券报）