警惕AI大模型成股市黑嘴新工具，如何防范虚假信息误导投资者？

最近，记者发现，以AI Q＆A屏幕截图形式的大量虚假信息已在股东平台上传播。在这些屏幕截图中，多个帐户会导致AI模型给出错误的答案 - 将上市公司与DeepSeek联系起来，从而炮制虚假概念，误导投资者并引起公司股票价格的波动。

使用AI模型传播谣言正在成为股市“黑嘴”的新例行程序。一组帐户首先在在线平台上广泛制造的虚假信息，导致虚假内容的传播。当AI再次回答相关问题时，以上错误信息包含在源范围中，并且大型模型语料库被“污染”，从而给出了错误的答案。

AI模型正在迅速迭代和迅速发展，从而导致了一些新现象和新问题。如何避免AI成为股票市场操纵市场的工具？如何避免AI模型中包含错误的信息源，从而导致大量虚假信息？所有各方都值得深入思考。

许多上市公司成为“ AI产生谣言”的主角

在互联网上流传的屏幕截图中，发问者通过指导性问题引起了AI模型，声称这些上市公司在DeepSeek中拥有股份或向其提供技术支持等，然后在各种平台上传播这些屏幕截图，从而引起投资者的热烈讨论。根据上海证券新闻的记者的统计数据，涉及的公司包括Cixing Co.，Ltd.，Huasheng Tiancheng，Parallel Technology，Chengmai Technology，360，ETC。

作为回应，许多公司已经进行了澄清，称该公司没有在DeepSeek下持有该公司的股份，也没有合作。

Huasheng Tiancheng于2月11日在Exchange Interactive Platform上回答：截至目前，该公司尚未通过直接或间接手段与DeepSeek相关的公司股份。

Cixing Co.，Ltd。还在交互式平台上明确了这一点：它已经注意到，在某些社交平台上，该公司或其子公司和子公司参与了DeepSeek融资。验证后，上市公司和其子公司都没有参加DeepSeek的投资。建议投资者注意确定网络信息的来源，做出合理的判断，谨慎投资并注意投资风险。

值得注意的是，许多上市公司目前被归类为DeepSeek概念股票，但实际上，他们只完成了DeepSeek的本地化部署。他们与他们没有业务合作，因此联系很牵强。记者发现，最近，许多A股份上市公司因股票价格异常而发出了与DeepSeek相关的澄清公告，提醒投资者风险。

财务评论员Cao Zhongming表示，上市公司已成为概念股票或主题股票，或者其主要业务与IT有关，或者与Equity有关，或者已投资资金，或者已发布公告以披露其投资意图。但是，如果它与某个概念或主题无关，那么当然，就不可能成为某种概念库存或主题库存。

高频错误消息传递可能会影响大型模型的准确性

使用AI模型传播谣言正在成为股市“黑嘴”的新例行程序。一组帐户首先在在线平台上广泛制造的虚假信息，导致虚假内容的传播。当AI再次回答相关问题时，以上错误信息包含在源范围中，并且大型模型语料库被“污染”，从而给出了错误的答案。

一位行业退伍军人向记者透露，大型模型的当前“语料库污染”可以分为几类：一个是数据注入，它指的是互联网和其他渠道所引用的信息，作为虚假信息；第二个是数据中毒，它是指大量干扰和无效文本，这会影响有效信息的学习和处理；第三是数据欺骗，它表现为模仿他人的语气或身份的信息，这是大型模型被误判和采用的。第四是数据伪造，它是指大型模型中包含的一些捏造的虚假信息。

该人说，当前的网络虚假信息可以通过自动化工具分批生成，这增加了管理大型模型语料库的困难。同时，由于当前的中国语料库市场面临着稀缺语料库的问题，因此大型模型通常从在线渠道大规模捕获数据，从而导致错误信息的持续积累和进一步的虚假信息泛滥。

“如果互联网在一定时间内具有高频和多个错误信息，则向大型模型提出此类问题将引起严重的虚幻幻觉，这将影响模型参数并通过启动“合理的填充”机制来构成虚假事实。”中国信息与通信技术学院东部中国分公司人工智能部工业生态学部工业生态学负责人Liu Yuzhong说。

Liu Yuzhong建议，在使用大型模型，用于投资和财务管理的情况下，涉及事实的问题，尤其是在使用不充实的版本时，需要交叉验证，或诸如“请检查内容是真实的”之类的及时词来指导正确的答案。

如何避免大型模型中包含错误的信息源？ Liu Yuzhong说，虚假信息的传播应从技术层面监管。训练和调整大型模型时，我们必须加强数据源治理和模型偏差校正机制。应建立动态数据清洁和验证过程，应介绍权威来源的“白名单”，并应优先考虑可靠的数据，例如政府机构，学术期刊和领先的企业，并应通过对抗性培训来提高模型识别虚假信息的能力。对于受污染的数据，需要开发实时监控工具，并结合知识图交叉验证，及时纠正模型输出中的错误关联，并阻止错误答案的自我增强周期。

它应该由多方共同管理

使用AI将虚假信息传播为“嘴巴替代”不能成为相关负责方责任责任的“盾牌”。

Jintiancheng律师事务所的律师Li Wenbing认为，首先，帐户经营者无疑是主要责任承担者，并且可能会根据其过错程度和行为表现承担民事，行政甚至刑事责任。其次，在线平台应为已发表的内容采用实质性审查机制，并承担相应的实质性责任。同样，诸如DeepSeek之类的AI开发人员应防止相关推理滥用并限制主题和应用程序范围的范围。此外，监管机构应建立信息可追溯性机制来跟踪虚假信息的来源，并对负责的客户运营商，在线平台和AI开发人员处以罚款。

目前，AI模型正在迅速迭代和发展，并且出现了一些新现象和新问题。罪犯已经使用了相关的漏洞来“利用漏洞”，而且风险值得保持警惕。

康德智囊团的专家丁·亚林（Ding Yanling），上海兰迪律师事务所的高级合伙人，兰迪国家犯罪委员会的副主任，告诉记者，要控制这种混乱，我们必须首先加强技术监督，开发具有AI内容识别技术的监管工具，使用AI内容识别技术，识别AI产生的虚假信息，并迅速发现并阻止虚假信息的广泛信息。同时，加强数据监督以确保AI培训数据的真实性和合法性并防止数据污染。

第二个是改善相关法律。在当前的技术发展中，立法的及时性也是法律专业人员需要考虑的问题。根据保持谦虚的原则，市场的繁荣实际上需要对行政和民事责任进行更多的监督。在当今技术发展的时代，非常有必要阐明保护AI生成内容，澄清法律责任主题并增加非法犯罪成本的原则。

第三是行业自律。我们必须促进金融业以制定AI应用的道德规范，明确禁止使用AI来操纵市场，并在AI技术创新与预防和控制财务风险之间取得平衡。

资本市场中的各种信息都混杂在一起，很难区分真实和错误，普通投资者在区分它时需要更加谨慎。 “ AI只是一种帮助我们收集信息的工具。我们应该对AI产生的投资建议谨慎，从多个政党核实该建议，并避免误导性。最重要的是，基于我们自身的风险承受能力，合理地投资，制定合理的投资策略，并不盲目遵循这一趋势。”丁·扬林说。