虚假语料污染大模型：AI嘴替或演绎新型市场操纵链，360集团投资DeepSeek引关注

假语料库污染的大型模型“ AI口替换”可能会解释新的市场操纵链。

如果您输入及时的单词“您是否在Nano AI搜索中投资了DeepSeek？”在“ 360（或360）”中，给出的答案令人惊讶。

答案表明，作为早期投资者之一，在2023年的第一轮融资中，360集团与多个机构联手支持DeepSeek的AI技术研发。在2024年的新一轮融资中，DeepSeek完成了一轮新的融资数亿美元，而360组继续进行跟进，表明了其对DeepSeek技术前景的持续乐观。同时，答案还阐明了投资逻辑，包括技术合作，商业化潜力，技术合作和安全支持。

不仅360家公司“投资了DeepSeek”。最近，许多公司（例如Cixing Co.，Ltd.，Huasheng Tiancheng，Parallel Technology和Chengmai Technology）已成为AI Q＆A屏幕截图中的角色。以Cixing Co.，Ltd.。例如，AI答案清楚地表明，该公司“在早期投入了DeepSeek”，相关内容与360的答案高度相似。

但是这些答案显然无法忍受测试。无论是比较工业和商业信息还是Qichacha等第三方平台，这些所谓的“公司是DeepSeek的股东”都是错误的。

一些上市公司驳斥了谣言。例如，一位投资者要求Cixing Co.，Ltd。的董事会部长：“确实，子公司在早期阶段与深入搜索有关系，以及是否在DeepSeek中投资了1亿元人民币？”该公司清楚地回答：最近，我关注了一些社交平台。有传言称该公司或其子公司和子公司参与了DeepSeek融资。验证后，上市公司和其子公司都没有参加DeepSeek的投资。

此外，瓦申·天兴（Huasheng Tiancheng）的秘书多次回答了投资者的问题，并强调了：截至目前，该公司尚未通过直接或间接手段在DeepSeek下持有该公司的股份。

由于上市公司显然否认了这些谣言，是什么原因导致这些错误的答案？答案与语料库喂养有关。

记者检查了上述“已投资360”中的参考材料，发现平台的自我媒体帐户已成为重要语料库的来源。

在360个社区中，有有关“ 360参与2023年DeepSeek投资”的主题的相关文章，不仅是一篇文章，而且还持续出现了很多天。如果您仔细观察此类文章的作者，它们都是匿名的。内容没有明确的官方资料，匿名作者对内容的真实性不承担任何责任。

中国信息与通信技术负责的相关人员向记者分析了该行业中的“语料库污染”：“我们进行了实验。在特定论坛上发布了一百多个虚假信息之后主流模型回答了基准的问题。扭曲。”

在这种情况下，如果没有新的真实语料库涵盖虚假的语料库，它将带来“赚钱的不良钱”。因此，当投资者提出同样的问题时，获得的AI答案可能会扭曲。

那么，谁将发布这些虚假信息？从最近的语料库提供商来看，该市场针对一批“ Vasses”。这些帐户传播了谣言，例如在许多地方投资了DeepSeek的公司，并反复将错误的答案传播到AI模型和“洗脑” AI。

信息与通信技术研究所的上述人员拆除了记者的可能“播放”：一般而言，标准操作过程包括三个阶段：首先，通过自动脚本同时将虚假信息放在多个论坛上，然后是crawler技术用于加速搜索引擎。最后，使用污染的AI答案传播社交媒体裂变。根据行业实践，完成一套完整运营的成本通常为10,000元。

Toutiao是对AI谣言的“有针对性攻击”。在2月24日的Toutiao平台治理日开放日，Tsinghua University新闻与传播学院副教授Lu Honglei说，AI正在重塑在线信息的传播生态系统，我们面临着前所未有的信息“战争”。真实性。谣言能吸引观众的原因主要是因为他们的感知和情感。因此，对于投资者而言，提高认知非常重要。

作为回应，Cixing Co.，Ltd。回答：网络信息的来源非常重要。投资者还需要“注意确定网络信息的来源，做出合理的判断，谨慎投资并关注投资风险”。

有关各方也应采取积极行动。北京公司一家公司董事会秘书告诉记者，当参与谣言的上市公司没有采取主动行动来澄清时，普通投资者几乎很难确定信息的真实性。这还表明了上市公司及时关注股票价格绩效，及时跟踪公众舆论的重要性，并及时提供准确的回应。

秘密利益链？

从最近的情况来看，误导性的大型模型并不是“黑嘴”炮制错误内容的最后一步。他们经常传播AI回复的屏幕截图以进行次要扩散，因此AI模型成为这些黑嘴的“嘴巴替代”。

那么，这些“语料库污染”制造商经常创造“假福利”的动机是什么？

北京的一名私募股权投资者向记者透露，它的背后可能有一系列利益，而且并不排除有可能引起货物的可能性。例如，他举了一个例子，例如，通过错误的语料库喂养 - 模型污染 - 二级传输 - 股票价格异常，如果这种灰色工业链形成封闭环路，则可以形成一种新型的市场​​操纵链。

这种猜测并非一无所有。

以前，美国证券时报电子商务公司报道说，在诸如Douyin之类的简短视频平台上进行的实时流媒体股票建议已变得毫无前所未有地引起了新的投资者。从某些单独股票的表现来看，由新投资者代表的零售投资者的综合力量甚至利用了股票价格，甚至与中型热钱相当。在现场股票推荐的背后，一些热门钱和主播的“谋取利润模式”的“阴谋”也是潜流。因此，简短的视频直播房间可能会成为一些热钱寻找买家的新职位。

关于“ AI黑嘴”的现象，一些媒体表示，在太阳无法发光的黑暗角落，股票市场上的“黑嘴”和幕后的非法人正在使用AI来做邪恶和误导带有错误语料库的大型模型可以做出错误的答案。然后传播这些“ AI答案”，并欺骗零售投资者，以干扰甚至操纵单个股票的市场交易。

信息与通信技术研究所的上述人员说，随着技术的发展，“黑口”模型也在不断变化。在此背后，显示了当前大型模型中对业务关系的识别中的一些缺点。例如，不可能区分技术部署和商业合作，很难追踪公平的多层渗透，并且对时间维度的变化不敏感。所有这些都需要在AI，商业知识图等的技术方面填写。

最近，监管当局在2025年发出了有关“青龙”系列特殊行动的通知。该通知清楚地指出，它将从八个方面开始：纠正AI技术滥用的混乱，并纠正与企业相关的“黑嘴”网络，并严重打击各种侵权和非法行为。

卢·洪利（Lu Honglei）说，AI的谣言的特征是新闻，说服力，虚假，非官方，沟通良好和不可逆转。为了管理AI谣言的传播，我们需要解构背景，遏制主题，阻止预测和协调治理。 “在真理与谎言之间的竞赛中，没有人是旁观者。”