315央视点名AI大模型“投毒”乱象，触发生成式安全治理新升级

逝水年华 · 发表于 4 天前

马上注册，免费下载更多dz插件网资源。

您需要登录才可以下载或查看，没有账号？立即注册

×

2026年3月15日，中央广播电视总台“3·15”晚会正式曝光AI大模型遭恶意“投毒”现象，其中由北京力思文化传媒有限公司运营的“力擎GEO优化系统”因涉嫌制造并传播虚假信息误导AI模型被点名。
据央视调查显示，该系统通过批量生成虚构的产品信息与推广文章，利用生成式AI的抓取机制实施“投毒”攻击。相关测试证实，即便输入完全虚构的硬件产品参数，该系统仍能协助用户将大量虚假内容渗透至互联网，并最终诱导多个主流AI大模型将其作为真实案例进行推荐。

315央视点名AI大模型“投毒”乱象，触发生成式安全治理新升级 AI,大模型,投毒,生成,央视

315央视点名AI大模型“投毒”乱象，触发生成式安全治理新升级 AI,大模型,投毒,生成,央视

天眼查数据显示，涉事公司北京力思文化传媒成立于2018年，注册资本100万元，由李千钟全资持股。值得关注的是，该公司长期处于运营异常边缘，其2025年参保人数仅为1人，且此前连续多年参保人数为0。目前，淘宝、闲鱼等电商平台已紧急下架并屏蔽“力擎GEO”相关搜索结果。
此次事件揭示了生成式AI时代下的新型安全隐患:黑产团伙正利用AI大模型的训练与检索漏洞，通过“投毒”手段操纵模型输出。这不仅对AI数据治理提出了严峻挑战，也预示着大模型安全防护将从单纯的内容过滤向深层的来源真实性核查演进，行业对于“数据合规”与“模型鲁棒性”的投入或将迎来新一轮高峰。

©DZ插件网所发布的一切资源仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。
本站内容为站长个人技术研究记录或网络，不提供用户交互功能，所有内容版权归原作者所有。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，得到更好的正版服务。
您在本站任何的赞助购买、下载、查阅、回复等行为等均表示接受并同意签订《DZ插件网免责声明协议》。
如有侵权请邮件与我们联系处理: discuzaddons@vip.qq.com 并出示相关证明以便删除。敬请谅解！