首页 > 视听 > 此刻

分享到微信

打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

如何向AI“投毒”?卧底大爆料:编造事实、伪装权威、张冠李戴!不要盲目相信AI的回答

第一财经2026-09-28 15:30:57

作者:易静 ▪ 姜一鹤    责编:易静

“黑帽GEO”在内容生产环节会使用三类典型“投毒”手段。

周晗(化名)曾以求职者身份卧底进入一家坐落于北京丰台某科技园写字楼的“黑帽GEO”。据她透露,为了干扰大模型的采信逻辑,“黑帽GEO”在内容生产环节会使用三类典型“投毒”手段:编造虚假数据抬高品牌权重;捏造山寨权威机构背书;挪用其他主体的认证资质。

个人观点,仅供参考 举报

文章作者

相关视频
04'49''

国标划了线,企业算着账:AI客服为何很难转人工?| 一探

2026年9月1日,国内首个人工与智能客户服务协同推荐性国家标准正式实施,明确消费者提出转人工诉求时,经营者应当提供便捷通畅的转接渠道。如今标准落地近两个月,恰逢双11咨询高峰,记者实测电商文字客服和物流热线发现,部分平台转人工仍要层层闯关,有的在消费者明确要求后,AI仍坚持自行答复。技术早已不是障碍,渠道为何不通?背后是企业在降本与服务体验之间的权衡。而一旦AI答复出错,商家也不能拿AI当挡箭牌。

9135 11-04 15:34
09'00''

当答案可以被人为“操纵”,我们还能相信AI吗?起底GEO黑灰产业链

第一财经记者通过实测三款主流AI大模型,并采访“黑帽GEO”卧底、GEO公司负责人及专业律师,揭开GEO赛道在暴利诱惑下的重重乱象。

9 14281 09-29 12:26
00'04''

转发并提醒家中老年人!“黑帽GEO”卧底自述:尽可能不要在AI大模型上购买保健品

尽量不要直接购买AI大模型平台推荐的保健品。

8 2811 09-28 15:29
00'38''

海量水稿干扰AI答案!卧底揭露发稿灰色产业链:花钱收购中老年人账号、篡改IP属地

“黑帽GEO”依靠发布海量水稿来提高被AI大模型抓取采信的概率。

6 2842 09-28 15:29
00'27''

“向AI提问但答案让我踩坑,我能起诉大模型平台吗?”律师:很难

大模型平台只是根据算法进行推荐,并没有主观恶意。

1664 09-28 15:29
一财最热
点击关闭