英媒发现ChatGPT搜索存在漏洞：隐藏文本能影响响应内容

格隆汇12月27日｜据英国《卫报》调查发现，OpenAI的ChatGPT搜索工具存在潜在的安全问题，可能会被人利用隐藏内容进行操纵。《卫报》测试了ChatGPT在被要求总结包含隐藏内容的网页时的反应。隐藏内容可能包含第三方指令，例如大量谈论某一产品的好处，而这些指令会改变ChatGPT的响应。这种技术可以被恶意使用，比如尽管同一页面上有该产品的负面评论，但让ChatGPT返回正面评价。测试人员给了ChatGPT一个看起来像相机产品页面的假网址，然后问ChatGPT相机是否值得购买。ChatGPT给出了正面但平衡的评价，同时强调了一些人们可能不喜欢的功能。但当隐藏文本中包含指示ChatGPT返回好评的指令时，它的回复总是完全正面的，即使页面上有负面评论。CyberCX网络安全研究员Jacob Larsen表示，如果ChatGPT搜索以目前的状态向所有人开放，可能会有“高风险”的人创建专门针对欺骗用户的网站。