划重点:
- 微软启动了一项新的ai漏洞悬赏计划，奖励安全研究人员发现bing ai产品中的漏洞，奖金范围从2，000美元到15，000美元。
- 参与计划的产品包括bing ai套件、bing chat for business、bing image creator，以及bing与microsoft start app和skype mobile app的ai集成。
- 微软寻找“提示注入”攻击、影响openai的gpt-4的漏洞、虚假或冒犯性聊天消息，以及疑似代码和系统提示泄漏等漏洞。
站长之家（chinaz.com）10月16日 消息:微软最近宣布推出了一项名为"bing ai漏洞悬赏计划"的新举措，旨在鼓励安全研究人员发现bing ai产品中的漏洞。这一计划提供了丰厚的奖金，奖励范围从2，000美元到15，000美元，以吸引全球范围内的研究人员参与。
参与该计划的产品包括bing ai套件、bing chat for business、bing image creator，以及bing与microsoft start app和skype mobile app的ai集成。微软明确表示，他们希望找到各种漏洞，包括“提示注入”攻击，这也会影响到openai的gpt-4，以及虚假或冒犯性的聊天消息，还有疑似代码和系统提示泄漏等问题。
微软提供了一个名为msrc researcher portal的平台，供研究人员报告这些漏洞，同时也欢迎针对计划的问题发送邮件至bounty（at）microsoft.com进行咨询。奖金的数额将根据漏洞的严重程度和质量来确定。更多信息可以在微软ai漏洞悬赏计划的官方网站上找到。
这一计划的推出背后，是bing chat自今年2月推出以来遭遇一系列问题的背景。尽管在发布之前微软已经意识到了这些缺陷，但他们仍然决定推出bing chat。一项由algorithmwatch进行的研究显示，bing chat在与选举相关的信息方面提供了不准确的数据。尽管存在这种不可靠性，微软仍然将bing chat作为信息来源提供。此外，微软还将bing chat用于未标记的产品广告。
然而，尽管起步并不顺利，bing chat从2023年5月开始已经普及。微软正在类似于openai的chatgpt的方式扩展bing chat，增加了新功能，如图像回复、聊天历史以及插件，以将其从产品发展为平台。微软还将bing chat集成到其edge浏览器和其他浏览器中，并提供了企业版。类似于chatgpt的插件概念，例如opentable或wolfram alpha，旨在帮助处理更复杂的任务，如餐厅预订和数学问题。
具体来说，微软希望bing chat能挑战谷歌在搜索领域的主导地位，并有望创造一个新的内容生态系统。但微软首席技术官kevin scott最近告诉the verge的nilay patel，他们目前取得的市场份额增长只是“小幅增长”，尽管他们是以一种前所未见的方式做到的。
