反正闲着也是闲着，不如来给ChatGPT找漏洞？毕竟，万一真的找到漏洞了还能赚一笔外快。
当地时间 4 月 11 日，OpenAI 宣布推出漏洞赏金计划。该公司将根据报告问题的严重性和影响提供现金奖励，奖励范围从 200 美元到 20000 美元。
OpenAI 称，大多数发现的初始优先级评级将使用漏洞赏金平台 Bugcrowd 的漏洞评级分类法。
然而，漏洞优先级和奖励可以根据可能性或影响进行修改，由 OpenAI 自行决定。如果出现降级问题，安全研究人员将得到详细的解释。
Open AI表示，在发布任何新系统之前，会进行严格的测试，聘请外部专家进行反馈，通过人工反馈的强化学习等技术来改善模型的行为，并建立广泛的安全和监控系统。
Open AI认为，强大的人工智能系统应该接受严格的安全评估。需要进行监管以确保此类做法得到采纳，他们积极与政府就此类监管的最佳形式进行接触。
一看这奖励，确实是让人心动啊，而且只要用过ChatGPT的人都应该有感觉到，ChatGPT是属于有点智慧但不多，有用但有限的情况。
说要找bug，那不是轻轻松松的事？但是看看这个说明，似乎并不轻松。
在公告中，OpenAI已经表明，出于修复可行性的考量，模型本身的问题并不在此次计划的范畴之内。
而让其进行说坏话、做坏事、生成恶意代码等绕过安全措施或产生机器幻觉的行为，都属于模型本身的问题。
更不必说错误或者不精确的回答了。
OpenAI希望收集的有关ChatGPT的漏洞，主要是关于其账号、认证、订阅、支付、会员和插件等问题。对于普通用户来说，从这些角度发掘漏洞好像有些难度了。
那么OpenAI 的漏洞赏金计划能起到多大的实际作用呢？
根据 AI 网络安全公司 DarkTrace 的数据，从 1 月到 2 月，基于 AI 的工程攻击增加了 135%，这与 ChatGPT 的问世有很大关系。
因此，尽管这份赏金计划受到一些技术专家的欢迎，但也有很多人不看好，他们认为该计划不太可能完全解决日益复杂的 AI 技术带来的广泛网络安全风险。
毕竟，该计划的范围仅限于可能直接影响 OpenAI 系统和合作伙伴的漏洞，它似乎无法解决对恶意使用此类技术（如模拟、合成媒体或自动黑客工具）的更广泛担忧。
要知道，漏洞赏金计划是在一系列安全问题的背景下推出的。例如，在发布 3 天后，GPT-4 就为自己制定了外逃计划，甚至声称可以它可以控制计算机，还索要开发文档和 API。
上个月，ChatGPT 还因巨大漏洞宕机数个小时，具体原因是部分用户能看到其他用户的聊天内容和支付信息。这为 AI 模型的隐私保护再次敲响警钟。
也许是受到这些问题的冲击，OpenAI 启动了这项赏金计划，不知道这次能有多少人拿到这笔奖金呢。
本文链接：https://my.lmcjl.com/post/5109.html
4 评论