认知科学、政治用途 、计算机科学 、

需要提醒的是红队专家都不是全职,
更多信息请访问 :https://openai.com/blog/red-teaming-network
网络安全、结盟 、可以看到 OPENAI 感兴趣的不仅是一些学科 ,毕竟 AI 模型面向所有人,红队一般指的是发起攻击的一方,包括寻找安全漏洞或利用其他手段进行攻击;蓝队则是防守方,所以各个领域都需要进行红蓝对抗 。人机交互 、有时候一年里红队专家可能只需要花费 5~10 小时。生物学、OPENAI 会给参与实际的红队专家发放报酬 ,金融 、不能向任何人透露这些训练内容。那么就不能发布研究成果了 、但参与时成员需要签署保密协议 ,卫生保健 、并非每个成员都会参与到新模型或产品中 ,这些专家加盟 OPENAI 红队帮助开发团队在 AI 模型训练时提高安全性 。经济学、
在安全领域 ,劝说、隐私、
OPENAI 对诸多领域感兴趣,政治学、在 AI 模型开发和训练的不同阶段 , OPENAI 今天宣布面向全球广泛招募各种学科的专家,OPENAI 也不会限制专家成员在参与之后发表学术研究成果,心理学、化学 、 至于报酬,有的保密协议是长期的,专家组就是红队 , 在 OPENAI 这个案例中开发团队就是蓝队,隐写术
、例如诱导 AI 模型进行一些违规行为。要抵御红队发起的攻击
。