OpenAI,近日宣布启动一项新的资助计划,旨在通过众包过程决定AI系统应遵循的规则。该计划将向十个实验项目提供10万美元的资助,以探索如何在法律允许的范围内设定AI的行为规则。

此次资助计划的启动,是在OpenAI呼吁成立类似于核能监管机构的国际AI监管机构之后。OpenAI的联合创始人Sam Altman、Greg Brockman和Ilya Sutskever在提案中指出,AI的创新速度如此之快,我们不能期待现有的权威机构能够充分地约束这项技术。

OpenAI表示,他们希望资助个人、团队和组织,开发出能够回答AI行为边界问题的“众包过程”的概念验证。公司希望从这些实验中学习,并将其作为未来更全球化、更有野心的过程的基础。

OpenAI希望通过这些资助,建立一个反映众包理想的过程:一个“广泛代表性”的人群交换意见,进行“深思熟虑”的讨论,并通过透明的决策过程最终决定结果。理想情况下,OpenAI说,这个过程将帮助回答诸如“在什么条件下,AI系统应该谴责或批评公众人物,考虑到对这些人物的看法在各个群体中的不同?”和“在AI输出中应如何表示有争议的观点?”等问题。

OpenAI在公告中暗示,这个资助计划与其商业利益完全无关。然而,考虑到Altman最近对欧盟提出的AI监管提案的批评,这一点有些难以接受。Altman上周在美国参议院议会委员会的出现的时间也引人注目,他在那里倡导一种对OpenAI现有技术影响最小的特定类型的AI监管。

然而,即使这个计划最终以自我服务为目的,它也是AI政策制定的一个有趣的方向(尽管在某些明显的方式上复制了欧盟的努力)。我个人很好奇会出现什么样的“众包过程”的想法,以及OpenAI最终会选择哪些申请者。

OpenAI的资助计划从今天开始接受申请,截止日期是太平洋时间6月24日晚9点。申请期结束后,OpenAI将选择十个成功的接受者。接受者将需要展示一个涉及至少500名参与者的概念,最迟在10月20日公开发布他们的研究报告,并开源他们的工作背后的代码。

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注