为了防范人工智能（AI）带来的重大风险，OpenAI决定赋予董事会更大权力，并对上个月刚刚赢得“宫位之争”的CEO山姆·奥尔特曼下了“紧缩魔咒”。
OpenAI 于东部时间 12 月 18 日星期一发布了一系列指南，旨在“跟踪、评估、预测和预防日益强大的 (AI) 模型带来的灾难性风险”。
这份名为“准备框架”的长达 27 页的指南指出，即使公司领导层（即首席执行官或领导层指定的人）认为公司董事会可以选择推迟发布人工智能模型，该模型是安全的。 它认为，虽然 OpenAI 的首席执行官将负责日常决策，但董事会将了解有关风险的调查结果，并可以否决首席执行官的决定。
除了规定公司领导层和董事会的权限外，OpenAI的准备框架主要建议使用矩阵方法来记录多个类别的尖端AI模型所带来的风险水平，包括不良行为者利用AI模型创建恶意软件，发起社会工程攻击或传播有害的核武器或生物武器信息。
具体来说，OpenAI 定义了网络安全等多个类别的风险阈值。 在针对每个风险类别实施风险缓解措施之前和之后，OpenAI 会将每个风险分为四类：低、中、高或严重。 。
OpenAI规定，只有风险缓解后评级为“中”或以下的AI模型才能部署，只有风险缓解后评级为“高”或以下的模型才能进一步开发。 如果风险不能降低到严重以下，公司将停止开发该模型。
股市回暖，先开户抄底买股票！ 智能定投、条件委托、个股雷达……给你>>
海量信息、精准解读，尽在新浪财经APP
© 版权声明
本站下载的源码均来自公开网络收集转发二次开发而来，
若侵犯了您的合法权益，请来信通知我们1413333033@qq.com，
我们会及时删除，给您带来的不便，我们深表歉意。
下载用户仅供学习交流，若使用商业用途，请购买正版授权，否则产生的一切后果将由下载用户自行承担，访问及下载者下载默认同意本站声明的免责申明，请合理使用切勿商用。
THE END
暂无评论内容