防范AI风险给CEO上“紧箍咒”！OpenAI规定董事会可阻止CEO发布新模型

专题：OpenAI称奥特曼将回归担任CEO 并组建新的董事会

　　来源：华尔街见闻

　　为了防范人工智能（AI）带来的重大风险，OpenAI决定赋予董事会更高的权力，给上月刚刚在“宫斗”中获胜的CEO Sam Altman上“紧箍咒”。

　　OpenAI美东时间12月18日周一发布一系列指引，旨在“跟踪、评估、预测和防范日益强大的（AI）模型带来的灾难性风险”。

　　这个27页篇幅的指引名为“准备框架”，其中提出，即使公司领导层、即CEO或领导层指定的人认为将发布的AI模型是安全的，公司董事会也可以选择推迟发布该模型。其认为，虽然OpenAI 的CEO将负责日常工作的决策，但董事会将了解有关风险的发现，并可以否决CEO的决定。

　　除了对公司领导层和董事会的权限规定，OpenAI的准备框架主要建议，使用矩阵方法，记录多个类别的前沿AI模型所带来的风险水平，包括行为不端者用AI模型创建恶意的软件、发起社会工程攻击，或者传播有害的核武或生物武器信息。

　　具体来说，OpenAI定义了网络安全等几个类别的风险阈值，在针对每个风险类别实施缓解风险措施之前和之后，OpenAI 都会将每种风险分为低、中、高或严重四个类级别。

　　OpenAI规定，只有风险缓解后评级为“中”或以下级别的AI模型，才能部署，只有风险缓解后评级为“高”或以下的模型，才能进一步开发，如果不能将风险降低到严重以下级别，公司将停止开发模型。