openai将组建新团队 以评估和减轻与人工智能相关的灾难性风险|openai将组建新团队以评估和减轻与人工智能相关的灾难性风险-爱游戏app官网入口

10月27日消息，据外媒报道，当地时间周四，美国人工智能研究公司openai宣布，它将组建一个名为preparedness的新团队，以评估和减轻与人工智能（ai）相关的“灾难性风险”。

　　openai表示，该团队将由麻省理工学院可部署机器学习中心主任亚历山大·马德里（aleksander madry）领导，将帮助跟踪、评估、预测和防范由人工智能造成的多个类别的灾难性风险。

　　该公司还表示，该团队还将负责制定和维护风险知情发展政策（rdp）。rdp旨在补充和扩展该公司现有的风险缓解工作，有助于在部署前和部署后确保新的高性能系统的安全性和一致性。

　　openai是由特斯拉ceo埃隆•马斯克（elon musk）、美国创业孵化器y combinator总裁阿尔特曼、全球在线支付平台paypal联合创始人彼得·蒂尔等硅谷科技大亨于2015年联合创立的一家美国人工智能研究公司，主攻人工智能技术应用领域。

　　该公司ceo萨姆•奥尔特曼（sam altman）是一位著名的人工智能末日预言家，他经常担心人工智能“可能导致人类灭绝”。

　　据外媒报道，奥尔特曼曾警告过人工智能可能引发灾难性事件。今年5月，他和其他著名的人工智能研究人员发表了一份声明，称“减轻人工智能带来的灭绝性风险应成为全球优先事项”。

　　今年9月份，openai宣布推出“红队网络”（red teaming network），并邀请各领域专家加入其“红队网络”，以提高其人工智能模型的安全性。签约的专家将通过协助评估和减轻模型风险，在增强openai人工智能系统的稳健性方面发挥关键作用。

编辑：韦瑞娜