OpenAI的首席执行官萨姆•奥特曼(Sam Altman)已辞去公司内部安全委员会(Safety and Security Committee)的职务。该委员会成立于今年5月，负责监督与OpenAI项目相关的关键安全决策。
OpenAI在最近的一篇博客文章中宣布了这一消息，强调该委员会现在将作为一个独立的监督机构运作。
新成立的独立机构将由卡内基梅隆大学的齐科·科尔特教授担任主席，成员包括Quora首席执行官亚当·德安吉洛、退休的美国陆军将军保罗·中曾根和前索尼高管妮可·塞利格曼，他们均在OpenAI的董事会任职。
该委员会的职责是审查OpenAI模型的安全性，并确保在发布之前解决任何安全问题。有人指出，在奥特曼卸任后，该组织已对OpenAI的最新型号01进行了安全审查。
委员会将继续接收OpenAI安全团队的定期更新，如果安全风险未得到解决，委员会将保留延迟发布AI模型的权力。
在奥特曼离开委员会之前，美国立法者对OpenAI进行了更严格的审查。此前，五名参议员在给奥特曼的一封信中表达了对OpenAI安全政策的担忧。
此外，许多专注于人工智能长期风险的员工已离开公司，一些前研究人员公开批评奥特曼反对可能与OpenAI商业利益相冲突的更严格的人工智能监管。
这种批评与该公司在联邦游说方面不断增加的投资相一致。OpenAI 2024年上半年的游说预算已达到80万美元，而2023年全年的游说预算为26万美元。此外，奥特曼还加入了国土安全部的人工智能安全与安全委员会，该委员会的职责是为人工智能在美国关键基础设施中的开发和部署提供指导。
尽管奥特曼被从安全委员会除名，但有人担心该委员会可能仍不愿采取可能对OpenAI的商业野心产生重大影响的行动。在5月份的一份声明中，该公司强调其打算解决“有效的批评”，尽管这种判断可能仍然是主观的。
包括海伦·托纳(Helen Toner)和塔莎·麦考利(Tasha McCauley)在内的一些前董事会成员对OpenAI的自我监管能力表示怀疑，认为利润驱动的激励机制带来了压力。
据报道，OpenAI寻求筹集超过65亿美元的资金，这可能使该公司的估值超过1500亿美元。
有传言称，OpenAI可能会放弃其混合型非营利结构，转而采用更传统的企业模式，这将为投资者带来更大的回报，但可能使该公司进一步偏离其开发造福全人类的人工智能的初衷。
本文来自作者[邦宁]投稿，不代表rczir号立场，如若转载，请注明出处：https://m.rczir.cn/cshi/202508-1971.html
评论列表（4条）
我是rczir号的签约作者“邦宁”！
希望本篇文章《山姆·奥特曼辞去OpenAI董事会安全委员会职务》能对你有所帮助！
本站[rczir号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： OpenAI的首席执行官萨姆•奥特曼(Sam Altman)已辞去公司内部安全委员会(Safety and Security Committee)的职务...