奥特曼离开OpenAI安全委员会:可决定大模型是否发布
鞭牛士报道,奥特I安9月17日消息,曼离模型据外电报道,开O可决德阳市某某广告媒体专卖店OpenAI 首席执行官 Sam Altman 将离开 OpenAI 于 5 月成立的全委内部委员会,该委员会负责监督与公司项目和运营相关的奥特I安关键安全决策。
OpenAI在今天的曼离模型一篇博文中表示,安全与保障委员会将成为由卡内基梅隆大学教授Zico Kolter担任主席的开O可决独立董事会监督小组,成员包括 Quora 首席执行官 Adam D'Angelo、全委美国退役陆军将军 Paul Nakasone 和前索尼执行副总裁 Nicole Seligman。奥特I安
他们都是曼离模型 OpenAI 董事会的现任成员。
OpenAI 在帖子中指出,开O可决委员会对OpenAI 的全委最新 AI 模型o1进行了安全审查——尽管 Altman 仍参与其中。该公司表示,奥特I安德阳市某某广告媒体专卖店该小组将继续定期接受 OpenAI 安全团队的曼离模型简报,并保留推迟发布的开O可决权力,直到安全问题得到解决。
OpenAI 在帖子中写道:作为其工作的一部分,安全委员会将继续定期收到有关当前和未来模型的技术评估报告,以及持续发布后监测报告。我们正在基于我们的模型发布流程和实践,建立一个综合的安全框架,明确定义模型发布的成功标准。
Altman 离开安全与保障委员会之前,五名美国参议员在今年夏天致 Altman 的一封信中对 OpenAI 的政策提出了质疑。
OpenAI 曾经专注于人工智能长期风险的员工中,近一半已经离职,前 OpenAI 研究人员指责Altman 反对真正的人工智能监管,而倾向于推进 OpenAI 企业目标的政策。
正如他们所说,OpenAI 大幅 增加了 在联邦游说方面的支出,2024 年前六个月的预算为 80 万美元,而去年全年的预算为 26 万美元。
今年春天早些时候,Altman 还加入了美国国土安全部的人工智能安全与安保委员会,该委员会为美国关键基础设施中人工智能的开发和部署提供建议。
即使 Altman 被撤职,也几乎没有迹象表明安全委员会会做出严重影响 OpenAI 商业路线图的艰难决定。
值得注意的是,OpenAI 在 5 月份表示,它将寻求通过委员会解决对其工作的有效批评——当然,有效批评取决于旁观者的看法。
5 月份,OpenAI 前董事会成员海伦·托纳 (Helen Toner) 和塔莎·麦考利 (Tasha McCauley)在《经济学人》的 一篇专栏文章中表示,他们认为目前的 OpenAI 不值得信任,无法承担责任。
他们写道:根据我们的经验,我们认为自治无法可靠地承受利润激励的压力。
而OpenAI的盈利激励还在不断增长。
据传,该公司正在筹集65 亿美元以上的资金,这将使 OpenAI 的估值超过 1500 亿美元。为了达成这笔交易,OpenAI 可能会放弃其混合非营利性公司结构,该结构旨在限制投资者的回报,部分原因是确保 OpenAI 与其创始使命保持一致:开发造福全人类的通用人工智能。
(责任编辑:知识)
-
真正的老钱喜欢什么车?被誉为近几年最伟大美剧之一的《继承之战》,讲的就是豪门家族的恩怨纷争。主角一家坐拥亿万商业帝国,在剧中的座驾几乎只属于奔驰、路虎、宝马这些经典老牌。不过时过境迁,四年之后,到了2 ...[详细]
-
来源:南方周末 眼下,各地高中录取新生陆续结束。而有些地方在县里参加中考的考生,成绩再好也不能报读市级高中了。 据南国早报客户端7月12日报道,广西百年名校玉林高中2024年不再面向县域初中招 ...[详细]
-
据新华社长沙7月30日电记者明星、白田田)记者从湖南衡阳松木经济开发区获悉,30日11时58分,湖南湘硕化工有限公司三氮唑车间升膜蒸发器发生物理爆炸事故,事故造成2人死亡,1人轻伤。受伤人员目前生 ...[详细]
-
记者:张兆卿、高萌 巴黎奥运会马术三项赛28日在凡尔赛宫结束越野赛的争夺,中国选手华天在该项目中遭到“争议”判罚,被罚20.6分,两轮总共罚分42.6分,排名从第3位滑落至32位。7月28日,华 ...[详细]
-
当地时间9月20日,哥伦比亚民航总局宣布,一架委内瑞拉飞机当天上午因技术故障降落在哥伦比亚北部边境城市库库塔的机场。该飞机获得授权降落,将在随后飞往目的地。 据报道,这架编号为YV3226的塞斯 ...[详细]
-
哈工程2024黑龙江生源质量如何?高分生源获突破,省排名创六连升
各位黑龙江高考生、家长朋友,大家好!哈尔滨工程大学是位于黑龙江省哈尔滨市的一所著名高等学府,源自“哈军工”“哈船舶”的这所工科强校、双一流大学,在三海一核领域拥有十分强悍的实力,近年来社会影响力不断扩 ...[详细] -
加长版三伏天已经过去1/4,进入了中伏。俗话说,“冷在三九、热在中伏”,意思是一年中最热的日子属“三伏”,“三伏”中又以“中伏”最热。三伏天难熬不仅因为这是一年中温度最高、湿度最大的日子,也是各种疾病 ...[详细]
-
巴黎奥运会第二个比赛日落下帷幕,共决出13枚金牌,其中,射击男子10米气手枪金牌被中国队收入囊中。截至目前,中国代表团共斩获3枚金牌、1枚银牌、2枚铜牌。 昨日有哪些让人难忘的赛场表现?第三比赛 ...[详细]
-
本文转自:人民日报海外版中秋假期北京重点商圈客流量逾2200万人次《 人民日报海外版 》 2024年09月18日 第 01 版) 新华社北京9月17日电 记者吉宁)2024年中秋假期,北京消费市场 ...[详细]
-
本文作者:王作伟,首都医科大学宣武医院外科主任医师平时有个腰痛、腰酸不适,经常会听到别人开玩笑说,“你是不是肾虚?肾不好了?”那实际上,经常腰疼是肾不好?还是腰椎不好?如何区分呢?健康时报 曹子豪 摄 ...[详细]