OpenAI创始人遭解雇前 研究员曾警告董事会AI取得突破进展

据知情人士透露,美国人工智能研究公司OpenAI创始人奥尔特曼(Sam Altman)上周突遭解雇的四天前,有几位研究人员致信董事会警告,一项人工智能技术上取得进展,能力之强大恐怕威胁全人类。

两名知情者称,奥尔特曼被开除的导火线之一,是公司内部研究人员致函董事会,警告奥尔特曼专注于构建通用人工智能(AGI)的Q*研究计划取得了突破性进展。他们担心继续发展下去将建构出超越人类智慧的电脑,对全人类构成威胁。

其中一位消息人士称,新的 Q* AI 模型可以解决某些数学问题,尽管还处于小学水平。这是一项重大突破,因为能够解决只有一个答案的数学问题表明人工智能模型可以具有更强的推理能力。

OpenAI 的研究人员标记了人工智能模型的技能以及由此产生的潜在危险。研究人员还介绍了人工智能科学家团队的工作,该团队正在研究优化现有人工智能模型以执行科学工作。

重返OpenAI

奥尔特曼17日遭解雇,19日返回OpenAI总部与原董事会谈判回归事宜,据悉条件之一便是解散原董事会。当天深夜,微软CEO萨蒂亚·纳德拉宣布奥尔特曼和一同离职的OpenAI前总裁、联合创始人格雷格·布罗克曼将加盟微软,领导新的高级人工智能研究团队。纳德拉还向OpenAI员工伸出“橄榄枝”,用现金鼓励他们一并跳槽。

20日,OpenAI大约770名员工中超过95%发表联名信,以辞职相威胁,要求奥尔特曼恢复原职。奥尔特曼一天后和布罗克曼成功回归OpenAI。纳德拉也对OpenAI人事变动表示欢迎。


相关阅读