1. 首页 > 科技

OpenAI研发神秘“Q*”模型

消息人士透露,OpenAI的首席技术官米拉·穆拉蒂向员工透露,有关“Q*”取得人工智能技术突破的信促使了前董事会的行动。奥特曼此前曾在亚太经合组织CEO峰会上透露,公司取得了一项技术进步,可以“揭开未知领域,推动发现的边界。”

这一突破性技术由OpenAI首席科学家伊尔亚·苏茨克维带领完成,研究人员雅库布·帕乔基和西蒙·西多尔基于苏茨克维的技术创建了一个名为“Q*”(发音为Q-Star)的模型。(值得注意的是,在奥特曼被罢免后,帕乔基和西多尔宣布辞职)

该模型的开发速度引起了一些专注于人工智能安全的研究人员的担忧。苏茨克维领导的安全团队致力于限制比人类更聪明的人工智能系统的潜在威胁,他们担心公司没有足够的保护措施来商业化这种先进的人工智能模型。

OpenAI内部的动荡局面凸显了公司治理结构的复杂性,旨在实现通用人工智能(AGI)的目标,但又试图避免资本力量的控制。山姆·奥特曼在很大程度上负责这种独特的治理结构设计。

三天内换了三位CEO的OpenAI,最终山姆·奥特曼在新董事会的支持下重新回归担任CEO。这场内斗显示出公司治理结构的错综复杂,但最终奥特曼阵营取得了胜利,组建了新的董事会,包括一些资深人士和业界知名人士。然而,这场斗争也暴露了公司内部价值观和决策之间的分歧。

科技与伦理之间的冲突一直是一个备受关注的话题。OpenAI CEO的罢免事件显示出科学家和管理者之间的分歧,其中首席科学家Ilya Sutskever选择了与一众力量对抗。

Sutskever与独立董事对抗了微软、投资机构、OpenAI内部公司、山姆·奥特曼以及700名员工等五大力量。这种对抗使得资本力量袭来时,Sutskever似乎表现出了认输状态,几乎没有反抗的能力。有一种观点认为,作为硅谷科学家,他应该精通政治,但为何选择放手一搏呢?

Sutskever是OpenAI的创始成员之一,他在人工智能和深度学习领域有着显著的声望,是“人工智能教父”Geoffrey Hinton的学生。与奥特曼更偏向硅谷“有效加速主义”不同,Sutskever更注重安全和AI的价值观,与人类价值观对齐。

有一种可能是Sutskever认为OpenAI已经实现了AGI。值得注意的是,近年来,有名的科学家和科技公司巨头分成了截然对立的两个阵营,就人工智能的潜在危险展开激烈争论。

这场争论与过去不同,因为被称为“疯狂科学家”的人们意外地站在了悲观者的阵营中,而科技巨头则纷纷制定了自己的AI不作恶原则。这种对立引发了社会对AI发展方向的深刻担忧。

在科技公司强势介入OpenAI的管理改革后,科学家Sutskever似乎失去了对公司未来发展方向的制衡力。不同人对AI发展的期待和担忧也导致了价值观和理念的碰撞,科技与伦理之间的矛盾变得尖锐。然而,一位外国科学家指出,科学技术的车轮是不可阻挡的,伦理道德只能在车前撒一些四脚钉,科学技术将来肯定是要战胜伦理的。

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:http://www.51zhidian.com//kj/192.html

联系我们

在线咨询:点击这里给我发消息

微信号: