Sam Altman, 微软支持的OpenAI和ChatGPT的创始人，在以色列特拉维夫大学的演讲中发表讲话，2023年6月5日。路透社/Amir Cohen/文件照片
旧金山，11月20日(路透社) – 造成人工智能奇才Sam Altman失去OpenAI首席执行官职位的分歧反映了两个开发这种改变世界软件并思考其社会影响的阵营之间在安全性方面的根本分歧。
一方面是像Altman这样的人，他们认为人工智能的快速发展，尤其是公开部署，对于对技术进行压力测试和完善至关重要。另一方面是那些认为未来最安全的道路是首先在实验室中充分开发和测试人工智能，以确保它在某种程度上对人类消费是安全的。
38岁的Altman，上周五被解雇，他是创建备受欢迎的ChatGPT聊天机器人的公司的人。对许多人来说，他被认为是生成式人工智能的人脸代表。
一些人警告说，这种超智能软件可能变得不受控制，导致灾难-这是关注社会运动“有效利他主义”的技术工作者的担忧，他们认为人工智能的进步应该造福人类。在共享这种担忧的人中，包括OpenAI的首席科学家和董事会成员Ilya Sutskever，他批准了Altman的解雇。
类似的分歧也出现在自动驾驶汽车的开发者之间-这也是由人工智能控制的-他们说必须将这些车辆释放到密集的城市街道中，以充分了解车辆的能力和缺陷；而其他人则敦促克制，担心这项技术带来无法预测的风险。
对生成式人工智能的担忧随着Altman的意外下台而达到高潮，他也是OpenAI的联合创始人。生成式人工智能是指能够根据简单提示输出连贯内容的软件，如文章、计算机代码和类似照片的图像。过去一年中OpenAI的ChatGPT的流行加速了关于如何最好地监管和开发这种软件的辩论。
“问题是这只是另一种产品，如社交媒体或加密货币，还是这是一种有能力超越人类并变得不受控制的技术，”ConjectureAI的首席执行官Connor Leahy说。 “未来是否属于机器？”
据报道，Sutskever认为Altman过快地将OpenAI的软件推向用户手中，可能会危及安全。
“我们没有解决潜在超智能人工智能的引导或控制的方案，也没有防止它变得失控的方案，”他和一名副手在7月的一篇博客文章中写道。“人类将无法可靠地监督比我们聪明得多的人工智能系统。”
特别令人担忧的是，据报道，OpenAI在本月早些时候的开发者活动上宣布了一系列新的商业产品，包括其ChatGPT-4软件的版本和所谓的代理人，这些代理人可以像虚拟助手一样工作。
Sutskever没有回应置评请求。
许多技术人员认为OpenAI的命运对人工智能的发展至关重要。上周末关于Altman被重新任命的讨论破裂了，这使得前首席执行官的追随者们的希望破灭。
ChatGPT去年11月的发布引发了对人工智能公司的投资狂潮，包括微软(MSFT.O)对OpenAI的100亿美元投资，以及来自Alphabet(GOOGL.O)和亚马逊(AMZN.O)等其他初创公司的数十亿美元的投资。
这可以解释为什么像Anthropic和ScaleAI这样的公司正在竞相展示给投资者的进展。与此同时，监管机构正在努力跟上人工智能的发展，包括拜登政府的指导方针以及一些国家对“强制自我监管”的推动，以及欧盟正在努力制定对这种软件的广泛监管。
虽然大多数人使用生成式人工智能软件，如ChatGPT，来辅助他们的工作，比如快速总结冗长文件，但观察家们对可能出现的被称为“人工通用智能”或AGI的版本持谨慎态度，这种软件可以在没有任何提示的情况下执行越来越复杂的任务。这引发了担忧，即这种软件可能会独自接管国防系统，制造政治宣传或生产武器。
OpenAI是八年前成立的非营利组织，部分原因是为了确保其产品不受追求利润的驱使，这可能会使其陷入一条通往危险AGI的滑坡，这在公司的宪章中被称为任何对“对人类造成伤害或过度集中权力”的威胁。但自那时以来，Altman帮助在公司内部创建了一个营利实体，目的是为了筹集资金和其他目标。
周日晚些时候，OpenAI任命了前流媒体平台Twitch负责人Emmett Shear为临时首席执行官。他在9月在社交媒体上倡导“减速”人工智能的发展。“如果我们现在的速度是10，那么暂停就是降到0。我认为我们应该将速度降低到1-2，”他写道。
Altman被解雇的确切原因在周一仍然不清楚。但可以肯定的是，OpenAI在未来面临严峻的挑战。