沃卡logo

马斯克:研发先进AI风险非常高 OpneAI应公布解雇奥特曼的原因

2023-11-20来源:

马斯克:研发先进AI风险非常高 OpneAI应公布解雇奥特曼的原因

11月20日消息,特斯拉首席执行官埃隆·马斯克(Elon Musk)表示,由于研发先进人工智能(AI)技术的潜在危险非常高,作为目前世界上最强大的人工智能公司,OpenAI应该解释其解雇其首席执行官萨姆·奥特曼(Sam Altman)的原因。

OpenAI董事会于上周五宣布解雇奥特曼,只是说公司“对他继续领导的能力不再有信心”。

马斯克在回应企业社交网络平台Yammer前首席执行官大卫·萨克斯(David Sacks)在X上发表的帖子时表示,“考虑到先进人工智能的风险和力量,公众应该了解OpenAI董事会为什么认为他们必须做出如此重大的决定。”

马斯克是OpenAI的前董事会成员,但在2018年离开了公司,理由是与特斯拉存在利益冲突。然而,马斯克后来表示,他已经开始担心该公司可能对社会产生的影响。不过,值得注意的是,马斯克自己的人工智能公司可能会从OpenAI目前的混乱中受益。

奥特曼被解职暴露出该公司高层在如何遏制人工智能带来的生存威胁方面存在分歧。虽然奥特曼谈到了“潜在可怕的”人工智能危险,以及对其进行监管的“迫切”需要,但他更多推动人工智能快速创新。众所周知,奥特曼积极推动OpenAI在人工智能竞赛中保持领先地位,追求大量资金和快速发展。

今年9月,奥特曼试图从软银获得10亿美元的投资以开发一款硬件设备,用于运行ChatGPT等工具。这家日本企业集团的首席执行官孙正义此前曾表示,他每天都使用ChatGPT,并且相信人工智能的力量。

与此同时,OpenAI其他领导人则对人工智能给人类带来的危险感到越来越紧张,并呼吁公司采取更多措施来减轻潜在的威胁。

OpenAI的联合创始人、首席科学家、董事会成员伊利亚·苏茨凯弗(Ilya Sutskever)在奥特曼被解雇过程中扮演了重要角色。考虑到人工智能对社会的潜在危害,他倾向于OpenAI更加谨慎地行事。

此前曾有报道称,苏茨凯弗在公司内部成立了一个“超级校准”团队,以确保在奥特曼下台之前,GPT-4 (ChatGPT背后技术)的未来版本不会对人类造成危害。

另外两名OpenAI董事会成员——乔治城大学安全与新兴技术中心主任海伦·托纳(Helen Toner)和科技企业家塔莎·麦考利(Tasha McCauley)也与所谓的有效利他主义运动有联系,该运动致力于确保人工智能的进步与人类的最佳利益保持一致。

如果他们对奥特曼致力于有效利他主义运动的担忧是他被解雇的原因,那么这也不是第一次有人因为人工智能危险而离职了。2021年,达里奥·阿莫代伊(Dario Amodei)和OpenAI的其他几名员工离开公司,成立了Anthropic。它已经成为OpenAI的竞争对手,将打造更安全的人工智能作为其核心使命。

  图片使用申明:原创文章图片源自‘Canva可画’平台免费版权图片素材;引用文章源自引用平台文章中所使用的原图。