OpenAI已经发现会威胁人类的人工智能技术
11月23日消息,据路透社援引两位知情人士透露,在OpenAI首席执行官萨姆·奥特曼(Sam Altman)被公司前董事会罢免之前,几名研究人员向董事会发出了一封信,警告称人工智能领域的一项技术突破可能会威胁到人类。
本文引用地址:http://www.amcfsurvey.com/article/202311/453222.htm两位消息人士表示,这封信和人工智能算法上的突破是导致董事会罢免奥特曼的催化剂。奥特曼是生成式人工智能领域的代表人物。在他本周二晚些时候重返OpenAI担任首席执行官之前,已有700多名员工威胁要辞职,并加入微软麾下,以此来声援奥特曼。
消息人士称,这封信只是董事会对奥特曼产生的诸多不满之一。目前信的内容无从得知,写这封信的研究人员也没有立即回应置评请求。
OpenAI拒绝置评。
据其中一位消息人士透露,长期担任公司高管的米拉·穆拉蒂(Mira Murati)周三告诉员工,一封关于人工智能技术突破Q*的信件最终促成了董事会的行动。
其中一名知情人士表示,OpenAI在Q*这项技术突破上取得了进展,一些内部人士认为Q*可能指的是OpenAI在通用人工智能(AGI)领域的突破。OpenAI将AGI定义为比人类更聪明的人工智能系统。
这位不愿透露姓名的消息人士表示,在庞大计算资源的帮助下,新模型能够解决某些数学问题。消息人士说,虽然Q*的数学成绩目前还只能达到小学生的水平,但在相关测试中取得的优异成绩让研究人员对未来这项技术的前景非常乐观。
目前还无法独立证实研究人员所说的Q*能力。
评论