【科学强国】千人呼吁！暂停新一代聊天机器人开发

　　据路透社当地时间3月29日报道，埃隆·马斯克 (Elon Musk) 和一群人工智能专家及行业高管在一封公开信中呼吁，在至少6个月内，暂停开发比GPT-4更强大的AI系统，理由是“对社会和人类构成潜在风险”。

特斯拉老总马斯克出席论坛 图源：网络

　　路透社报道，本月早些时候，微软支持的OpenAI推出了其GPT（生成式预训练变压器）AI程序的第四次迭代，该程序通过让用户参与类似人类的对话、创作歌曲和总结冗长的文章而让用户惊叹不已。

　　未来生命研究所发布的信中说，“只有当我们确信它们的影响将是积极的，并且它们的风险将是可控的时候，才应该开发强大的人工智能系统。”

　　根据欧盟的透明度登记册，该非营利组织主要由马斯克基金会、总部位于伦敦的Founders Pledge集团和硅谷社区基金会资助。

　　马斯克本月早些时候说，“人工智能让我压力山大”。他是行业领导者OpenAI的联合创始人之一，他拥有的汽车制造商特斯拉(TSLA.O)将AI用于自动驾驶系统。

　　康奈尔大学数字和信息法教授詹姆斯·格里梅尔曼 (James Grimmelmann) 表示：“埃隆·马斯克 (Elon Musk) 签署协议是非常虚伪的。”

　　“暂停是个好主意，但这封信含糊不清，没有认真对待监管问题。”

　　特斯拉上个月不得不召回超过362000辆美国汽车来更新软件，此前美国监管机构表示驾驶员辅助系统可能会导致撞车，促使马斯克在推特上表示“召回”一词用于无线软件更新是“不合时宜的”。

　　公开信敦促暂停高级AI开发，直到独立专家制定共享安全协议，并呼吁开发人员与政策制定者就治理问题进行合作。

　　“我们应该让机器用宣传和谎言充斥我们的信息渠道吗？……我们是否应该培养最终可能超过我们、智胜我们并取代我们的非人类思维？”信中问道，“此类决定不得委托给未经选举的技术领导者。”

　　这封信由包括马斯克在内的1000多人签名。OpenAI的首席执行官Sam Altman不在签署这封信的人之列，Alphabet和微软的首席执行官Sundar Pichai与Satya Nadella也不在签署者之列。

　　联合签署人包括Stability AI首席执行官Emad Mostaque、Alphabet旗下DeepMind的研究人员、AI重量级人物Yoshua Bengio（通常被称为“AI 教父”之一）和该领域研究的先驱Stuart Russell。

　　随着ChatGPT因其对国家安全和教育的影响而引起美国国会的关注，这些担忧也随之而来。欧盟警察欧洲刑警组织警告称，该系统可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。

　　来源：中国小康网

　　作者：老马

　　编辑：赵狄娜

　　审核：龚紫陌