马斯克等呼吁给AI研发按下暂停键-启东市格莱特石化设备厂

马斯克等呼吁给AI研发按下暂停键

发布时间： 2023/3/30

　　特斯拉CEO马斯克连同来自人工智能领域的1000多名专家及产业高层联名呼吁，暂停开发比OpenAI新推出的GPT-4更强大的人工智能系统至少6个月，以认识并远离极端的大规模风险。
　　　

　　非营利组织未来生命研究所（Future of Life）于本周三（3月29日）发表一封公开信，呼吁暂停开发比OpenAI新推出的GPT-4更强大的人工智能系统至少6个月。包括特斯拉CEO马斯克、Stability AI的首席执行官莫斯塔克（Emad Mostaque）、谷歌旗下DeepMind的研究人员，以及人工智能领域的重量级人物本希奥（Yoshua Bengio）和罗素（Stuart Russell）等在内的1000多名该领域的专家、科技人员、产业高层都在这封公开信上签了名。
　　公开信呼吁暂停研发，“直到此类大模型达成由独立专家开发、实施并审核的共享安全协议”。
　　公开信指出：“只有当我们确信强大的人工智能系统的效果是积极的，其风险是可控的，才应该继续开发蒸汽喷射器。”
　　公开信还详细阐述了对人类形成竞争趋势的人工智能系统可以通过制造经济政治混乱的形式对人类社会和人类文明构成潜在威胁。公开信呼吁研发者和政策制定者在治理和监管机构方面共同合作。
　　未来生命研究所在其网页上写道：“我们相信，强大科技的研发和使用方式将是决定未来生命前景的最重要因素。这就是为什么我们把确保技术持续改善这些前景作为我们的使命。”
　　欧盟执法机构欧洲刑警组织（Europol）周一警告称，人工智能聊天机器人ChatGPT可能被滥用于网络钓鱼、宣传虚假信息以及网络犯罪。“ChatGPT能够起草高度逼真的文本，这使其成为网络钓鱼的有用工具。”欧洲刑警组织表示。
　　该机构表示，由于该聊天机器人拥有复制语言模式的能力，可以模仿特定个人或群体的说话风格，犯罪分子可能会利用它来瞄准受害者。
　　电动汽车特斯拉正在将人工智能运用于自动驾驶系统，但是特斯拉CEO马斯克却一直对人工智能表达担忧。
　　去年OpenAI公布了ChatGPT以来，竞争对手纷纷推出各自的聊天机器人。
　　上周，OpenAI宣布它已经与大约十几家公司合作，将这喷射器公司的服务植入ChatGPT。这样ChatGPT的使用者可以通过Instacart订购商品或者通过Expedia预订机票。
　　不过，OpenAI的首席执行官阿尔特曼（Sam Altman）并没有在公开信上签名。
　　同样在公开信上签了名的纽约大学教授马库斯（Gary Marcus）说：“这封信并不完美，但是要传递的精神准确：在我们更好地了解后果之前，我们需要放慢脚步。”他说：“那些大的玩家对他们正在做的事情变得越来越神秘，这使得社会很难抵御可能出现的任何危害。”

上一条：欧佩克宣布减产原油价格应声上涨下一条：TikTok CEO周受在美国国会的五个关键时刻