马斯克等千人发表公开信 呼吁暂时暂停训练高级AI

【资料图】

包括特斯拉(TSLA.US)创始人马斯克、苹果(APPL.US)联合创始人Steve Wozniak、Stability AI的首席执行官Emad Mostaque等上千人透过非营利组织《生命未来研究所(FLI)》发表公开信、呼吁暂停训练比GPT-4更强大的系统6个月，理由是社会、人类可能面临潜在风险。

本月早些时候，微软(MSFT.US)支持的OpenAI公布了其GPT人工智能程序的第四次迭代，该程序通过让用户进行类似人类的对话、作曲和总结长篇文件而令用户惊叹。

这封信指出，与人类竞争的人工智慧(AI)系统可能以经济和政治冲击的形式对社会和文明构成潜在风险，呼吁开发人员就治理和监管机构、决策者合作。

根据FLI公布的公开信，只有在人类确信影响是正面且风险可控时才能放手开发强大的AI系统。马斯克本月早些时候称：“人工智能让我感到紧张。”

除了马斯克、Wozniak以外，参与上述公开信连署的知名人士还包括Yoshua Bengio(蒙特利尔大学知名AI学者)、Stuart Russell(美国加州大学柏克莱分校电脑科学教授)、杨安泽(2020年民主党美国总统候选人)以及Michael Osborne(牛津大学机器学习教授)。

牛津大学学者Carl Benedikt Frey、Michael Osborne曾在2013年9月发表专文指出，20年内美国或有47%的职业因自动化浪潮而消失，这当中包括会计、法律咨询等白领工作。

报导指出，OpenAI执行长阿特曼(Sam Altman)1月接受专访时表示，在最好情境下，AI对人类的帮助可能好到令人难以置信、让大家都过上最好的生活，但在最坏情境下，世界末日可能降临。

阿特曼2月推文表示，监管是相当重要的、需要时间去理清，目前这一代AI工具虽不可怕、但离开发出潜在可怕工具可能并不遥远。

标签：