首页 要闻 > 正文

今日热讯:OpenAI CEO:AI是人类技术迄今最重要一步 监管应适度

人工智能独角兽公司OpenAI首席执行官山姆·阿尔特曼(Sam 阿尔特曼)表示,快速发展的人工智能技术“可能会在很多方面出错”。但他认为,利大于弊。


【资料图】

不过,阿尔特曼接受采访时谈到了人们对人工智能快速发展的担忧。近几个月来,他还公开推动加强对人工智能的监管,并经常与世界各地的官员讨论对人工智能的负责任管理。阿尔特曼称:“我们使用的是危险的技术,可能会经常以危险的方式使用。”

尽管阿尔特曼称之为指数级技术转变的潜在危险,但谈到了人工智能可能有益的几个领域,包括医学、科学和教育。他称:“我认为终结贫困是件好事。但要实现这一目标,我们必须管理好风险。”

OpenAI的估值已超过270亿美元,在风投支持的人工智能公司蓬勃发展的领域中处于领先地位。当被问及他是否会从OpenAI的成功中获得经济利益时,阿尔特曼说:“我有足够的资金。”并强调他的动机不是经济上的。他说:“拥有足够的资金这个概念并不是一件容易让别人理解的事情。”他补充说,想要成为有用的人,并致力于“重要的事情”是人类的天性。阿尔特曼表示:“我认为这将是人类必须通过技术实现的最重要的一步。我真的很在乎这一点。”

帮助阿尔特曼创办OpenAI的埃隆·马斯克对该组织及AI技术潜在的危害持批评态度。阿尔特曼对此表示,马斯克“真的非常关心人工智能的安全”,他的批评“来自一个好的地方”。当被问及马斯克和扎克伯格之间理论上的争辩时,阿尔特曼开玩笑称:“如果他和扎克伯格真的这样做了,我会去看的。”

目前,OpenAI的产品——包括聊天机器人ChatGPT和图像生成器Dall-E——让观众眼花缭乱。它们还在风险资本投资者和企业家中引发了一场数十亿美元的狂热,他们竞相投资帮助奠定新技术时代基础的公司。

为了创造收入,OpenAI正在向公司提供应用程序编程接口,这些接口需要使用OpenAI的人工智能模型来创建自己的软件。该公司还出售其聊天机器人的高级版本,名为ChatGPT Plus。OpenAI没有公布总销售额的信息。此前,知情人士透露,微软公司(MSFT.US)向该公司总计投资了130亿美元。其中大部分将用于偿还微软使用其Azure云网络训练和运行OpenAI模型的费用。

快速发展的人工智能行业的速度和力量促使政府和监管机构试图为其发展设置“护栏”。阿尔特曼是本周在旧金山会见拜登总统的人工智能专家之一。阿尔特曼一直在广泛谈论人工智能监管问题,包括在华盛顿,他告诉美国参议员,如果这项技术出了问题,它可能会出很大的问题。

包括微软和Alphabet(GOOGL.US)旗下谷歌在内的主要人工智能公司已承诺参与对其系统的独立公开评估。美国也在寻求更广泛的监管推动。美国商务部今年早些时候表示,正在考虑制定规则,可能要求人工智能模型在发布之前经过认证程序。

上个月,阿尔特曼签署了一份简短的声明,其中包括350多名高管和研究人员的支持,称“减轻人工智能带来的灭绝风险应该与其他社会规模的风险(如流行病和核战争)一起成为全球优先事项”。

尽管科技领袖发出了可怕的警告,但一些人工智能研究人员认为,人工智能还不够先进,不足以证明人们担心它会毁灭人类是合理的,而把注意力集中在世界末日的场景上,只会分散人们对算法偏见、种族主义和猖獗的虚假信息风险等问题的注意力。

阿尔特曼也表示,世界各地的立法者应该小心,不要“过度”监管人工智能,它应该局限于具有“与人类存在有关的风险”的系统。 阿尔特曼表示,所有强大的技术都可能被用于危险的地方,人工智能也不例外。他说:“事情会出错。”他提到了潜在的网络安全风险等。阿尔特曼表示,世界可以通过全球监管来管理这些风险,但监管应该只针对“这些强大的风险级别系统”,而且“你不希望做得过火”。

阿尔特曼认为,开发和改进人工智能系统的好处是如此巨大,世界不应该试图阻止这些技术的发展,他提到了有益于教育系统和医疗保健的潜力。 阿尔特曼提到:“在这一点上,考虑到人们看到的经济利益和潜力,没有公司能阻止它。”但阿尔特曼指出,全球监管“可以帮助使其安全——这是一个比停止更好的答案”。阿尔特曼称:“我也不认为阻止它会起作用。”

OpenAI去年发布的ChatGPT和Dall-E都激励了初创公司将人工智能融入金融服务、消费品、医疗保健和娱乐等广泛领域。彭分析师曼迪普·辛格(Mandeep Singh)估计,到2032年,生成式人工智能市场将增长42%,达到1.3万亿美元。

标签:

精彩推送