首页 要闻 > 正文

Open AI 全球路演概述:重申不针对API客户数据进行培训

在2023年5-6月,SAM带领openai团队路演了6大洲(25个城市),与用户、开发者、决策者及大众进行交流。

学到了什么


(资料图片仅供参考)

我们的用户和开发人员已在构建有价值的应用程序。在旅途中看到的创造力给了我们灵感。在尼日利亚,高中生告诉我们他们如何使用ChatGPT来帮助分解复杂的学习主题。在新加坡,公务员是整合开放人工智能工具提供公共服务更有效率。在法国,一家连锁杂货店正在使用我们的工具帮助顾客减少食物浪费;开发者正在使用我们的工具为了使代码更加高效和安全。(我们渴望听到更多关于公司提供的AI服务如何产生影响的信息)

对于人工智能在社区中的影响,人们有共同的希望和担忧。

许多人分享了他们对这些工具的承诺的热情,以扩大和改善个性化教育和医疗保健的获取,促进经济增长,并使所有专业人员能够减少管理任务。世界各地对代码和服务的需求不断增长。同时,我们采访的许多人提出了与错误信息、经济转移以及日益强大的模型的安全和安保风险有关的担忧。

各地的政策制定者都在深入研究人工智能

决策者专注于确保当前工具的安全和有益部署,并认真对待未来的潜力和风险。我们与全球数十位高级决策者和国家元首坐在一起,了解他们快速采用大型人工智能模型的方法;领导人希望最大化这一新技术为其公民带来的好处,同时设置适当的护栏来管理其风险,包括来自现有技术的风险和我们预计随着技术变得更加强大而出现的风险。我们采访的政策制定者希望与领先的人工智能实验室进行持续对话,并从他们那里获得安全承诺,这是他们方法的一个关键要素,并支持探索一个全球框架来管理强大的未来人工智能系统.

人们想更多地了解我们的核心价值观。

这次旅行让我们强化了我们的意图。例如,一个常见的问题是关于我们对客户数据的使用,这给了我们重申这一点的机会,我们不针对API客户数据进行培训以及ChatGPT用户可以轻松退出也是。我们一直专注于建立周到的安全机制——不仅是为AGI,也是为我们今天推出的人工智能产品。我们将继续深入投资,确保当前系统的安全并根据用户反馈进行改进。

下一步是什么

这次旅行帮助我们更好地理解世界各地用户、开发者和政府领导人的观点。考虑到他们的反馈,我们更加关注以下领域:

让我们的产品更有用、更有影响力、更容易获得。

这次旅行让我们清楚地意识到,对于世界各地的用户和开发人员来说,我们的产品是可访问的和有用的。正在努力改变,使人们更容易引导我们的模型做出反应,反映更广泛的个人需求和当地文化和背景。我们还致力于提高英语以外的语言的性能,不仅考虑实验室基准,还考虑我们的模型在对开发人员最重要的真实部署场景中的准确和高效程度,致力于继续让定价结构为全球开发者所接受。

进一步开发治理高能力基础模型的最佳实践。

随着关于新的人工智能法律和法规的公开辩论继续进行,我们将加倍努力,试点和完善具体的治理实践,这些实践专门针对像我们所产生的那些非常有能力的基础模型,包括关键的安全工作流程,如预部署安全评估和对抗测试,以及让人们能够跟踪人工智能生成内容的来源的新努力。我们认为,这些措施将是人工智能治理生态系统的重要组成部分,此外还有针对一些重要应用的长期法律和行业特定政策。还将继续投资于基础广泛的试点公众意见征询方法纳入部署决策,在系统中增加本地化功能,培养国际研究团体,以扩大和加强对模型功能和风险的评估,包括通过外部研究我们的人工智能系统和我们的网络安全资助计划。

致力于释放人工智能的优势。

将扩大努力,支持广泛的人工智能扫盲,我们听说许多社区的优先事项,并投资于创作者、出版商和内容制作者从这些新技术中受益的方式,以便能够继续拥有健康的数字生态系统。此外,正在组建团队,为探索如何将我们的工具用于广泛有益的应用的组织提供更多支持引导研究对社会和经济发展的影响和政策建议经济影响。

在接下来的几周和几个月里,我们将在这些领域中的每一个领域做更多探索。

标签:

精彩推送