美国总统乔·拜登发布了一项行政命令，旨在建立人工智能安全和安保的“新标准”，其中包括要求开发基础人工智能模型的公司在向公众部署之前通知联邦政府并分享所有安全测试结果。
在ChatGPT和OpenAI开发的基础人工智能模型等公司的推动下，快速发展的生成式人工智能运动引发了一场全球辩论，围绕是否需要设置护栏，以防止将过多控制权交给算法的潜在隐患。早在今年5月，七国集团领导人就确定了作为所谓的广岛人工智能进程的一部分需要解决的关键主题，今天，七个成员国就人工智能开发者遵循的指导原则和“自愿”行为准则达成了协议。
上周，联合国(UN)宣布成立一个新的委员会来探索人工智能治理，而英国本周将在布莱切利公园举办人工智能治理全球峰会，美国副总统卡玛拉·哈里斯(Kamala Harris)将在会上发表讲话。
就拜登-哈里斯政府而言，也一直专注于人工智能安全，而不是任何具有法律约束力的东西，确保包括OpenAI、b谷歌、微软、meta和亚马逊在内的主要人工智能开发商的“自愿承诺”——尽管这一直是作为行政命令的前奏，但这正是今天宣布的。
具体来说，该命令规定，“最强大的人工智能系统”的开发者必须与美国政府分享他们的安全测试结果和相关数据。
“随着人工智能能力的增长，它对美国人的安全和保障的影响也在增加，”该命令指出，并补充说，它旨在“保护美国人免受人工智能系统的潜在风险”。
该命令将新的人工智能安全和安全标准与1950年的《国防生产法》(Defense Production Act)保持一致，专门针对任何可能对国家安全、经济安全或公共卫生构成风险的基础模型——尽管有些开放的解释，但应该涵盖几乎所有即将实现的基础模型。
该命令补充说:“这些措施将确保人工智能系统在公司公开之前是安全、可靠和值得信赖的。”
此外，该命令还概述了开发各种新工具和系统的计划，以确保人工智能安全可靠，美国国家标准与技术研究院(NIST)的任务是在发布前制定“广泛的红队测试”新标准。此类测试将全面应用，例如，能源部和国土安全部将解决与人工智能和关键基础设施相关的风险。
该命令还有助于支持一些新的指令和标准，包括但不限于防范使用人工智能设计危险生物材料的风险;防止人工智能欺诈和欺骗;建立一个网络安全计划，建立人工智能工具，以解决关键软件中的漏洞。
值得注意的是，该命令确实涉及公平和公民权利等领域，指出人工智能如何加剧医疗保健、司法和住房方面的歧视和偏见，以及人工智能在工作场所监控和工作流离失所等方面带来的危险。但有些人可能会认为该命令缺乏真正的效力，因为它的大部分内容似乎都围绕着建议和指导方针——例如，它表示，它希望通过“制定在量刑、假释和缓刑、审前释放和拘留、风险评估、监视、犯罪预测和预测性警务以及法医分析方面使用人工智能的最佳做法，来确保刑事司法系统的公平性。”
虽然这项行政命令在一定程度上规范了人工智能开发人员应该如何在他们的系统中建立安全和保障，但如果没有进一步的立法改革，目前尚不清楚它在多大程度上是可执行的。例如，该命令讨论了对数据隐私的担忧——毕竟，人工智能使大规模提取和利用个人私人数据变得更加容易，开发人员可能会被激励去做一些事情，作为他们模型训练过程的一部分。然而，该行政命令只是呼吁国会通过“两党数据隐私立法”来保护美国人的数据，包括要求更多的联邦支持开发保护隐私的人工智能开发技术。
随着欧洲即将通过首个广泛的人工智能法规，很明显，世界其他地区也在努力遏制人工智能，这将造成自工业革命以来最大的社会动荡之一。拜登总统的行政命令对OpenAI、b谷歌、微软和meta等公司的影响有多大，还有待观察。
