拜登发布行政命令制定新的人工智能安全标准和保障措施

2023年10月31日,01时09分36秒 科技新知 阅读 23 views 次

美国总统乔·拜登发布了一项关于人工智能(AI)的行政命令,这标志着美国政府首次采取此类行动。该指令要求进行新的安全评估、公平和公民权利指导,以及有关人工智能对就业市场影响的研究。

这项行政命令标志着美国政府首次采取此类举措,要求进行新的安全评估、公平和民权指导,以及有关人工智能对劳动力市场影响的研究。

该命令还扩展了白宫此前从顶级人工智能公司获得的自愿承诺所建立的基础。该命令标志着该技术领域最重要和强制性的政府行动。

正如我们在 7 月份报道的那样,白宫表示,包括 OpenAI、Alphabet(谷歌母公司)和 Meta 在内的一些主要人工智能公司已自愿承诺采取措施,在人工智能生成的内容上实施水印,以增强安全性。

虽然执法机构已表示准备执行有关人工智能滥用的现有法律,并且国会也表示有兴趣更多地了解该技术以制定潜在的新立法,但该行政命令预计将产生立竿见影的影响。一位政府官员强调,与所有行政命令一样,它具有法律效力。

白宫将行政命令的基本组成部分分为八个部分:

  1. 为人工智能制定新的安全标准,迫使某些人工智能公司与联邦政府分享安全测试结果,指示商务部制定人工智能水印指南,并建立网络安全计划以使用人工智能工具识别关键软件中的缺陷。
  2. 通过为各机构制定评估人工智能中使用的隐私技术的指南来保护消费者隐私
  3. 为房东和联邦承包商提供指导,避免人工智能算法造成的歧视,并概述人工智能在司法系统中发挥适当作用的最佳实践,特别是在量刑、风险评估和犯罪预测方面,从而促进公平和公民权利
  4. 通过责成卫生与公众服务部评估与人工智能相关的潜在有害医疗保健实践并为教育工作者提供资源以负责任地使用人工智能工具来保护消费者
  5. 通过编写一份关于人工智能对劳动力市场的潜在影响的报告并调查联邦政府可以帮助受影响工人的方式来支持工人
  6. 通过扩大人工智能研究拨款(特别是在气候变化等领域)以及现代化美国高技能移民工人的标准来促进创新和竞争
  7. 与国际合作伙伴合作建立全球人工智能标准。
  8. 制定联邦机构人工智能使用和采购指南,并加快政府内部人工智能技术人员的招聘。

白宫副幕僚长布鲁斯·里德表示,这一命令代表了“世界上任何政府在人工智能安全和信任方面采取的最强有力的一系列行动”。它建立在先前从领先人工智能公司获得的自愿承诺的基础上,标志着政府对该技术采取的初步具有约束力的行动。这是在英国主办的人工智能安全峰会之前进行的

这位高级政府官员强调了该行政命令的重要性,并提到 15 家美国主要科技公司已同意自愿做出人工智能安全承诺,并强调需要对人工智能开发进行具体监管。

该行政命令要求大公司在正式发布人工智能系统之前与美国政府分享人工智能安全测试结果。它还强调了美国国家标准与技术研究所在制定人工智能“红队”标准、强调系统防御和识别潜在问题方面的作用。此外,它还指示商务部制定人工智能生成内容的水印标准。

此外,该命令还涉及重要人工智能系统的培训数据,并概述了评估各机构收集和利用商业数据(尤其是涉及个人标识符的数据)的必要性。

拜登政府还正在努力加强人工智能劳动力队伍,为具有人工智能专业知识的个人提供通过 AI.gov 在联邦政府内寻找相关机会的途径。

一位高级政府官员强调,该命令的某些安全和安保方面的实施目标是 90 天,而其他方面可能需要接近一年的时间。该命令是总统指令的一部分,旨在利用广泛领域的政府权力来管理人工智能的风险并利用其优势。

本文来自互联网,不代表前途科技立场,如若转载,请注明出处:https://accesspath.com/tech/5880843/

(来源:前途科技)



用户登录