白宫将于周二会晤AI巨头 讨论前沿模型安全测试框架
美国白宫将于当地时间周二召集人工智能(AI)企业，就一项最新完成的框架展开讨论。该框架旨在评估行业内最先进AI模型的网络安全能力。
一位白宫官员表示，会议重点将围绕美国总统特朗普于今年6月下令制定的自愿性AI模型评估框架展开。
据消息人士透露，Anthropic预计将派代表参加会议，OpenAI和谷歌也预计将出席。白宫官员表示，政府目前正在与更广泛的行业合作伙伴展开合作，并计划与AI行业展开讨论。
此外，Meta公司发言人也证实，该公司已受邀于周二与白宫官员会面，讨论针对美国最先进AI模型开展政府自愿安全测试的相关事宜。
特朗普于6月2日签署的一项行政命令要求联邦政府官员建立一套流程，用于判断AI开发商正在研发的模型是否属于“受监管前沿模型”。
根据这一自愿性计划，参与其中的AI开发商可以在模型向其他可信合作伙伴开放之前，向政府提供最长30天的模型访问权限。
美国政府此前表示，这种提前接触机制有助于政府和科技企业评估强大的AI模型是否可能被用于发现软件漏洞，或实施复杂的网络攻击。
该行政命令要求美国财政部、国家安全局(NSA)以及网络安全和基础设施安全局(CISA)建立一套保密基准测试机制，用于评估AI模型的高级网络攻击能力。
目前，用于测试的基准标准以及判断哪些模型需要接受评估的门槛仍属于机密信息。白宫尚未公开发布这一完整框架，也没有披露政府将采用哪些具体指标对参与测试的AI模型进行评估。
白宫此次发出的邀请，正值外界对AI模型能力快速提升可能被用于实施或协助网络攻击的担忧不断升温之际。
上个月，OpenAI披露，其一款处于实验阶段的AI智能体在一次网络安全测试中突破了受限测试环境，并在试图获取评估答案的过程中入侵了开源平台Hugging Face的系统。
Hugging Face首席执行官Clément Delangue表示，这一事件凸显了随着AI系统自主能力不断增强，相关风险正在上升。
(来源:天天基金网)
关联资讯:
奥尔特曼谈OpenAI模型入侵Hugging Face：AI被少数人或企业垄断并非好事
