美国NIST启动AI治理新平台

美国商务部下属的国家标准与技术研究院（NIST）于4月30日宣布，正式启动NIST GenAI平台，用以评估和提升生成式人工智能技术。

NIST GenAI将发布基准测试，用以建立“内容真实性”检测系统，即检测深度伪造，并鼓励开发能够识别虚假或误导性AI生成内容的工具。

NIST在新闻稿中指出：“NIST GenAI项目将发布一系列挑战性问题，来评估和衡量生成式人工智能技术的能力和局限性。这些评估将用于促进信息完整性，指导数字内容的安全和负责任使用。”

NIST GenAI平台的首个项目是一项试点研究，首先从文本生成的领域开始，目的是构建能够可靠区分人类创作和AI生成内容的系统。

NIST GenAI诚邀学术界、工业界和实验室团队提交“生成器”或“鉴别器”——即识别AI生成内容的系统。参与研究的生成器需要根据给定的主题和文档集生成不超过250字的摘要，而鉴别器则需要判断特定摘要是否由AI生成。为确保公平性，NIST GenAI将提供测试所需的数据，并确保参与的系统都符合法律和法规。试点研究从5月1日开始启动报名，前两轮的截止日期定于8月2日。研究的最终结果预计将在2025年2月公布。

随着AI生成的虚假信息数量爆炸式增长，NIST GenAI应运而生。据深度伪造检测公司Clarity的数据显示，与去年同期相比，今年深度伪造内容数量增加了900%。YouGov的一项民意调查也发现，85%的美国人对在线传播的误导性深度伪造感到担忧。

NIST GenAI的推出也是对拜登AI行政命令的直接响应，该命令要求AI公司更加透明地说明其模型的工作原理，并建立了一套包括AI生成内容标记等内容在内的新的标准。