美发布行政指令监管人工智能

  近来，美国总统拜登发布了一项关于人工智能的行政指令，旨在监管人工智能安全方面发挥领导作用，但大部分后续举动仍需求美国立法者采纳举动，和科技公司的自愿合作。

  拜登的行政指令指示美国政府机构拟定测验和用AI体系的指导方针，包含让美国国家标准与技术研究所为“红队测验”设定基准。

  美国康奈尔大学的Sarah Kreps标明：“这份行政指令以及美国政府对它的评论标明，美国有意成为在人工智能监管方面最积极主动的国家。”

  Kreps标明，拜登的行政指令恰好在英国政府举行人工智能峰会之前发布，这或许“并非偶然”。但她正告说，除非美国国会能够促进两党立法并供给资源支撑，不然单凭这一行政指令不会发生太大影响。她认为，在2024年的美国总统选举年，这种假定不太或许完成。

  意大利博洛尼亚大学的Emmie Hine标明，这遵从了拜登政府在人工智能问题上采纳的非束缚性举动的趋势。上一年美国政府发布了《人工智能权力法案蓝图》，最近还寻求了开发人工智能的大公司的志愿。

  这一行政指令的一个潜在影响部分涵盖了根底模型——在巨大数据集上练习的大型人工智能模型，假如它们“对国家安全、国家经济安全或国家公共卫生和安全构成严峻危险”。该指令使用了另一项名为《国防出产法》的立法，要求开发此类人工智能的公司将练习人工智能的进程告诉政府，并共享一切红队安全测验的成果。

  这些人工智能或许包含OpenAI公司开发的ChatGPT背面的GPT-3.5和GPT-4模型，谷歌公司开发的支撑该公司Bard AI谈天机器人的PaLM 2模型，以及Stability AI公司开发的用于生成图画的Stable Diffusion模型。Hine标明：“这将迫使那些关于模型怎么运作一向很关闭的公司翻开自己的黑匣子。”

  不过，Hine着重，当涉及到美国政府怎么界说哪些根底模型构成“严峻危险”时，或许“细节决定胜败”。相同，Kreps质疑行政指令遣词的“限定性”和“不置可否”，它没有清晰阐明怎么界说“根底模型”，以及由谁来确认什么是要挟。

  美国缺少欧盟那种强有力的数据维护法令。Hine说，相似的法令能支撑人工智能法规。“美国具有人工智能开发的优势，但它没有许多能够依靠的详细监管根据。”