作者︱亚当·斯通
当各国政府努力解决如何推出生成式人工智能（或者他们是否应该推出）时，西雅图、新泽西和加州的政策旨在广泛、易于理解，并在面对变化时具有相关性。
对于一些人来说，人工智能的迅速崛起令人焦虑。人工智能是否会让偏见长期存在，是否会暴露不准确的信息，是否会让人们失业？作为新泽西州首任首席人工智能战略官，贝丝·西蒙·诺维克 (Beth Simone Noveck) 并不认为这是一个令人担忧的问题，反而是一个机会。
她说：“很多地方都保持沉默，让公务员不知道他们应该做什么。”在新泽西州，“我们说过：你应该出去使用这些人工智能工具，尝试向它们提出问题。让我们来谈谈他们。让我们进行一次对话。”
去年11月，新泽西州发布了人工智能政策的第一版，诺维克希望通过这一政策来推动对话。她并不孤单。在全国范围内，政府 IT 领导者正在制定政策，鼓励探索新兴能力，尤其是围绕生成式人工智能的能力，同时还要注意潜在的风险。
专家表示，鉴于生成式人工智能应用的快速增长，政府迫切需要建立警戒线。哈佛大学伯克曼克莱因中心研究员梅赫塔布·汗（Mehtab Khan）表示：“这些工具已经公开可用，并且正在被私人采用或使用。” 鉴于这种快速采用，“除了制定内部政策和原则外，你没有任何控制权。”
在此，我们将介绍一些新出现的政策，并探讨其中的利害关系：为什么现在需要制定政策，以及随着生成式人工智能不断席卷全球，事情可能会如何发展。
规范城市用途
作为西雅图的首要任务，临时首席技术官吉姆·洛特（Jim Loter） 一直在为市政员工制定指导方针，以防范任何不当使用。
虽然 IT 团队探索人工智能已有好几年了，但“生成式人工智能的爆炸式增长……确实促使我们更加认真地对待人们对人工智能的担忧。”他说。
“我们看到，随着 ChatGPT 等工具的发展，市政员工突然非常有可能希望使用这项技术来处理日常事务，”他说。“我们希望就此展开讨论。”
为了制定政策，该市组建了一个生成式人工智能政策咨询团队，其成员包括华盛顿大学、艾伦人工智能研究所的领导、该市社区技术咨询委员会 (CTAB) 的成员以及西雅图信息技术公司的员工。
该团队沿用了西雅图市几年前制定数据隐私政策时所采用的模式，即以一般性指导声明作为起点的策略
洛特说：“我们发现，基于原则的方法非常有效，因为它不需要我们预测该领域可能出现的每一个潜在用例。”“这让我们能够与市政府的员工沟通：继续你的判断。当你决定是否使用某个系统时，请牢记这些原则。”
为此，人工智能政策阐明了若干管理原则，涉及透明度和问责制、有效性和可靠性、偏见和公平性、隐私和可解释性等领域。
该政策还重申了长期以来的规定，即 IT 部门是唯一有权代表市政府购买信息技术的机构。洛特说，在线访问人工智能工具太容易了，IT 团队希望确保市政员工不会绕过隐私和安全等方面的常规控制。
这指的是“即时是在 ChatGPT 上创建一个免费帐户这样基本的事情”。“如果你在其中输入 Seattle.gov 地址，然后开始输入你提示并使用其结果，你就会产生不必要的风险。”
2023年11月，新泽西州发布人工智能政策时，贝丝·西蒙娜·诺维克(Beth Simone Noveck)是该州的首席创新官。2024年1月，她被任命为首席人工智能战略师，因为州长菲尔·墨菲(Phil Murphy)呼吁实施“人工智能登月计划”。
正在进行的努力
与此同时，在加利福尼亚州首席信息官兼技术部主任莉安娜·贝利·克里明斯（Liana Bailey-Crimmins）同样描述了人工智能政策的出现，该政策将首先以行政政策的形式提供一般性指导。
她在给政府技术部门的电子邮件中表示：“我们认识到生成式人工智能的新颖和独特性，并正在与行业和学术专家密切合作，以了解这项技术的风险和益处，以及在哪些方面可能需要额外的政策。”
在早期，这些政策由加州州长加文·纽森(Gavin Newsom)的行政命令决定的。该行政令于去年9月推出，为加州提供了一个了解生成式人工智能风险和益处提供了一个框架，为州政府机构提供了制定方法的方向。根据该文件，目标是在州政府内部创建一个“安全、道德和负责任的创新生态系统”。
这些指导方针最终将涵盖公共部门的采购、使用以及应用生成式人工智能所需的培训。贝利·克里明斯（Bailey-Crimmins）表示，这项新兴政策将建立在联邦层面多个早期指导之上，包括美国国家标准与技术研究院（NIST）的《人工智能风险管理框架》、白宫的《人工智能权利法案蓝图》以及白宫关于安全、可靠地开发和使用人工智能的行政命令。
她说，随着政策的发展，加州还将邀请学术界和行业专家参与，以“确保我们采取一种平衡且有洞察力的方法来考虑当前和未来的政策需求”。
让人工智能变得可行
在新泽西州，州长菲尔·墨菲（Phil Murphy）成立了一个人工智能特别工作组，这通常是政策制定者在面对生成式人工智能时采取的第一步。诺维克与州首席技术官克里斯·莱恩（Chris Rein）和新泽西州经济发展局首席执行官蒂姆·沙利文（Tim Sullivan）共同担任该工作组的主席。
2023年11月，该工作组发布了第一份政策公告。该政策为政府员工设定了一个目标，呼吁他们使用人工智能“高效、安全、公平地为所有居民提供更好的服务和产品”。
它涉及包容和尊重（“人工智能应该提升社区”）。它呼吁透明度（“我们必须负责任地披露，并与其他公务员和公众自由分享我们的工作流程”）。它还鼓励负责任的实验（“我们知道风险可能在初期并不完全显现，并承诺进行积极主动的风险评估”）。
所有这一切的目的都是为了推动这项工作。诺维克说：“这些强大的新技术确实可以帮助我们更好地开展工作。”
在探索生成式人工智能潜力时，她说：“你应该遵守保障措施，例如：不要完全依赖它们提供给你的信息。确保在使用时公开信息。不要将个人身份信息（无论是你自己的还是其他任何人的）放入这些工具中。”
该政策给出了如何使用人工智能工具的具体示例，以及如何负责任地使用这些工具的指导。诺维克说：“我们还附带了入门视频。”“我们实际上是在向你展示：这是你登录的位置，这里是你应该执行的操作，这里是你如何总结某些内容、翻译某些内容或简化语言的操作。”
她说，这一切都是为了“帮助人们开始使用这些技术为居民造福”。
在诺维克关注人工智能的潜在益处的同时，她与其他人一样，承认政府在寻求充分利用这种强大的新能力时所面临的风险。
有什么风险？
首先，人工智能已经表现出令人信服且自信地犯错误的巨大能力。
“这些工具有时会产生幻觉。”诺维克说。“它们会非常权威地吐出可能不正确的信息，因此你需要仔细检查所有文本内容。切勿在未先检查的情况下直接使用从 ChatGPT 或 Bard 等工具中获得的信息”。
她说，就像政府员工不会在没有仔细检查的情况下将实习生的工作发布给公众使用一样，人工智能结果在用于做出决策或公开发布之前，也应该由负责的个人进行审核。
“如果未经检查和校对，就不要去发布任何东西，尤其是居民要依赖的东西”她说。
与此同时，加利福利亚州正在研究一系列广泛的风险。
贝利·克里明斯表示：“我们正在关注采购指南、风险管理和安全等关键领域，以确保对隐私、滥用和有偏见的结果等潜在隐患进行适当评估、监控和缓解。目标是什么？安全、可靠和公平的结果。”
在西雅图，风险评估“始于一个非常简单的问题：这真的是新的吗？这是否只是市场营销的噱头？还是否真的会带来新的风险？” 洛特说。
简短回答：这是新的。他说：“虽然软件总是有可能出现错误，但我们实在想不出还有哪款软件能真正生成新的内容，而这些内容基本上可以复制和粘贴，而且听起来像人制作的一样。”这种生成风险是人们最令人担忧的问题。
他说：“如果你使用 ChatGPT 在城市网站上发布某些内容，而该内容最终是不准确的，或者在最坏的情况下实际上会引起煽动，或以某种其他方式对城市有害，那么 ChatGPT 写的内容并不重要。”“不管是谁决定复制粘贴并发布在网站上，最终都要对此负责。”
而生成风险反过来又会产生一个需要考虑的附属问题。人工智能是否会带来新的责任？
比如说，一名市政员工使用生成式人工智能工具来研究一个问题。“现在你把它带入了生态系统，你向它提供城市信息，而这些信息现在就在那里。这些信息可能会被要求公开，但我们并不知道这些信息就在那”他说。
在这种情况下，他说：“我们面临着无法响应公共记录请求的风险。”
我们的未来
所有这些可能只是冰山一角。生成式人工智能在很大程度上是一个不断变化的目标，政府 IT 领导者预计风险及其政策应对措施将继续发展。
“人工智能技术正在迅速发展和变化，”贝利·克里明斯说。“我们已经看到人工智能功能被添加到许多常用的生产力和协作工具中，因此将这项技术纳入国家工作场所是不可避免。”
既然如此，“我们希望加州的人工智能和生成式人工智能相关标准、指南和政策会随着这些技术的变化而改变，”她说。
在新泽西州，诺维克设想围绕内部使用制定更具体的政策。她说：“我们在政府中如何使用人工智能技术，这方面的规划是什么？” 新出台的政策迭代将着眼于“确保这些工具按照他们所说的去做，确保我们有足够的透明度来了解它们是如何工作的，确保我们有测试它们的方法。”
即将出台的政策将特别强调人工监督的重要性。政策团队还将研究早期使用案例，以确定哪些方面最需要指导方针。她说：“政策的目的是为人们提供指导，让他们知道该怎么做，而这些来自于对问题的理解。”
在西雅图，该市的下一步将是建立一个推动广泛指导原则实际应用的结构。
洛特说：“我们将为对人工智能技术感兴趣的市政员工创建一个所谓的实践社区”，以帮助他们实施这些原则。他们可以交流信息，制定最佳实践应用。这反过来将帮助政策制定者“更好地了解人们希望或应该如何在现实生活中使用这项技术。”
IT 团队还将制定政策，以指导其围绕人工智能工具的购买流程。这可能会从一个明确的定义开始：下一轮政策将明确说明什么是生成式人工智能工具，什么不是生成式人工智能工具，既可以帮助 IT 部门进行评估，也可以指导市政员工了解人工智能政策应在何处以及如何应用。
总体而言，该政策将继续定义高层次的参与规则，但不会太深入具体细节。洛特说：“一旦你深入到细节层面，开始尝试对特定产品或软件版本，甚至特定用例进行立法，你就会开始与现实玩这种巨大的打地鼠游戏。”“我们不想陷入这种境地。”
好政策的特点是“广泛适用、易于遵循，且不必在每次新产品投放市场时都进行修改。这就是我们的目标，”他说。
【原文地址】https://www.govtech.com/artificial-intelligence/how-should-government-guide-the-use-of-generative-ai
