智通财经APP获悉，据媒体援引知情人士透露的消息报道，美国政府表示，包括微软、OpenAI以及谷歌等人工智能领域领导者们在内的200多家实体公司加入了一个新的美国联营研究团体，以帮助安全开发和部署生成式人工智能。
当地时间周三，美国商务部长吉娜·雷蒙多宣布了领导美国人工智能安全研究所(AISI)执行领导团队的主要成员，该研究所将在美国国家标准与技术研究院(NIST)正式联合成立。伊丽莎白·凯利(Elizabeth Kelly)将担任该研究所的首任主任，埃尔哈姆·塔巴西(Elham Tabassi)将担任首席技术官。
根据这份媒体报道，美国人工智能安全研究所(AISIC)的主要成员企业包括微软(MSFT.US)、ChatGPT开发商OpenAI、亚马逊(AMZN.US)、Alphabet旗下的谷歌(GOOGL.US)、OpenAI最大竞争对手之一Anthropic、Meta Platforms(META.US)、苹果(AAPL.US)、英伟达(NVDA.US)、Palantir (PLTR.US)、英特尔(INTC.US)、摩根大通(JPM.US)以及美国银行(BAC.US)。
除了上述这些人工智能领域领导者，该小组的其他成员还包括英国石油公司(BP.US)、思科(CSCO.US)、IBM(IBM.US)、惠普(HPE.US)、诺斯罗普·格鲁曼公司(NOC.US)、万事达(MA.US)、高通(QCOM.US)以及Visa(V.US)，还包括一些学术机构和政府机构，这些也机构将成为美国人工智能安全研究所(AISI)的重要组成部分。
主要覆盖电商以及云服务领域的亚马逊表示，该公司将与NIST合作建立一种新的测量科学，这种新的科学将能够识别经过验证的、可扩展的、可互操作性的测量方法，以促进可信赖的人工智能的发展及其负责任的使用。
此外，亚马逊将向该研究所提供基于500万美元的计算积分，以帮助开发各种工具和方法，各组织可以使用这些工具和方法来评估其基础模型的安全性。
该公司补充表示，NIST不评估该联营联盟旗下成员各自的商业产品，也不认可任何使用的相关产品或服务。
美国总统经济政策特别助理凯利当天表示:“虽然我们的首要任务是执行拜登总统的行政命令赋予NIST的任务，但我期待将NIST建设成为国家和世界的长期资产。”
2023年10月，美国总统乔·拜登领导的政府发布了一项行政命令，对人工智能的利益和风险进行管理。拜登政府表示，该命令为人工智能的安全和保障设定了新的标准，并且能够保护隐私、促进公平和公民权利，维护消费者和工人的利益，促进创新和竞争。
该媒体报道补充表示，该联营联盟将制定关键的red-teaming指导方针、能力评估、风险管理、安全和安保以及合成内容水印的指导方针。
2023年7月，包括亚马逊、Alphabet旗下谷歌、Facebook所有者META以及微软在内的科技巨头们自愿向白宫承诺实施某些实质性的措施，例如使用数字水印来帮助区分真实内容和人工智能生成的内容。
美国商务部负责标准与技术的副部长兼NIST主任劳里·洛卡西奥(Laurie Locascio)周三表示:“我相信，在伊丽莎白·凯利(Elizabeth Kelly)和埃尔哈姆·塔巴西(Elham Tabassi)的领导下，美国人工智能安全研究所将能够很好地发展促进人类社会人工智能技术安全可靠发展所需的测量科学。”
自2022年美国科技巨头微软支持的OpenAI 成功推出ChatGPT以来，新一代具备革新意义的生成式人工智能服务席卷全球。基于不同类型的大型语言模型(LLM)的类似ChatGPT的AI聊天机器人，可以生成使用者所需的内容，图像和声音，甚至能够生成庞大的编程工作所需的代买，这类AI聊天机器人正在全球范围内广泛使用。
