国土安全部成立新的人工智能安全委员会

国土安全部(Department of Homeland Security)从大型人工智能领域的各个领域聘请了22名新代表，在美国关键基础设施中开发和部署人工智能系统时，就安全建议向该机构提供建议。

周五宣布，该机构新成立的人工智能安全与保障委员会由来自私营部门、学术界、政府和行业倡导团体的人工智能专家组成，他们将以咨询身份工作，确保人工智能和机器学习系统充分保护公众。该委员会的重点领域包括人工智能在交通、管道和电网运营以及互联网服务提供商等领域的应用。

董事会成员包括OpenAI首席执行官萨姆·奥特曼(Sam Altman);达里奥?阿莫代伊，Anthropic首席执行官兼联合创始人;达美航空公司首席执行官埃德·巴斯蒂安;斯坦福大学以人为中心的人工智能研究所联合所长李飞飞;Alphabet首席执行官桑达尔·皮采;NVIDIA总裁兼首席执行官黄仁勋;白宫科技政策办公室主任阿拉蒂·普拉巴卡(Arati Prabhakar);以及民主与技术中心总裁兼首席执行官亚历山德拉·里夫·吉文斯等人。

22名董事会成员将向国土安全部部长亚历杭德罗·马约卡斯汇报。

“人工智能是一种变革性技术，可以以前所未有的方式推进我们的国家利益。与此同时，它也带来了真正的风险——我们可以通过采用最佳实践和采取其他经过研究的具体行动来减轻风险，”马约卡斯在一份新闻稿中说。“我很感激这些有成就的领导人将他们的时间和专业知识奉献给董事会，以帮助确保我们国家的关键基础设施——美国人每天依赖的重要服务——有效防范风险，并实现这一变革性技术的巨大潜力。”

该委员会的成立是由乔·拜登总统在其2023年关于人工智能的行政命令中授权的，此前，美国国土安全部最近发布了《2024年国土威胁评估》，该评估强调了针对管理关键基础设施运营的网络的持续数字威胁。

与此同时，位于德克萨斯州和新墨西哥州之间的一家水处理设施上周遭受了严重的网络攻击，谷歌曼迪昂特(Google Mandiant)的一份报告将其与俄罗斯政府支持的黑客联系起来。