谁为查尔斯三世的AI峰会定下了宾客名单？

查理三世国王问道人工智能领域的一些重要人物，为他们提供关于如何控制发明的安心。大约有30位科技高管、政策制定者和伦理研究人员参加了在苏格兰邓弗里斯府举行的君主私人峰会。

以下是一些最知名的与会者。

黄仁森——英伟达创始人、总裁兼首席执行官

黄晓自1993年共同创立英伟达以来，一直领导着这家显卡公司，将该公司打造成全球最有价值的公司，其GPU成为人工智能热潮的中坚力量。

黄晓明：“我们不需要新法律——我们不需要新的监管。”周二表示称其为快速与安全AI开发之间的“虚假选择”。

阅读更多：英伟达的黄氏呼吁在查尔斯国王峰会上进行人工智能安全测试

Demis Hassabis — Google DeepMind联合创始人及Alphabet首席科学家

作为前国际象棋神童和电子游戏设计师，哈萨比斯于2010年共同创立了DeepMind，谷歌于2014年收购了该公司。该实验室开发了AlphaGo，精通了臭名昭著的难度极高的围棋，以及AlphaFold，一种预测蛋白质形状的系统，他因此获得了诺贝尔化学奖。

上个月，他离开了从实验室的日常运营中获得。他呼吁“紧急采取行动”应对人工智能潜在风险，包括国际标准机构。

哈萨比斯今天说：“我相信我们正处于人类历史的关键时刻。”AGI“可能只有短短几年时间。其影响可能是前所未有的，可能是工业革命的十倍，速度是十倍。”

蒂诺·库埃利亚尔——首席全球事务官，人类事务

库埃利亚自八月起领导Anthropic的政策工作。他曾领导卡内基国际和平基金会的研究机构，曾任加州最高法院法官，并在奥巴马总统政府中担任职务。

首席执行官达里奥·阿莫代呼吁放缓某些模型的步伐，以便保障措施赶上进度，同时强调他并未提议停止培训或技术进展的模型。

Sarah Friar — OpenAI 首席财务官

Sarah Friar是OpenAI的首席财务官，曾任Square的首席财务官和Nextdoor的首席执行官。她参与了OpenAI可能的首次公开募股（IPO）筹备工作，并参与了一轮可能将公司估值超过1.2万亿美元的融资轮。

彭博社报道.OpenAI联合创始人Sam Altman表示，前沿AI应在必要时放慢速度，安全必须凌驾于利润、自尊和竞争压力之上。

尤瓦尔·诺亚·赫拉利——作家及历史教授

赫拉利是畅销书《人类》的作者，该书全面概述了人类从洞穴居民到技术革命的进步历程。他认为人工智能可能从根本上改变社会信任，促进一种新型的监控国家，并呼吁实施诸如禁止人工智能人格等监管措施。

保罗·贝南蒂——梵蒂冈人工智能首席顾问

贝南蒂是一位意大利方济各会修士、神学家及梵蒂冈著名的人工智能伦理顾问。教皇良十四世五月的通谕呼吁“解除人工智能武装”——摆脱促进统治、排斥或死亡的使用。

教皇有人辩称技术并非道德中立，因为它反映了控制和创造技术者的动机、资金和监管。他还表示，人工智能应摆脱垄断控制。

布莱兹·梅特雷韦利——军情六处局长

梅特雷韦利成为了第一位女性去年，她将领导英国对外情报机构MI6。此前，她曾任MI6技术与创新总监，该职位内部被称为“Q”，以詹姆斯·邦德角色命名。

她表示，人工智能正在“改写冲突的现实”，通过创造“科幻式工具”，与生物技术和量子计算并行。

安东尼娅·罗密欧——内阁秘书兼英国公务员体系负责人

罗密欧成为了第一位女性她于二月被任命为英国公务员队伍的领导者。作为一名职业公务员，她将人工智能的采用作为任期的核心工作，并负责监督政府人工智能工作组。

她形容这项技术是“我们这一代最具代表性的机会，也是最具挑战性的挑战。”

卡尼什卡·纳拉扬——英国人工智能部长

纳拉扬被总理安迪·伯纳姆提拔为出席内阁。本周他表示，“在加强人工智能监管方面，没有什么是不可能的”，基调转变他之前淡化人工智能灾难风险的言论。

斯图尔特·拉塞尔——加州大学伯克利分校人工智能研究员

拉塞尔是计算机科学教授，领导国际安全与伦理人工智能协会。他认为，单纯放缓尖端模型开发速度，没有安全要求是毫无意义的。“我们必须先设定安全要求，只有满足这些要求后才会取得进展，”他在《卫报》写道。

薛兰——中国人工智能治理学者及政策顾问

薛岳领导清华大学人工智能国际治理研究所，并担任国家下一代人工智能治理专家委员会主席。他认为将人工智能描述为美中竞赛“不准确”，因为这不是两国竞赛，种族心态使安全合作更难。

在特朗普总统之后，一位中国研究人员的出现尤为引人注目关于提案的说法放缓人工智能发展：“唯一对此感到高兴的是中国。”

托比·奥德——牛津大学人工智能治理倡议高级研究员

奥德是牛津大学人工智能治理倡议的哲学家和研究员。在他2020年的著作《悬崖边缘》中，他认为人类正面临一个特殊时期，其长期未来正受到其自身创造的技术的威胁。

他还是有效利他主义运动的奠基人物之一，该运动提出了显著重量关于预防低概率但可能灾难性的风险。

查理三世国王

尽管据报道他从未拥有过手机，也需要避开党派政治，查尔斯自2022年成为国王以来，多次谈论人工智能。去年在颁发工程师奖时，他将自己在2023年布莱切利园人工智能安全峰会上发表的演讲稿交给了英伟达CEO，该峰会强调了人工智能安全的重要性。

“人工智能的到来会带来一个不断增加的物质、丰饶和闲暇的时代吗？”他在另一场演讲中问道。“还是说它会从根本上改变，甚至消耗工作和其他机会，然后捕获并超越我们的思维？”