人工智能对人类构成了潜在的灾难性风险

11月1日，美国、英国、中国等28个与会国在布莱切利举办的首届全球人工智能(AI)安全峰会上签署了《布莱切利宣言》，这是全球第一份针对人工智能这一快速新兴技术的国际性声明，旨在管理与新兴人工智能(AI)工具相关的风险，特别是该技术的网络安全。根据“布莱切利宣言”内容，与会国一致认为，人工智能已经部署在日常生活的许多领域，在为人类带来巨大的全球机遇的同时，还在网络安全、生物技术等关键领域带来了重大风险。

“人工智能模型最重要的功能，可能会有意或无意地造成严重甚至灾难性的伤害，”宣言写道，“鉴于人工智能快速且不确定的变化速度，以及技术投资加速的背景下，我们确信加深对这些潜在风险的理解以及应对风险的行动尤为紧迫”。

据新华社报道，中国科技部副部长吴朝晖率团出席此次峰会，参与人工智能安全等问题讨论，积极宣介中方提出的《全球人工智能治理倡议》，并将与相关国家开展双边会谈。该倡议围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理中国方案。中方指出，人工智能治理攸关全人类命运，是世界各国面临的共同课题。发展人工智能，应当积极倡导以人为本，智能向善，加强技术风险管控，并在相互尊重、平等互利的原则基础上，鼓励各方协同共治，增强发展中国家在人工智能全球治理中的代表性和发言权，不断弥合智能鸿沟和治理能力差距。中方愿与各方一道就人工智能安全治理加强沟通交流，为推动形成普遍参与的国际机制和具有广泛共识的治理框架积极贡献智慧，切实落实全球发展倡议、全球安全倡议和全球文明倡议，促进人工智能技术更好造福人类，共同构建人类命运共同体。

据外媒报道，“人工智能安全和人工智能创新并不冲突，”Darktrace首席执行官Poppy Gustafson解释说。“它们齐头并进。在构建这些激动人心的新技术的旅程中，我们可以极大地造福社会，我们制造人工智能越安全，我们就能越快实现这些机会。

同样，Bugcrowd的创始人兼首席技术官凯西·埃利斯(Casey Ellis)表示，该协议表明全球领导者正在采取积极主动的方法来开发安全的人工智能。

埃利斯说：“关于人工智能安全的布莱切利宣言代表了在确保安全和负责任地开发这项变革性技术方面迈出的重要一步。“通过强调网络安全和隐私保护问题，该宣言表明了全球承诺为其签署方负责任的人工智能创新提供坚实的基础。”

　　图片使用申明：原创文章图片源自‘Canva可画’平台免费版权图片素材；引用文章源自引用平台文章中所使用的原图。