![全球AI安全承诺:OpenAI、微软、智谱AI等科技巨头联合构筑AI伦理防线](https://aidh123.com/wp-content/uploads/2024/05/20240525-140259.jpg)
在人工智能(AI)技术的飞速发展背后,其安全性问题逐渐成为全球关注的焦点。为了应对这一挑战,全球16家顶尖科技公司联合签署了前沿人工智能安全承诺,共同致力于推动AI技术的健康发展。
AI安全问题的严峻性
AI技术的发展带来了革命性的变革,但同时也伴随着潜在的风险。近期,OpenAI的两位重要成员相继离职,引发了业界对AI安全问题的广泛关注。此外,图灵奖得主Yoshua Bengio、Geoffrey Hinton和姚期智等专家在《Science》杂志上发表文章,呼吁全球领导人采取行动,应对AI风险。
全球AI安全承诺的签署
在这一背景下,2024年5月22日,OpenAI、谷歌、微软、智谱AI等来自不同国家和地区的公司共同签署了前沿人工智能安全承诺。这一承诺涵盖了确保AI安全治理结构和透明度、基于AI安全框架衡量风险以及建立风险缓解机制的明确流程。
签署方及专家观点
签署方包括了Amazon、Anthropic、Cohere、Google/DeepMind、IBM、Meta、Microsoft等在内的16家公司。Yoshua Bengio认为,这一承诺的签署是建立国际治理制度以促进AI安全的重要一步。OpenAI的Anna Makanju和Google DeepMind的Tom Lue也表达了对这一承诺的支持。
智谱AI的贡献
作为来自中国的大模型公司,智谱AI也在ICLR 2024上分享了他们针对AI安全的具体做法。智谱AI首席执行官张鹏强调了伴随先进技术而来的确保AI安全的重要责任。智谱AI的GLM-4V内置了安全措施,以防止产生有害或不道德的行为,保护用户隐私和数据安全。
Self-Contrast技术
智谱AI还介绍了一种名为Self-Contrast的无反馈大型语言模型对齐方法。这一方法利用大量自生成的否定词,通过直接偏好优化(DPO)实验,表明可以持续大幅超越标准训练方法。
![全球AI安全承诺:OpenAI、微软、智谱AI等科技巨头联合构筑AI伦理防线](https://aidh123.com/wp-content/uploads/2024/05/20240525-140328.jpg)
欧盟《人工智能法案》的批准
同日,欧盟理事会正式批准了《人工智能法案》,这是全球首部AI全面监管法规,将于下月生效。这一法规采用基于风险的方法,对社会造成伤害的风险越高,规则就越严格。
结论
AI安全已经成为全球关注的焦点。从科技公司到政府机构,都在积极采取措施预防和解决AI安全问题。正如牛津大学工程科学系教授Philip Torr所言,现在是时候从模糊的建议转变为具体的承诺了。
结语
全球AI安全承诺的签署和《人工智能法案》的批准,为AI安全治理提供了新的框架和方向。随着这些承诺和法规的实施,我们期待AI技术能够在确保安全的前提下,继续为人类社会带来更多的福祉。