在人工智能（AI）技术的飞速发展背后，其安全性问题逐渐成为全球关注的焦点。为了应对这一挑战，全球16家顶尖科技公司联合签署了前沿人工智能安全承诺，共同致力于推动AI技术的健康发展。

AI安全问题的严峻性

AI技术的发展带来了革命性的变革，但同时也伴随着潜在的风险。近期，OpenAI的两位重要成员相继离职，引发了业界对AI安全问题的广泛关注。此外，图灵奖得主Yoshua Bengio、Geoffrey Hinton和姚期智等专家在《Science》杂志上发表文章，呼吁全球领导人采取行动，应对AI风险。

全球AI安全承诺的签署

在这一背景下，2024年5月22日，OpenAI、谷歌、微软、智谱AI等来自不同国家和地区的公司共同签署了前沿人工智能安全承诺。这一承诺涵盖了确保AI安全治理结构和透明度、基于AI安全框架衡量风险以及建立风险缓解机制的明确流程。

签署方及专家观点

签署方包括了Amazon、Anthropic、Cohere、Google/DeepMind、IBM、Meta、Microsoft等在内的16家公司。Yoshua Bengio认为，这一承诺的签署是建立国际治理制度以促进AI安全的重要一步。OpenAI的Anna Makanju和Google DeepMind的Tom Lue也表达了对这一承诺的支持。

智谱AI的贡献

作为来自中国的大模型公司，智谱AI也在ICLR 2024上分享了他们针对AI安全的具体做法。智谱AI首席执行官张鹏强调了伴随先进技术而来的确保AI安全的重要责任。智谱AI的GLM-4V内置了安全措施，以防止产生有害或不道德的行为，保护用户隐私和数据安全。

Self-Contrast技术

智谱AI还介绍了一种名为Self-Contrast的无反馈大型语言模型对齐方法。这一方法利用大量自生成的否定词，通过直接偏好优化（DPO）实验，表明可以持续大幅超越标准训练方法。

欧盟《人工智能法案》的批准

同日，欧盟理事会正式批准了《人工智能法案》，这是全球首部AI全面监管法规，将于下月生效。这一法规采用基于风险的方法，对社会造成伤害的风险越高，规则就越严格。

结论

AI安全已经成为全球关注的焦点。从科技公司到政府机构，都在积极采取措施预防和解决AI安全问题。正如牛津大学工程科学系教授Philip Torr所言，现在是时候从模糊的建议转变为具体的承诺了。

结语

全球AI安全承诺的签署和《人工智能法案》的批准，为AI安全治理提供了新的框架和方向。随着这些承诺和法规的实施，我们期待AI技术能够在确保安全的前提下，继续为人类社会带来更多的福祉。