签署协议的公司包括全球移动通信系统协会(GSMA)、INNIT、联想、LG AI研发(LG AI Research)、微软、摩托罗拉、赛富时和西班牙电信。
2021年11月,教科文组织取得了所有会员国的一致共识,通过关于人工智能使用的全球首个伦理框架。
教科文组织总干事阿祖莱表示:“今天,我们得到了多个全球性科技公司的同一具体承诺,再次迈出重要一步。我强烈呼吁各个科技相关方以这八家公司为榜样。公私合作对于构建促进公共利益的AI至关重要。”
该协议在于斯洛文尼亚克兰日举办的第二届联合国教科文组织人工智能伦理问题全球论坛上签署。
协议要求公司在设计、开发、购买、销售和使用AI时充分发挥自身作用,确保人权得到保障。这是私营企业首次在该领域与联合国合作。
协议规定,为符合安全标准,并识别AI的不良影响,必须进行尽职调查,并采取及时措施预防,减轻或纠正这些影响,使之符合各国法律的规定。协议还强调了前期测试(在新的AI系统发布到市场之前的测试)之重要性。但鉴于市场上已有的AI系统迅速发展,协议还呼吁制定后期(投入使用后)的风险评估和风险控制措施。
教科文组织《人工智能伦理问题建议书》是世界上第一个,也是唯一一个针对AI的规范性框架。在过去的两年里,该框架的实施已经取得了实质性进展。如今,超过50个国家积极参与,相关多边合作也显著增加。
自《建议书》通过以来,教科文组织还在与私营部门的合作方面取得了进展,推动成立了由微软和西班牙电信共同主持的AI伦理商业理事会。该理事会致力于加强用于支持伦理和AI的技术,设计和实施《建议书》中规定的伦理影响评估工具,并为适宜的区域法规制定做出贡献。