古特雷斯指出,过去一年来,通过聊天机器人、语音克隆、图像生成器和视频应用等载体,人们看到人工智能的技术能力与实际运用突飞猛进。
他举了一个切身实例:“多亏了一款这样的应用,我看到自己用完美的中文发表演讲。这是一种超现实的体验,因为我并不会讲中文,而我嘴唇的动作跟我所说的话完全贴合。”
古特雷斯强调,在这个充满挑战的时代,人工智能可以推动人类取得非凡的进步。他表示,从预测和解决危机,到推出公共卫生方案与教育服务,人工智能能够提升并强化各国政府、民间社会和联合国的工作。
他还特别指出,“对于发展中经济体而言,人工智能提供了跨越过时技术并直接为最有需要的人提供服务的可能性”。
但他同时提醒,这一切都取决于是否能够负责任地利用人工智能技术,以及是否能让所有人、尤其是需求最大的发展中国家获得这项技术。
古特雷斯表示,就目前情况而言,人工智能的专业知识集中在少数几个公司和国家。这可能会加深全球不平等,并扩大数字鸿沟。
与此同时,“人工智能的潜在危害也逐一显现”:错误信息和虚假信息泛滥,偏见与歧视根深蒂固,监视和侵犯隐私引发关切,欺诈和其他侵犯人权行为层出不穷。
他警告称,即便一系列世界末日场景都不会应验,但已经显而易见的是,“人工智能的恶意使用可能会破坏对各种机构的信任,削弱社会凝聚力并威胁民主本身”。
基于这些原因,古特雷斯发出呼吁,应当就人工智能的治理进行一个多利益攸关方共同参与、多学科共治的全球性对话,让人工智能最大程度地造福于全人类,同时遏制其可能带来的风险。而组建这一高级别咨询机构便是响应呼吁的起点。
人工智能咨询机构汇集了39名来自政府、私营部门、研究界、公民社会和学术界的专家,具有全球性、性别均衡和跨学科等特点。有两名来自中国的专家入选其中,他们分别是中国科学院自动化研究所研究员、类脑智能研究中心副主任曾毅,以及中国政法大学数据法治研究院教授、博士生导师张凌寒。
该机构当前的任务包括就风险和挑战建立全球科学共识,为利用人工智能实现可持续发展目标提供助力,以及加强人工智能治理方面的国际合作。
此外,该机构将帮助协调现有和新的人工智能治理倡议,在今年底前发布初步建议,并在2024年夏季未来峰会举办之前提出最终建议。古特雷斯表示,这些建议将为拟议中的《全球数字契约》提供参考意见。
据了解,该机构将于10月27日举行第一次会议。