中国银行原行长李礼辉: AI迭代可能带来四大挑战 如何兼顾数字经济的发展与安全

文章正文
发布时间:2024-08-18 19:24

  

记者唐婧北京报道

  近日,由瞭望智库主办的“2023第八届新金融论坛”在京举行。中国银行原行长李礼辉以“数字技术迭代与数字经济战略”为题发表演讲。

  李礼辉表示,人工智能技术创新主要有三大趋势:一是生成式AI启动了内容生产方式和人机交互方式的变革,“AI数字代理”程序可以代替主人执行知识学习、环境感知、行动规划等任务;二是从通用大模型扩展到垂直模型(垂类模型),融入数字技术创新的不同领域,包括大数据、云计算、区块链和物联网等,形成以AI技术为核心的复杂体系;三是AI模型能够直接降低知识应用的成本,从而创造商业价值。

  不过,李礼辉提醒,尽管AI技术有利于金融机构改进产品创新和客户服务,甚至改进运营管理和风险管控,但AI迭代可能带来的四大挑战也不容忽视。

  一是算力集中与算力竞争。算力基础设施包括以服务器为中枢的硬件和以算法程序为核心的软件。核心算力基础设施建设需要持续投入巨大的财力、人力,这就势必导致算力集中。因此,算力竞争将是主要经济体之间的国家级竞争,以及资本巨头之间、科技巨头之间的企业级竞争。

  二是数据共享与数据管控。一方面,数据共享模式的局限可能影响数据价值的深度开发。例如,我国移动支付用户规模高达9亿,数字化支付成为主要的数据入口,但互联网平台与金融机构之间的数据关联、数据共享尚未达成成熟的模式,数据资源的价值未能充分发掘。另一方面,地缘政治冲突可能影响全球数据资源供给格局。美国联合西方国家对中国设置的技术壁垒有可能延伸到数据资源领域。

  三是“AI对齐”与AI合成。“AI对齐”是指AI系统的目标必须与人类的价值观与根本利益保持一致,这个概念得到了全球的原则认可。问题在于,人类的价值观和根本利益未必一致,在地缘政治环境中,AI对齐有可能成为霸权国家价值观输出的技术工具。

   AI合成则是指应用深度学习、虚拟现实等生成类算法制作图像、音频、视频、虚拟场景等深度合成内容。随着AI合成拟真水平的进化,深度合成算法甚至可以对抗通用的技术性甄别,可以制作高仿的拟真声纹。深度合成内容甚至可以模糊真实和虚假的边界。

  四是AI信任与AI安全。偏于审慎的观点认为,以AIGC为代表的人工智能最新技术处于起步阶段,相关的算法和模型仍不够清晰不够透明,将尚不成熟的人工智能技术投入高风险的金融领域,可能放大现有风险并产生新的风险。而智能金融创新必须以AI信任与AI安全为前提,实现符合伦理标准的金融平等,保障符合安全标准的金融效率,营造符合经济规律的创新模式。

  针对上述冲击和挑战,李礼辉就数字经济国家战略提出了四点建议。

  一是建设布局合理、全球领先的算力基础设施。建设算力基础设施既要激励国家队也要鼓励民营队,既要促进国有企业建立符合市场经济和科技规律的激励机制、决策机制和问责机制,又要为民营企业创造更加公平、更加宽松的营商环境。

  二是建设高品质、高效率的数据要素共享体系。重点是完善数据要素市场体制机制,增强数据要素共享性、普惠性,提高数据要素供给数量和质量,有效防范和化解各种数据风险,深化开放合作实现互利共赢。

  三是建设可信、可控的数字安全制度。国家应建立AI信任制度和AI监管制度,在立法和执法层面明确禁止AI造假和AI欺诈,赋予合格企业AI信任标志;提升深度合成内容鉴别技术,提供对抗AI虚假的公共服务;在国家层级建立预防AI操纵的防火墙,维护数字经济时代的国家安全。

  四是建设安全、高效的智能金融创新制度。技术创新力求“高中”。“高”是引领创新占领高地,“中”是接地气的中国方案。要稳妥推进人工智能技术的创新和应用,不断完善以市场需求为核心的数字化技术方案。

  风险管控力求“初小”。“初”是有能力把风险消灭在萌芽状态,“小”是实现风险概率和风险成本的最小化,实现智能金融的健康发展。这就要求加快智能金融监管创新。

  智能金融监管创新方面,除了制定相关法律法规、建立风险分析和监测系统以及完善监管沙盒机制之外,李礼辉强调,中国应当积极参与构建数字经济国际规则和数字技术通用标准,加强智能金融国际监管协作和交流,在数字经济国际规则建设中争取中国的话语权,在数字技术通用标准建设中争取中国的“定位权”。