您的位置: 首页 > 金融科技频道

尚福林:人工智能的算法“黑箱”、数据污染、模型缺陷等潜在风险问题不容忽视

出处:北京商报 作者: 刘四红 网编:财经新闻中心 2025-04-10

北京商报(记者 刘四红)4月10日,以“人工智能与金融未来”为主题的国民财富发展研究合作平台2025春季峰会正式召开。中国财富管理50人论坛理事长、原银监会主席、证监会原主席尚福林出席并发表主旨演讲。

尚福林指出,要关注人工智能提升效率与加剧风险的双重效应,当前,我国人工智能发展的总体态势良好,正处在加强人工智能布局、加快数字化智能化转型的历史机遇期。算力、算法和数据是大模型应用的三大支撑要素。同时也要清醒看到,人工智能的算法“黑箱”、数据污染、模型缺陷等潜在风险问题不容忽视。特别是在金融行业应用时,应关注人工智能带来的效率提升与风险加剧的双重效应。

其中,数据安全可靠与隐私保护是关注焦点。人工智能让数据的应用价值凸显,也让数据的安全防护变得更加复杂。

一方面,持续加强数据的隐私安全保护。金融机构和科技企业需要共同研究数据在采集、存储、传输和使用过程中的安全性问题。要在保障安全和隐私前提下,推动金融与公共服务领域信息互联互通,释放数据要素潜能。

另一方面,关注数据污染。金融机构每天都在处理海量的数据和复杂的交易,信息的准确性和可靠性至关重要。在金融行业,信息污染风险同样存在。如果虚假信息被灌入训练模型,有可能污染模型的训练数据。一旦部署到金融交易、风险分析当中,可能会引发连锁反应,造成难以估量的损失。

本网站所有内容属北京商报社有限公司,未经许可不得转载。 商报总机:010-64101978 媒体合作:010-64101871

商报地址:北京市朝阳区和平里西街21号 邮编:100013 法律顾问:北京市中同律师事务所(010-82011988)

网上有害信息举报  违法和不良信息举报电话:010-84276691 举报邮箱:bjsb@bbtnews.com.cn

ICP备案编号:京ICP备08003726号-1  京公网安备11010502045556号  互联网新闻信息服务许可证11120220001号