中新网上海新闻5月27日电(记者 姜煜)5月24日，浙江数字金融科技联合会金融科技伦理(专业)委员会2024年第一场活动在上海市浦东新区陆家嘴环路未来资产大厦举办。此次座谈会主题为“智行天下，责在人工：探索人工智能大模型负责任应用”。本次活动由中国人民银行浙江省分行、中国人民银行安徽省分行指导，浙江大学金融科技研究院提供学术指导，浙江数字金融科技联合会蚂蚁集团研究院、上海市互联网金融行业协会、安徽省数字金融科技协会、江苏省数字金融协会、华东师范大学长三角金融科技研究院共同主办。

　　浙江数字金融科技联合会会长、浙江大学国际联合商学院院长贲圣林在开场致辞中表达了他对于全球领先的经济体系和科技创新重镇——长三角区域实现一体化的热切期盼。他进而引出了此次座谈的核心议题：“智行天下责在人工”，强调推动金融科技行业的伦理与责任，乃是每位金融界人士的共同使命。同时，他也提及，自己所担任院长的浙大国际联合商学院和北京前沿金融监管科技研究院一直致力于在金融科技领域的研究探索，积极推动人工智能技术负责任应用，力求在技术进步的同时，确保其在伦理和社会责任方面的平衡与发展。

　　蚂蚁集团研究院院长李振华在开场致辞中提到，2021年蚂蚁积极参与并推动在浙江数字金融科技联合会成立了“金融科技伦理专业委员会”。随着金融领域AI大模型应用的探索发展，新兴技术的应用也带来了一系列新的挑战，包括数据采集训练缺乏安全性、大模型训练和应用成本高效率低、大模型缺乏稳定性和安全性等，值得业界共同关注。蚂蚁集团自启动“AI first”战略以来，全力推动AI赋能各大业务场景，包括把平等普惠的金融服务带给消费者和每一个小微企业。政府、产业界、研究机构以及学术界需要展开深入的沟通与协作，共同寻求解决方案，推动形成更广泛的行业共识。

　　华东师范大学长三角金融科技研究院院长陈琦伟在开场致辞中提到，金融科技伦理是一个又长又厚的雪道，目前对金融伦理并没有展开真正意义上的讨论，仅仅是在提出阶段。陈琦伟认为伦理问题的重要性就在于它是金融科技的“道”，唯有透过金融科技的“术”去观瞻它背后的哲理，才能够真正意义上提高现行金融机构工作模式的效率；此外，陈琦伟还指出伦理问题的解决也有利于解决科技为何而进步的方向问题。

　　江苏省数字金融协会会长、苏商银行董事长黄金老发表了主题为“人工智能在银行业的有效应用治理”的演讲，从业务智能化和管理智能化两个板块介绍了江苏银行业开发和应用AI技术的一些实践，其中包括智能客服、客户风险画像生成、研发代码助手、金融市场城投债报告助手等。此外，他还介绍了银行业AI应用面临的资源挑战、技术挑战、制度挑战，并就这三个挑战给出建议。

　　中国社科院科学技术和社会研究中心主任、浙江金融科技伦理(专业)委员会委员段伟文发表了主题为“金融领域AI大模型伦理治理的综合工具箱”的演讲，分别讲述了通用人工智能的大模型与生成空间的形成、生成式人工智能的长期风险和现实的社会伦理风险、生成式人工智能在金融领域的应用及其主要风险，以及负责任和可问责的金融大模型伦理治理初探四个方面的内容。

　　上海金融与发展实验室主任曾刚在主题为“负责任的数字金融”的演讲中提到，目前银行对人工智能的实践应用还处在非常初级的阶段。他指出，从金融大模型的监管侧，大模型的运作难以按目前的监管要求实现可解释；在用户与金融机构交互的过程中，消费者树立负责任的理念，也是构建金融科技伦理的重要基础；此外，在大模型应用中，要高度关注国家对金融消费者保护问题的重视，应当持续关注负责任的金融理念和监管内容的细化。

　　浙江大学金融科技研究院执行副院长、浙江大学国际联合商学院教授、浙江大学国际联合商学院首席技术官张瑞东发表了主题为“关于大模型产生虚假讯息如何应对：A discussion on AIGC disinformation issues”的演讲，在演讲中他主要强调了AIGC模型的局限性及潜在的产生虚假的信息问题，认为在特定应用场景对AIGC提供的答案要有交叉验证机制而不是直接接受或引用。张瑞东提到，目前AIGC的自我纠错能力及机制还有没有形成，模型的迭代及叠加很可能会导致信息可信度的降低，也会导致对AI应用的悲观预期，所以价值对齐及信息交叉验证的第三方机制在未来十分重要。此外，张瑞东认为站在应用者角度，也需要学习与AI共处，对AI养成一个健康的心态，不要盲目信从。

　　蚂蚁集团全面风险管理部AI风险治理总监杨舟发表了主题为“金融领域科技伦理实践探索与思考”的演讲，他首先介绍了当前生成式AI在金融行业内的应用情况，随后讲述了蚂蚁集团目前在AI应用方面已取得的成就，比如将判别式AI和卫星遥感技术结合，提高农业的效率，将生成式AI应用到智能投顾，希望让所有的老百姓能够享受到高端的理财服务。同时，杨舟也提到了生成式AI的应用也面临着怎样能够使大模型更加可靠、可控的挑战。对此，蚂蚁从6个部分来建设自身的科技伦理体系，包括制定伦理原则、建设伦理组织、加强科技人员宣传教育和培训等。最后，杨舟把金融科技伦理系统的治理思路总结为“两守一攻”，既通过大模型内部自我加固(内生安全)和外挂的防御体系(外生安全)加强防控，又通过伦理风险的评测来以攻助守，提升蚂蚁整体大模型的可控性和可靠性。

　　在圆桌讨论阶段，段伟文、张瑞东，以及安徽省数字金融科技协会金融专委会主任朱斌，东方财富信息股份有限公司人工智能研究院首席科学家刘志毅，中电信翼金智慧营销研究院院长、上海大学中国金融品牌研究院执行院长、苏州盈天地董事长兼CEO王，科大讯飞金融科技事业部华东大区总经理杨致等与会嘉宾们围绕着“从政府政策、行业、企业三个层面讨论如何避免技术滥用，构建公正和负责任的人工智能金融系统”的主题展开讨论。

　　浙江数字金融科技联合会金融科技伦理(专业)委员会于2021年成立，是国内首个省级金融科技伦理专业委员会。该专委会的成立得到蚂蚁集团的支持，将举行一系列的学术研讨活动，助力我国金融科技向善向好发展。(完)

米乐m6官网登录 上一篇：清华经管联合度小满等发布《2024年金融业生成式A 下一篇：让金融行业AI应用开发更便捷！ 阿里云“通义点金”