可信人工智能：金融业面临的挑战与机遇

打开凤凰新闻，查看更多高清图片

ChatGPT的迅速崛起让人们深信不疑人工智能将逐渐融入人们的日常生活。然而，大规模应用人工智能也带来了诸多潜在风险。当ChatGPT的月活用户数成功破亿大关之际，人们对它所涉及的数据安全、知识产权保护以及虚假信息传播等问题也产生了担忧。在这个人工智能飞速发展的时代，确保其对人类的可信赖性显得尤为重要。

在全球范围内，可信人工智能已经引起了广泛的关注。二十国集团领导人在大会上明确表示，他们致力于推动公共与私人投资人工智能研发，以加速可靠人工智能（trustworthy artificial intelligence）的创新。同时，他们也为部署可靠的人工智能系统创造了策略环境，这有助于提高公众对政府使用的人工智能技术的信任度。美国政府也在2019年颁布了《促进政府使用可信人工智能》的行政命令，该命令旨在指导联邦机构运用人工智能，并让公众更加信任政府采用的人工智能技术。此外，欧盟发布的《人工智能白皮书》中提出了建设“可信生态系统”的概念，以加强对人工智能的监管。综上所述，随着人工智能产业的不断发展，可信人工智能已经成为业界关注的焦点。

金融业可信AI的特征

在金融领域，人工智能的应用已经得到了不断的深化与研究，特别是在可信特征方面，已经取得了明显的共识。这些特征包括公平性、隐私保护、安全性、透明性和责任可追溯等方面，都是确保金融业人工智能应用能够得到广泛认可的关键因素。为了满足科技伦理的要求，金融业可信人工智能必须以人为本，将人类的利益放在首位。然而，值得注意的是，科技伦理主要从宏观层面进行指导，而金融业可信人工智能则更深入地融入到金融机构内部，对其管理、研发和运营等各个环节进行优化，从而提升金融消费者以及整个行业对人工智能的信任度。尽管不同的机构或个人对于可信特征的重点关注有所不同，但从整体行业角度来看，金融业已经开始围绕这些可信特征展开深入的理论研究和技术创新，以期解决金融业人工智能可信性问题。

AI可信问题带来金融风险

随着人工智能在金融领域的应用范围和深度持续扩大，其已成为金融业的重要支柱。与此同时，人工智能所面临的可信问题也逐渐转化为金融风险的一个主要来源，具体表现在以下几个方面。

公平性缺失是导致业务决策出现偏差的一个主要原因。由于人工智能决策的依据是训练数据，因此，如果这些训练数据中存在着偏见和歧视，那么算法就会习惯性地固化这些歧视，最终体现在基于该算法的决策上，形成偏见。举例来说，在市场营销场景中，某些智能推荐算法的偏见可能导致一部分特定群体无法公平地获得金融服务的机会。

数据过度使用所引发的隐私泄露问题已经成为当下金融业务活动中的一个重要议题。在实际的操作过程中，大量的个人信息被用于构建风险控制模型，以及在身份验证过程中收集个人的生物特征信息。这些行为都增加了个人隐私数据泄露和滥用的风险，从而加大了公众对于金融安全风险的担忧。

算法模型安全性低导致业务风险。以深度学习为代表的人工智能技术存在脆弱和易受攻击的缺点，使得依靠人工智能支撑的金融业务难以得到足够的信任。例如已在金融领域大量使用的人脸识别系统，受到众多利用3D面具和合成照片等手段实施的欺骗攻击，且部分攻击可突破系统防御，给金融业务安全带来了巨大隐患。

黑箱特性导致业务的不透明。人工智能采用的深度神经网络具有高度复杂性和不确定性，很多情况下对人类来说是一个黑箱，人类无法直观地了解人工智能的决策过程。这种特性导致科技的不透明性增加，考虑金融业务较高的安全合规要求，我们对于人工智能与金融业的深度融合产生了疑虑。

责任主体难以界定。人工智能的决策受多种因素影响，若利用人工智能系统做出的金融决策和判断出现侵权、违法行为，从现行法律上看，难以将人工智能作为责任主体。人工智能的行为到底是由所有方还是研发方担责，责任主体难以界定。

因此，为降低金融风险，须进行人工智能的可信治理，通过建立可信赖人工智能，打造消费者满意和信任的金融服务。

马上消费如何打造可信AI

马上消费致力于将可信人工智能理念贯穿人工智能系统全生命周期，在设计、研发、应用人工智能系统的过程中，将可信的理念根植于关键环节。我们针对上述人工智能可信问题带来的金融风险，综合利用技术手段、管理方法保障系统可信。

公平性方面，马上消费重点关注人工智能训练数据集，构建完整异构数据，将数据歧视和偏见最小化。并研究公平决策量化算法对数据集进行评估，减轻决策偏差和潜在歧视。

隐私泄露防范方面，通过建立数据治理体系来避免数据的滥用，并使用隐私计算技术训练人工智能模型。马上消费已建立多方安全计算平台，可在用户数据不出库的条件下进行人工智能模型的训练，保障隐私数据安全。

为保障算法模型的安全性，马上消费着力提升人工智能模型防御对抗攻击与中毒攻击的能力。对抗攻击是通过针对性设计特定的输入样本使得人工智能系统决策出错，中毒攻击则是通过向训练数据中注入特定数据使得训练得到的模型推理判断出现失真。为防御这些攻击，马上消费研究采用异常数据检测方法来检出并清除训练数据中的恶意数据，减轻中毒攻击带来的干扰，并通过建立对抗样本进行针对性训练来抵抗对抗攻击。

为保障人工智能系统透明性，重点研究人工智能的复现能力。目前业界已有一些研究方向，如通过建立可视化机制尝试评估和解释模型的中间状态，或通过影响函数分析训练数据对于人工智能模型的影响。马上消费探索建立可解释模型，模型通过对复杂的黑盒模型进行局部近似来研究黑盒模型的可解释性。

另外，马上消费致力于树立可信的企业价值理念。发展可信人工智能不仅是建设可信的人工智能系统，更要把可信理念融入金融机构的血脉，树立以消费者为中心的价值观，为客户提供可靠、透明、包容的科技服务。我们在鼓励创新和实践可信人工智能的同时，落实可信人工智能管理制度，明确责任部门和人员、工作方法和流程，打造更加可信的金融机构。

可信人工智能已经加速在金融行业的落地。虽然可信人工智能的特征包括了很多方面，但随着相关理论研究与技术创新的不断深入，可信理念将更深层次地与科技结合，确保金融业健康发展。