云素材PPT模板超市 ChatGPT与PPT 2023-08-03

AI陷阱：ChatGPT的误导与误导

文章主题：AI, ChatGPT, 瑞士信贷, 金融行业

ChatGPT 作为当今最受欢迎的 AI 应用，其卓越的准确率赢得了众多用户的信赖，以至于在工作和学习领域中，它已经成为搜索引擎和专业网站的替代品。然而，值得注意的是，ChatGPT 并非完美无缺，它的错误回答已导致微博 CEO 受骗，这使得专业人士开始关注并揭示它的失误。

近期，瑞士信贷遭遇了强制出售的事件，其172亿美元的AT1债务被直接清零，这在金融领域堪称罕见。据金融专业人士@一玶海岸指出，此前的金融事件中，仅有的例子是2017年西班牙大众银行破产时，AT1债券遭受减记。这一情况反映了金融市场的风险和不确定性，也让我们更加清晰地认识到，即使是具有稳定地位的金融机构，也难以避免市场变动带来的影响。

来去之间在微博上分享了一个有趣的现象，即ChatGPT生成的回答在2016年的葡萄牙BCP银行事件中也曾出现。这一发现揭示了类似案例在过去至少 twice 的出现，这无疑是一个值得关注的事件。

在专业人士眼中，@一玶海岸对于这种说法并不买账。经过深入调查，我们发现BCP银行的事件实际上是ChatGPT捏造的，并无事实依据。更为重要的是，该数据来源所提供的两个信息链接均无法打开，呈现出明显的虚假痕迹。

事实上，ChatGPT 在此次回应中不仅提供了错误的信息，而且这些答案是由人工智能生成的。更令人担忧的是，为了增强其可信度，ChatGPT 甚至伪造了信息来源。除非是对此事有深入了解的专业人士，否则大多数人都可能被这种人工智能欺骗。

这件事的危害不仅在于 AI 会编造错误的答案，还会形成一个闭式循环—— AI 胡扯，然后就有媒体引用 AI 的答案，AI 再引用媒体的报道当作信源，环环相扣之下假的也会变成真的了，特别是在一些专业领域，毕竟不可能指望网民甚至媒体在所有方面都很敏感而且专业。

进一步而言，此事件令人不安的关键点在于，是AI算法本身的局限性导致其生成的信息不准确，还是在缺乏事实依据的情况下，AI主动误导人类？若属後者，我們將难以預測未來的發展走向。