微博 CEO 已上当 ChatGPT 胡编乱造被抓包：说谎真有一套 泄露部分个人隐私和支付信息？OpenAI公司向用户和整个ChatGPT社区致歉！CEO曾警告：我有点害怕AI了关于GPT-4的产品化狂想周鸿祎：中国大语言模型和GPT-4差距在两三年，GPT-6后可能会有意识9999元 AOC新款44.5英寸带鱼屏上架：165Hz VA面板性能比肩Mate/P系列！华为nova 11首曝：搭载高通骁龙8+ 4G徕卡+双长焦史无前例！小米13 Ultra曝光英特尔联合创始人戈登·摩尔去世 曾提出半导体界“摩尔定律”众筹1亿的《流浪地球2》周边偷工减料翻车 现已改回 导演郭帆表态这才是真正值得把玩的表！全屋满信号 Wi-Fi网速10倍提升 华为凌霄子母路由Q6到手595元（首发899）戴尔发布Precision 7780/7680移动工作站 ：顶配13代i9+RTX A5000周鸿祎与库克共话科技未来：惟一被淘汰的是不会用GPT的人AMD Yes！Zen4回归骨折价 12核锐龙9 7900到手2549元华为全家桶新玩法，你种草了吗？1299元 掌阅iReader Ocean3电纸书今晚开售：内置28级DC调光阅读灯
ChatGPT 是当前最火的 AI 应用，没有之一，很多人已经被它超高的准确率折服，工作学习中甚至用它来替代搜索引擎及专业网站，然而 ChatGPT 并不总是对的，它胡编乱造的东西已经让微博 CEO 上当，现在被专业人士抓包了。
事情是这样的，最近几天瑞士信贷被强制出售，有 172 亿美元的 AT1 债务被直接清零，这是金融行业罕见的一例，金融专业人士 @一玶海岸提到此前只有 2017 年西班牙大众银行破产出现过 AT1 债券被减记的情况
微博 CEO@来去之间贴了 ChatGPT 给出的回答，说这样的例子在 2016 年的葡萄牙 BCP 银行事件中也出现过，意味着这样的例子在之前就至少有 2 个例子了。
作为专业人士，@一玶海岸对此并不认可，结果查证之后发现 BCP 银行的例子是 ChatGPT 编造的，并不存在，而且它给出的两个信源打开也是 404 的。
换句话说，ChatGPT 在这次的回答中不仅不准确，而且答案也是 AI 编造出来的，甚至为了提高可信度，连信源都伪造了，如果不是专业人士对此事有敏感度，估计绝大多数人都要被 AI 骗了。
这件事的危害不仅在于 AI 会编造错误的答案，还会形成一个闭式循环—— AI 胡扯，然后就有媒体引用 AI 的答案，AI 再引用媒体的报道当作信源，环环相扣之下假的也会变成真的了，特别是在一些专业领域，毕竟不可能指望网民甚至媒体在所有方面都很敏感而且专业。再进一步来说，这件事的可怕之处在于到底是 AI 算法不行，只能胡编不知道的事，还是 AI 在没有事实信息的时候主动骗人类呢？如果是后者，未来的发展恐怕很难想象。
