FTC打压科技业再开新战线:调查ChatGPT的AI风险

联邦贸易委员会(FTC)首度正式对微软(Microsoft)支持的OpenAI发动广泛调查,以了解人工智能(AI)聊天机器人ChatGPT违反消费者保护法的疑虑,成为最近正当红的生成式AI市场所遭遇的第一个重大监管挑战。这也是FTC寻求法院临时阻止微软收购动视暴雪后,最新的抑制科技业影响力行动。

FTC向OpenAI发出民事证人传票信函表示,将了解ChatGPT生成的错误资讯是否会伤害个人,以及OpenAI是否在从事「不公平或欺骗式」的隐私与数据安全行为,置个人数据与声誉于风险中,从而违反消费者保护法,因而提出20页的民事调查需求清单,希望了解OpenAI如何处理与其AI模型相关的风险。

FTC在信中要求OpenAI分享诸多内部素材,从该公司如何讯取个人资讯、一直到已采取因应AI模型生成「错误、误导或诽谤」资讯的步骤、如何从事行销、处理个人资讯的方式等。

FTC的调查也深入ChatGPT设计方式、以及如何训练大型语言模型等技术细节,包括修正错觉的作业、以及监督人类审查员的方式,并且要求消费者投诉的资讯,还有OpenAI采取哪些努力,让消费者正确认知ChatGPT的精确度和可信度。这封信函内容是由华盛顿爷报率先报导,FTC拒绝评论,表示FTC的调查不公开,也通常不会评论是否正在调查特定事件。

FTC调查深入

OpenAI首席执行官奥特曼13日则在一系列的推特发文中表示,「看到FTC的要求(信函)竟然先外泄,令人非常失望,这无助创建信任」,最新版本的GPT-4是植基于多年的安全研究、以及设计用意为学习世界、而非私密个人的系统,「对我们来说,我们技术安全且有利消费者,超级重要,我们有信心我们手法,当然我们会将FTC合作」。

根据FTC文档,这桩调查始于3月的一场意外,当时OpenAI揭露出现一个漏洞,能让一些用户看到其他活跃用户聊天纪录的标题与付费的相关资讯。这起事件是发生在2023年,但FTC要求提供的资讯一直回溯到2020年某日。FTC在5月便警告AI产业,表示正「密切聚焦企业可能则使用AI科技的方式,可能会对消费者造成实际且重大的影响」。

这也是FTC对科技业采取的最新行动。此前FTC阻止微软收购动视暴雪,遭美国地方法官裁定主张的反竞争理由不够充分,形同对这桩收购案开绿灯,FTC随即向联邦第九巡回上诉法院提起上诉,并请求法官暂时阻止微软完成必购,但遭法官以两句话的命令驳回。

FTC主席丽娜汗(Kina Khan)13日出席联邦众议院司法委员会听证会时,遭遇共和党籍议员对于她强硬执法立场的猛烈抨击,但她捍卫自己的表示,监管当局对ChatGPT和其他AI服务的忧虑会升高,是因为大量数据被喂入AI系统、却没有确认哪类数据被喂入,有听到许多报导指称人们的个资出现在其他人的问题回应上

不过,世界各地的监管当局也都盯上生成式AI产品,AI专家和道德论者都对AI采用大量个人数据发出警示,并警告可能产生有害的结果,包括生成不实资讯和增强歧视的言论等。

Leave a Reply