云素材PPT模板超市 ChatGPT与PPT 2023-08-01

ChatGPT时代的个人信息保护挑战与策略

文章主题：近期, ChatGPT, 人工智能, 生成内容技术

近年来， ChatGPT 的崛起引发了人们对人工智能生成内容技术的广泛关注。通过大型语言模型的训练，ChatGPT 不仅可以模拟人类的思考和学习过程，精准地理解用户的意图并迅速给出回答，还能够进行创作如写作、作曲、绘画、制作视频以及编写代码等活动，身兼“搜索引擎”、“文本生成器”和“聊天机器人”等多重身份，实现了真正意义上的人机交互，这无疑标志着人工智能领域的重大突破。

在当前大环境下，众多知名企业，例如Meta、微软和谷歌，都在积极调整策略，力图开发出类似于ChatGPT的人工智能产品，或者推动现有业务与ChatGPT实现深度融合。我国的企业也在积极的跟进，包括百度、阿里巴巴以及科大讯飞等，他们计划在2023年推出实际应用的对话式人工智能产品。然而，随着ChatGPT的快速发展，也带来了个人信息保护方面的新挑战，我们需要尽快寻找有效的应对策略。#人工智能 #ChatGPT #个人信息保护

ChatGPT对个人信息保护的挑战

# ChatGPT: 数据收集与隐私问题ChatGPT,作为一种生成式人工智能(generative AI),被设计用于在对话中收集、储存和使用个人信息,以支持模型训练和内容生成。尽管其在回答有关隐私问题时声称不会记录用户的任何信息或主动提供用户个人信息,但其与用户对话的数据仍需存储在开发公司OpenAI或使用云服务提供商的数据中心。在人类与机器的交互中,用户可能会在与ChatGPT的对话中分享个人隐私和信息。虽然ChatGPT不会主动利用这些信息,但这些数据可能会被用于未来模型的迭代训练。由于模型训练数据大多源于互联网,这可能包含大量个人信息和敏感数据。这种未经过用户同意的数据收集和训练模型强大的推理能力,可能会大大增加个人信息泄露的风险。此外,含有个人信息的问答内容可能成为模型训练的基础“语料”,从而使ChatGPT输出的内容包含用户提供的个人信息或重要数据。即使泄露用户个人信息的概率非常小,但如果加以刻意引导和提示,它仍然可能用来生成包含个人信息内容的回答。因此,确保用户数据的隐私和安全非常重要,特别是在涉及敏感信息和人类交互的情况下。

ChatGPT可能被用于生成虚假信息或恶意软件，从而诱骗用户透露个人信息。首先，通过在社交平台上收集数据，对ChatGPT进行模型训练，可能导致虚假信息、误导信息和网络钓鱼软件的出现，这对网络舆论环境产生负面影响。其次，恶意用户可能会利用ChatGPT生成大量的用户名和密码组合，实施“撞库”攻击，同时，由于ChatGPT自然语言生成的特性，它可以生成逃避防病毒软件检测的恶意软件，从而带来网络安全风险。第三，犯罪分子可能会以低成本的技术手段窃取他人的虚拟形象和身份，冒充他人，导致个人数字身份被盗用和冒用，且难以被发现，这无疑侵犯了个人的人格尊严，并可能给受害人带来经济损失。最后，虚假的社交媒体信息和聊天机器人可能会收集用户的敏感信息，并诱导他们提供更多的个人信息，进而加剧网络诽谤、诬陷、诈骗、敲诈勒索等下游违法犯罪行为的发生。

近期，我们发现市场上出现了许多模仿ChatGPT的山寨版应用，他们纷纷向用户索要个人信息和授权。值得注意的是，这些山寨版的ChatGPT不仅名称中包含了ChatGPT的字样，其界面设计和图标也高度相似。然而，我们需要注意的是，目前在我国并未提供ChatGPT服务，更没有其他公司替OpenAI运营。因此，这些在我国出现的ChatGPT主要可分为两类。第一类是通过镜像服务接入的免费GPT3.0版本，为广大网民提供服务。但是，这种方式存在一定的风险。当用户在 mirror service 上查询涉及到个人和企业等敏感信息的问题时，这些信息会被暴露给提供镜像服务的公司，同时也可能被上传到 OpenAI 的服务器上，从而增加了个人信息泄露的可能性。第二类则是纯粹的“山寨版”或“李鬼版”ChatGPT，他们不仅要求用户必须提供完整的个人信息才能使用，而且即使用户完成了这些步骤，服务系统也不一定会回答任何问题，除非用户观看广告或充值升级为VIP会员。此外，用户也无法通过比较答案的方式來判斷自己得到的回答是真正的ChatGPT、其他人工智能模型还是人的工作成果。总的来说，虽然这些山寨版的ChatGPT提供了便利，但也存在很大的风险，我们需要提高警惕，谨慎对待。

ChatGPT背景下的个人信息保护策略

在我国，加强数据合规建设并确保其在人工智能设计中的实施，是当前人工智能行业的重要课题。为了达到这一目标，企业需要严格遵守个人信息保护法规，并在设计中融入个人信息保护理念。具体而言，企业应设立专门的“数据保护官”，负责推动企业内部的数据合规工作，并视其为企业数据合规体系的重要组成部分。此外，企业还需通过技术手段和管理制度来保障个人信息的安全。例如，在开发和运营如ChatGPT等生成式人工智能的过程中，企业可以采用去识别化和隐私计算等技术，以实现个人信息的合理利用与保护。同时，企业还应建立定期审核、评估、验证算法机制，以防止因汇总个人信息而产生的“人格画像”导致的不公正待遇。在这个过程中，《新一代人工智能伦理规范》的落实至关重要，它可以在人工智能的全生命周期中融入伦理限制，完善伦理监管体系。综上所述，只有将数据合规建设与个人信息保护相结合，才能使人工智能更好地发挥作用，推动我国人工智能行业的健康发展。

严格审核数据来源，确保个人信息处理的合法性。个人信息作为人工智能对话中可能出现的内容，有必要对其进行特殊保护。首先，对数据合法性和真实性进行审核，防止虚假、错误的信息进入语言训练模型，维护良好的网络生态环境。其次，对于涉及个人信息的提问，应当谨慎回答相关问题，除非符合个人信息处理合法性的法律规定，否则禁止储存或纳入大型语言训练模型。最后，对于互联网主动公开的个人信息，应当核实信息的真伪和时效性，强化对个人信息完整性保护，防止出现“有毒的语料”。

强化输出内容管理，健全防止个人信息泄露机制。对合成结果进行审核，建立健全对违法、不良信息的识别和阻断机制。一方面，针对涉及个人信息的生成内容，需要从数据“输出”端口进行过滤，可以采取“机器+人工”双重安全审核、配合模块化识别和动态调整机制，降低机器审核的误报率。另一方面，为了确保输出内容的正确性，还需要严格规范人工审核外包服务，促进人工审核服务在人员资质、业务流程和审核能力等方面形成统一的行业标准体系，最大可能地减少虚假、错误信息内容流出。

增强鉴别防范能力，防止被山寨人工智能骗取个人信息。在大数据时代，个人信息的重要性日益凸显，个人信息保护意识也应当随之提高。目前，ChatGPT还不支持国内用户使用。在社会公众急于尝试新鲜事物心理的背景下，出现了许多自称能够为用户对接ChatGPT或者直接标注为“ChatGPT中文版”“ChatGPT对话”的微信公众号或小程序账号，要求用户使用手机号、验证码注册登录或获取完整个人信息，提供服务需要收取费用，有些还公开邀请用户加入代理推广刷单。事实上，部分商家是借着ChatGPT的热度来收取会员费或服务费，却不提供任何服务。对于非法索取个人信息的行为，人们应当保持必要的警惕，在体验人工智能“黑科技”的同时不忘守护好自己的“钱袋子”，防止以ChatGPT为名出现新型的电信网络诈骗活动。[本文系中国人民公安大学基本科研业务项目“个人信息处理活动民事责任配置研究”（项目编号：2022JKF406）的阶段性成果]

《【网信课堂】妥善应对ChatGPT带来的个人信息保护挑战》