云素材PPT模板超市 ChatGPT与PPT 2023-08-05

假信息治理

文章主题：元宇宙简史, AI人工智能技术, 虚假信息, 网络犯罪

来源丨元宇宙简史

作者丨元宇宙简史编辑 Eco

元宇宙导言：借助人工智能技术制作虚假信息，是一种对网络安全与社会稳定构成严重威胁的违法行为。近期，我国甘肃省平凉市公安局网安大队成功侦破了一宗此类案件，这是该省在《互联网信息服务深度合成管理规定》生效后，办理的第一起相关案件。接下来，本文将深入分析此案的背景、经过及影响，同时探讨如何预防和惩治这类新型网络犯罪。

01、案件背景

在4月25日的日常网络巡查中，平凉市公安局崆峒分局网安大队发现了一个百度账号发布了一篇题为“今晨甘肃一火车撞上修路工人，致9人死亡”的文章。经过初步的判断，该篇文章被认为是虚假和不实的信息。

在网络安全的领域中，我们的警察同事迅速展开了行动。他们的调查结果显示，21个百度账号在同一时间 period内发布了相同的内容。这些内容包括平凉市崆峒区，同时还涉及到兰州、陇南、定西、庆阳等多个地区。这篇文章的点击量已经达到了惊人的1.5万次。

在深入调查之后，我们发现涉及到的百度账号均属于深圳市一家自媒体公司所有，这家公司的法人代表洪某弟因此成为了警方重点怀疑的对象。为了收集充足的证据，警方于5月5日在东莞市找到了洪某弟的住所，并对其所使用的电脑以及其在百家的号进行了详细的取证工作。

通过审讯得知，犯罪嫌疑人洪某弟从微信好友那里学到了通过网络赚钱的方法，并购买了大量的小说号。为了规避小说号的查重功能，他利用近期热门的ChatGPT人工智能工具，对收集到的新闻元素进行修改和编辑，然后通过“海豹科技”软件将其上传到所购买的百家号上，从而非法获取利益。

02、案件过程

ChatGPT是一款基于深度学习的自然语言生成(NLG)软件,能够根据用户输入的文本或关键词生成相关内容。该软件采用了GPT-3.5模型技术,能够生成流畅、连贯、逻辑性强的文本。ChatGPT适用于多种场景,例如聊天机器人、创意写作和文本摘要等。

洪某弟利用ChatGPT软件编造虚假信息的方法是：首先，在“易撰”网页版上搜索近几年发生过的社会热点新闻事件，并选择其中一个事件作为素材。然后，在ChatGPT软件中输入该事件的关键词或部分文本，并设置生成长度和风格。接着，点击生成按钮，软件就会根据输入的内容生成一篇与之相关但不完全相同的新闻文章。最后，洪某弟将生成的文章复制粘贴到“海豹科技”软件中，并选择一个合适的标题和图片，上传至其购买的百家号上。

例如，“今晨甘肃一火车撞上修路工人致9人死亡”的文章就是洪某弟利用ChatGPT软件编造出来的。他在“易撰”网页版上搜索了2018年发生在江苏省盐城市的一起火车撞上修路工人致9人死亡事故3，并将其中一段文本输入到ChatGPT软件中，并设置生成长度为500字，风格为新闻报道。软件生成了以下内容：

今晨6时许，在甘肃省平凉市崆峒区境内发生了一起严重交通事故。一辆由兰州开往西安方向的货运列车，在经过一个施工路段时，与正在修路的工人发生碰撞。事故造成9名修路工人当场死亡，另有3名工人受伤。目前伤者已被送往附近医院救治。

据了解，事故发生时，货运列车正以每小时80公里左右的速度行驶。由于施工路段没有设置明显的警示标志和信号灯，司机没有及时发现前方有修路工人，并且由于距离太近无法刹车停车。货运列车与修路工人发生剧烈碰撞后，列车出轨并冲出铁轨约50米。

目击者称，事故现场十分惨烈，“听到一声巨响，就看到火车冲出铁轨，修路工人被撞飞了。”“有些工人被卡在火车下面，有些工人被甩出去很远。”“有些工人身体被撕裂了。”

事故发生后，当地公安、消防、交通等部门迅速赶到现场进行救援和处理。目前事故原因正在进一步调查中。

洪某弟将这篇文章复制粘贴到“海豹科技”软件中，并添加了一个虚假的标题和图片，并上传至其购买的百家号上。

03、案件影响

洪某弟利用AI人工智能技术炮制虚假信息，并散布在互联网上，被大量传播浏览，其行为已涉嫌寻衅滋事罪。目前，崆峒公安分局对犯罪嫌疑人洪某弟采取刑事强制措施，案件正在进一步侦办之中。

该案件引起了社会各界的高度关注和广泛讨论。

一方面，案件暴露了AI人工智能技术在网络信息传播领域可能带来的风险和挑战。AI人工智能技术具有高效、智能、灵活等特点，在各个领域都有广泛应用和巨大潜力。但是，在不法分子手中，AI人工智能技术也可能成为制造和传播虚假信息、误导舆论、干扰社会秩序、侵害他人合法权益等违法犯罪活动的利器。因此，如何有效监管和管理AI人工智能技术在网络信息传播领域的应用和使用，如何防止和打击利用AI人工智能技术炮制虚假信息的手段和能力，如何提高对这种新型网络犯罪的防范和应对能力，成为我国的当务之急。

另一方面，该案件也反映了人类社会在利用AI人工智能技术进行网络信息传播方面的创新和进步。我国已经建立了一批具有国际影响力的AI企业和研究机构，开发了一系列具有自主知识产权的AI产品和应用，为传媒行业提供了强大的技术支撑和服务。我国还积极推动AI人工智能技术在新闻生产、分发、反馈等各个环节的应用，提高了新闻传播的效率、质量和影响力。我国还注重培养AI人工智能技术相关人才，加强AI人工智能技术相关教育、培训和交流，为我国在AI人工智能技术领域保持领先地位奠定了坚实的基础。

04、案件启示

该案件是我国《互联网信息服务深度合成管理规定》（以下简称《规定》）颁布实施后，侦办的首例利用AI人工智能技术炮制虚假信息的案件，具有典型性和警示性。该案件给我们提出了以下几点启示：

一是，要提高对利用AI人工智能技术炮制虚假信息的危害性的认识。利用AI人工智能技术炮制虚假信息，不仅会误导公众，损害社会信用，还会威胁国家安全和社会稳定，造成不可估量的损失。特别是在当前网络信息传播速度快、影响力大、覆盖面广的情况下，一旦虚假信息被大量传播，就很难有效控制和消除其负面影响。因此，我们必须高度重视这种新型网络犯罪，加强预防和打击，维护网络空间的清朗和秩序；

二是，要加强对AI人工智能技术在网络信息传播领域的监管和管理。《规定》是我国首部针对深度合成服务的专门管理规定，对深度合成服务提供者和技术支持者提出了一系列数据和技术管理规范，对深度合成内容进行了标识要求，并明确了监督检查和法律责任等内容。《规定》的出台，为我国深度合成服务的治理提供了法律依据和制度保障。我们要认真贯彻落实《规定》，加强对深度合成服务的备案、安全评估、内容审核、辟谣处置等工作，及时发现和处理违法违规行为，保障深度合成服务的安全可控；

三是，要促进AI人工智能技术在网络信息传播领域的健康发展。AI人工智能技术是一把双刃剑，既有利用价值，也有风险挑战。我们不能因噎废食，否定AI人工智能技术在网络信息传播领域的积极作用。我们要鼓励深度合成服务提供者和技术支持者遵守法律法规、尊重社会公德和伦理道德、坚持正确政治方向、舆论导向、价值取向，促进深度合成服务向上向善，为社会主义精神文明建设、文化建设、科学技术创新等方面作出贡献。

严正声明：本文为元宇宙简史原创，未经授权禁止转载！内容仅供参考交流，不构成任何投资建议。任何读者若据此进行投资决策，风险自担。