AI大模型时代的产业安全隐患及应对策略

近期，随着ChatGPT4、百度文心一言等大型人工智能模型的相继问世，人工智能领域（AIGC）的热度持续上升，逐渐成为科技界最为关注的风口之一。众多企业纷纷涌向这一领域，试图占据制高点，而资本市场也对这一领域表现出了极高的热情，相关的投融资活动日益活跃。例如，李开复创新工场孵化的人工智能企业——澜舟科技，虽然成立时间不长，却已经推出了中文语言模型——孟子轻量大模型，并最近成功完成了Pre-A轮融资。此外，前京东高管周伯文创立的衔远科技也已经完成了数亿元的天使轮融资。

知其安创始人聂君在接受采访时提醒，ChatGPT可能引发一系列前所未有的产业安全问题，其中首要的是数据安全问题。许多用户在尝试使用ChatGPT时，可能会将其视为一个开放的平台，将包含敏感信息如代码等的数据放入其中。这些服务器和数据都存储在国外，一旦出现问题，我国的相关部门将难以对其进行监管和处理，这无疑给数据安全带来了巨大的隐患。

第二，ChatGPT所提供的结果并不具备验证真伪的功能。若直接依赖ChatGPT的结果来确定相应的安全性结论，可能会引发一系列潜在问题。腾讯安全策略发展中心总经理吕一平在接受采访时指出，从攻击者的角度来看，ChatGPT的出现将提高攻击者的工作效率。特别是在诈骗或钓鱼场景中，安全专业领域有“社攻”的概念，即通过社交攻击手段，如聊天、邮件交流等诱使受害者点击恶意链接或在不知情的情况下下载恶意软件或工具，从而可能感染受害者的电脑或窃取其数据。过去，这种角色扮演和钓鱼剧本需要有人扮演角色并制定相应的说辞和口径。然而，随着ChatGPT的出现，剧本设计可以借助人工智能技术来实现。

在过去，创作一份剧本设计需要花费大量的时间和精力，这是因为网络攻击者需要深入了解对手的工作情况，同时还需要扮演不同角色如人力资源专员、保险业务员等，并对其业务有透彻的认识。然而，随着人工智能技术的发展，尤其是ChatGPT的应用，我们可以看到剧本设计的效率得到了显著的提升。

在过去的社交诱骗案例中，扮演角色的身份多种多样，包括HR、财务、保险以及银行职员等等。然而，随着科技的不断进步，尤其是人工智能技术的发展，未来的社交诱骗可能会涌现出更多新的角色和手段。ChatGPT的出现，将会进一步加剧这种趋势，因为它能够提供高效的辅助功能，帮助制造更加复杂和多样的钓鱼攻击方式。总的来说，随着科技和人工智能技术的普及，社交诱骗的方式也将随之发生变化。未来的钓鱼攻击可能会呈现出更多的多样性和复杂性，而ChatGPT的出现，无疑将会在这一过程中发挥重要的作用。

吕一平强调，安全问题如同影子般与新技术的发展和应用紧密相连。对于从事安全专业领域的同仁而言，保持对新技术的关注至关重要，因为这些新技术所引发的安全风险是我们必须积极应对的。

不过，聂君表示，目前确实也有不少安全行业从业者使用ChatGPT文档编写、材料整理这方面提升效率，或者把原先通过人工来完成的一些相对比较中低端的技术活会交给ChatGPT来做，比如解析日志、编写一些安全运营的策略等，在这些方面，ChatGPT对于产业安全也是具备一定的积极作用的。

在企业上云大趋势下，云原生安全的重要性愈发凸显。对于企业而言，要做安全建设首先是要满足业务需求，然后要考虑如何能够更好设计安全结构、安全体系、安全能力建设，更好满足这个业务的需求。这其实是一个很复杂的过程，可能需要通过不同安全厂商提供不同的安全产品和服务，来满足这个需求。这对很多企业来讲是一个很大的功课。

“云原生安全就是把安全做成一种云服务的形态提供给上云的企业，”吕一平建议称。尤其对于中小企业而言，可以通过合理的成本实现比较好的安全防护能力建设，让“安全”从一个奢侈品变成一个必需品。

聂君认为，安全从来不是独立存在，而是跟整个IT基础设施、研发结构相关的。很多安全问题做到最后，从根本上来看，是底层架构限制和制约了安全问题的解决。当前，由于云本身的整个IT基础结构发生了革命性的变化，在这个变化过程当中，需要把安全的能力嵌入到云环境里面，云原生安全解决方案将会带来比较革命性一些变化。

作者丨宋婧

编辑丨刘晶

美编丨马利亚

监制丨赵晨