AI安全大幕拉开？ChatGPT引发监管风暴
文章主题：ChatGPT, AI安全
ChatGPT爆发，AI安全得道
采写／陈纪英
激烈的ChatGPT“大辩论”开场了。
正方主辩是微软创始人比尔·盖茨。
🎉盖茨可能是ChatGPT的“头号铁粉”！他的表白热情简直令人咋舌，他说：“这是我见过的两项最具革命性的技术之一！”
🎉🚀 非常高兴看到如此多的大佬加入我们的辩论队伍！🌟英伟达的创始人，黄仁勋先生，正在高呼：“我们正处于AI的iPhone时刻！”🔍阿里巴巴的董事会主席兼CEO张勇先生坚信：“所有行业都值得用大模型重做一遍。”🎯让我们一起期待这场精彩的辩论吧！👍
反方“主辩”是刚刚卸任的谷歌AI教父Hinton。他深感忧虑，担心AI可能带来的风险，并表示自己曾对此感到后悔。“如果AI产生了自我意识，它可能会失去控制。”
作为AI领域的权威专家，盖茨和Hinton的观点并非是对错之分，而是一个硬币的两面。
“技术进步的步伐无法阻挡，即使ChatGPT存在潜在的风险，我们也应该积极应对，而不是盲目地抵制。与其一厢情愿地叫停，不如寻找更好的解决方案，以确保技术的健康发展。让我们一起期待未来的技术革新，同时也做好准备，面对可能带来的挑战。#技术进步# #ChatGPT风险# #解决方案#”
既然人类与AI共存是必然宿命，把握好“应用”和“管理”、“进化”和”失控“的唯一可选项，就是师夷长技以制夷——AI安全的大爆发，伴随着AI大繁荣，将会如约而至。
AIGC大爆发，AI安全新机遇
ChatGPT引爆之后，全球大厂集体入局，而其前景也相当广阔。
🚀 According to industry estimates, there are over 1 billion potential users worldwide who may use similar ChatGPT technology, which could potentially generate an annual revenue of more than $200 billion.
红利汹涌而至，风险也如影随形，AI时代的安全挑战，成为了2023西湖论剑·数字安全大会的主要议题之一。
作为上述会议承办方的安恒信息，其董事长范渊断定，ChatGPT本身就有一定安全风险，“AI机器人，其功能及逻辑极为复杂，虽然其内部设置了大量的安全对抗机制，但越是复杂的逻辑越有可能被绕过。在未来，如果ChatGPT大量应用，必然会出现逻辑绕过，让AI机器人成为攻击渠道和手段。”
长期坚守在安全一线的安恒信息启鉴实验室主任安通鉴，也在西湖论剑论坛上总结了AI大爆发带来的安全隐患。
第一，类ChatGPT等AI大模型的涌现，大幅降低攻击成本。比如用AI大模型批量生产木马，批量发布钓鱼邮件等等。
其二，AI大模型可以帮助攻击者快速甄别安全漏洞，找到防护薄弱之处，提升攻击的精准性和成功率。
其三，在数据调用过程中，可能会导致数据泄密、隐私泄露等。
ChatGPT用户已经成为了首批受害者。据BBC报道，今年3月底，ChatGPT出现了严重技术漏洞，部分用户搜索记录被爆泄漏。随后，OpenAI首席执行官Sam Altman证实了这一报道，“感觉十分糟糕”。
此外，AI系统面临着被注入恶意发送的伪造数据、以破坏神经网络功能的风险。
也正是看到了AIGC（生成式AI）大爆发带来的安全隐患，如今，全球多个国家相继出台了监管措施。
今年4月，美国商务部公开征求意见，探讨存在潜在风险的新人工智能模型发布前是否应该通过认证程序。
而加拿大联邦隐私监管机构已经出手，对OpenAI展开调查，追责该公司涉嫌“未经同意收集、使用和披露个人信息”。
就在同期，4月11日，中国网信办也发布了《生成式人工智能服务管理办法（征求意见稿）》，强调了安全评估和算法备案的前提性和必要性；表态要确保数据安全和个人信息保护合规，尤其是隐私保护；夯实了违规责任的处罚措施，包含追究刑事责任。
无论是业界共识，还是监管趋势，都指向了同一方向——强化AI监管防护是大势所趋，发展AIGC的前提，是必须谨守安全底线。而防护需求的涌现，也提前预定了AI安全行业未来的大爆发。
另一方面，类ChatGPT技术，也能为安全防护行业所用。
在这一领域，出现了两类玩家，一类是微软等通用型巨头，其并不专注安全领域，而是尝试把类ChatGPT能力在多个领域落地；另一类则是安全赛道的专业玩家，如中国安全赛道头部公司安恒信息。
3 月 28 日，微软正式推出 Microsoft Security Copilot。这是第一款让安全人员能够以 AI 速度和规模做出响应的安全产品。
而安恒信息也已经着手布局。范渊对AI安全的前景，就相当乐观，“AI+安全的大幕才刚刚拉开，未来还有更大的可能性”。
AI为盾，安全反攻
在AIGC大爆发的前夜，发展与监管并举，进化和安全并重，已成各国共识。
平台已经主动戴上枷锁，4 月 6 日，OpenAI 发表博文《Our approach to AI safety》，回应外界对其的安全担忧。
但仅靠OpenAI一己之力远远不够，类ChatGPT技术，可能关涉到数10亿人的数据安全问题，而且，安全保护需从概念生成阶段即融入到产品之中，并贯穿全生命周期。
OpenAI作为平台方，也只能在某一环节发力，更多专业安全公司的躬身入局，必不可少，这既是其机遇，也是其职责。
解决新问题，不能用旧思路，AI时代的安全防护技术路径和战略布局，也必须与时俱进。
范渊用《富春山居图》打了个比方，倡导建立高远、平远、深远的数字安全观。其中，高度跟系统化有关，涵盖顶层设计；广度跟多跨、贯通有关；深度则与场景化、智能化有关，通过结果导向实现闭环。
以此为思路，安恒信息也交出了AI安全的答卷。
在深度上，以AI为器，以场景为矛，实现智能化防控，构建安全盾牌，是安恒信息的战略自觉，“让智能更安全，让安全更智能”。
目前，安恒信息已将类ChatGPT的AI算法和智能数据分类分级、智能生成检测规则、智能告警处置分析、智能客服问答系统、智能钓鱼邮件分析、智能加密流量检测等多个场景进行结合，推进研究并逐步落地到产品中。
类ChatGPT这样技术的应用，可以给自动化生成网络安全工具，带来百倍效率的提升；基于强化学习的人工智能模型，已经在安恒信息AiSort数据安全分级产品中部署应用，大幅提高数据梳理的工作效率。
AI会成为水电煤一般的基础设施，而安全符合最低水位理论，任一环节的短板，都会拉低整体水位，因此，与之对应，AI时代的安全防护，也应该构建全链路、全周期的安全闭环。
作为技术链路完善、产品丰富多元的综合专业云厂商，安恒信息的解法是，通过系统化的顶层设计，高处布局大处着眼，同时深入场景，“看山不是山，看水不是水”，基于“云+网+数+用+端”的一体协同，联手生态伙伴，实现三个层面的可信可控——全栈安全全栈可信的基础设施、软件安全和软件供应链安全、可信机密计算的软硬件环境，最终打造一体化无死角全链路的安全防护网络。
刚刚启用的“天穹”安全运营中心，就是基于上述战略思路，提供全天候、全场景、全过程、全闭环的安全运营保障服务，护航杭州亚运会。
再以数据安全为例，安恒数盾的产品和服务，覆盖了复杂数据应用的全生命周期、全链路数据安全，形成了较强的核心竞争力，也推动其数据安全产品2022年营业收入增速超100%。
未来，AI会成为各行各业的底层能力和必选应用，对于安全行业来说，既具备AI安全的底层通用能力，又深入一线了解行业的know-how，提供行业化甚至定制化的安全解决方案，成为了必选项。
安恒信息的军团战略，就呼应了这一趋势。
2022年，安恒信息对市场进行整合升级，成立运营商、公安、金融、网信、大数据局五大行业军团，对各细分行业进行垂直管理，实现公司内部跨多部门协作，充分调动公司资源，端到端解决行业客户的共性需求，2023年，安恒信息将增设交通军团、能源军团，以此提升服务的广度和外延，护航多元化高质量确定性增长。
以交通领域为例，增速迅猛的车联网，成为安恒信息颇为看重的赛道。2022年，中国新能源汽车销售达到688.7万辆，同比增长93.4%，连续8年保持全球第一。同期，提前卡位的安恒信息车联网安全产品则完成关键节点交付，实现百万级业务收入。
在西湖论剑·车联网安全论坛上，安恒信息首次正式发布车联网安全运营中心平台，以“全资产安全监管，多方位业务运营”为起点，描绘新增长曲线。
综上，安恒信息的这份AI安全答卷，顶层设计有高度，AI创新有深度，军团战略有广度，卡位风口有鲜度。
称重AI安全概念股
随着ChatGPT的光明前景已成共识，ChatGPT概念股市值节节攀升，AI安全股如安恒信息等，也多次涨停，但市值终归要以价值为锚点，到底如何“称重”AI安全概念股？
从增长机会来看，AIGC的大繁荣，同步带来了AI安全行业大爆发的确定性机会。
根据全球移动通信系统协会(GSMA)的预测，2025年全球AI安全软件的市场规模将达到1218亿美元，自2020年起的复合年增长率为31.9%。
而中国市场同样具有高增长，中航证券在其研报中断言，“生成式AI快速发展带来更多潜在安全威胁，加强监管是大势所趋。网信办发布生成式AI监管意见稿，中国AI安全市场迎来发展新契机。”
不过，在AI安全大爆发的确定性前景中，红利不会普惠每一个玩家，而是结构性分配，已经布局卡位AI安全的头部企业，将成为最大的获益者。
安恒信息就是其一，今年Q1，其营收同比增速达到四成以上，已有多家券商给予其买入、增持等看多评级。
国盛证券在其研报中预测，安恒信息2023年-2025年的年营收，同比增长有望分别达到35.7%、30.6%、26.9%。国元证券对安恒信息营收增速的预测，也在类似区间。
其二，AIGC概念股估值高企，AI安全如影随形，两者估值逻辑具备一致性，估值、市值水涨船高。
根据美国科技媒体TechCrunch的报道，因推出首个语言大模型ChatGPT而爆红的美国人工智能初创公司OpenAI，估值再度大幅提升， 4月底已完成103亿美元融资，投后估值达到270亿~290亿美元。
奇绩创坛创始人兼CEO陆奇甚至预测，OpenAI的未来市值有望碾压谷歌，成为全球首家超十万亿美元市值的企业。
受益于资本市场高看AIGC类公司，AI安全股也将在资本市场迎来价值重估，因此，今年以来，AI安全概念股多次触及涨停并不意外——表面是为AI安全概念股买单，其实是在为AI的确定性前景买单。
AI技术的大爆发，除了帮助安全行业拓展新的营收变现机会外，还能帮助安全行业降本增效，有利于改善公司的财务表现。
比如，在安全行业，数据分类分级是数据治理和数据安全治理的相交点，也是数据资产的起步线、数据安全的基准线、主体责任的推进线，涉及到十几万字段到几十万字段的数据治理场景，仅靠人力会让安全公司不堪重负。
在智能化加持下，安恒信息利用自然语言模型通过迁移学习进行训练，快速适配行业特性，从而实现信息整合自动标注相似字段进行强化学习，对不同行业数据分类分级，新行业效率提升5倍以上，已积累行业效率提升10倍到20倍以上。
充分利用AI技术，可以助力安全公司降本增效，提升利润空间。
安恒信息高级副总裁、首席安全官袁明坤对此颇有心得，“提高安全能力，同时也要降低人的成本，必须同步进行“，安全产品自动化、智能化水平的提升，可以带来人力的解放，提升终端安全产品的普惠性，帮助安全企业和其客户降本增效。
这在安恒信息的财报中，可以管窥一斑，2022年，公司研发费用、 销售费用及管理费用增速分别为 20.57%、34.20%和 15.41%，对比 2021 年在增速上有明显下降，控费成效逐渐显现，营收却保持增长。
范渊也乐观表态，“从今年开始，我觉得我们很快会看到这种利润模型的回归，因为伴随着数字安全产业的增量，伴随着我们过去的储备，伴随着数字中国的开启，我觉得我们还是会更持续、健康、高质量地发展。”
眼下，正是AIGC大繁荣的中场，也是AI安全大爆发的前夜，谁先入场，谁往往能占据主场，谁能看到终局，谁往往能左右大局。返回搜狐，查看更多
责任编辑：
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
