2023-11-20 教育医疗

  深信服首秀安全GPT技术应用,实力刷屏。着极强的好奇心,大家都想深挖深信服安全GPT背后的技术积累。

  经过梳理,大家常常提及的有以下9个问题,今天深信服一次性进行详细解答,希望能帮大家全方面了解AI+安全,以及安全GPT技术应用。

  生成式大模型的爆火不是一蹴而就的。AI技术经历了从决策式小模型到生成式大模型的发展历程。

  最近十年,决策式小模型被大规模应用在电商、娱乐、人脸识别、无人驾驶、文本分析等领域,不知不觉早已在各行各业中司空见惯。今年开始,以ChatGPT为代表的生成式大模型爆火,慢慢涌现出在不一样的行业的技术应用,网络安全亦是其中之一。

  顺应技术发展的新趋势,以深信服为例,作为国内最早应用AI的网络安全厂商之一,深信服在2015年开始投入决策式AI技术的研究和应用。2016年,深信服不断加码AI技术并确立了AI First的研发战略,在网络安全和云计算领域都有可落地、有效果的技术突破:

  目前深信服在十几个不同的技术领域都用到了人工智能,均取得了良好效果,这些技术大量应用到深信服的产品和用户使用场景中,深受认可。

  从AI小模型到提出AI First战略,深信服累积了研发垂直领域AI大模型所需的高质量数据语料、既懂AI又懂安全的人才、面向AI体系化协同的云网端产品体系。

  基于这些积累,在2022年明确全面拥抱大模型后,深信服得以在业界首秀安全GPT,为网络安全发展注入新动能。

  一方面,GPT大模型的出现,让攻击方可以更便捷快速地生成攻击工具、混淆攻击代码等,针对性地构造未知、高级的攻击。当前安全设备对于这种未知恶意样本查杀能力较弱,非常容易被攻击者绕过。而过去大范围的应用于安全检验测试领域的AI机器学习小模型,每种模型只能用于单一检测场景,小模型训练与研发效率较低,误报率居高不下。

  另一方面,在安全运营工作中,人员能力和精力仍然是巨大的瓶颈。即使是专家级别的运营人员,面对高级安全威胁也要花费数小时甚至数天做多元化的分析和研判,同时在某些领域仍会存在能力短板。安全运营效率和效果提升面临较大的发展瓶颈。

  深信服认为,面对攻击方使用大模型,防守方能力瓶颈难以突破的情况下,防守方也要充分拥抱大模型,以智能对抗智能,以AI赋能防守,方能应对大模型时代的安全挑战。大模型既有泛化的检验测试能力,也有高质量的攻击解释能力,以及分析态势和处置建议的生成能力,由此能够提升高级威胁检出率、降低误报率(安全告警里判错的比例),极大拉高安全运营团队的能力水位线,促进安全建设效果、效率的提升。

  数据、算力、模型算法、产品架构是在网络安全领域玩转GPT大模型的门槛,此外,我们也不可以忽视复合型人才队伍的打造。

  作为一家深耕网络安全和云计算的公司,深信服在安全领域应用GPT技术有一些天然优势:

  Q4:以GPT为代表的AI技术应用于网络安全,主要带来哪几个方面的增益提效?

  网络安全的本质在于攻防对抗。根据Gartner“防御-检测-响应-预测”的新一代自适应安全防御架构,GPT大模型技术应用于网络安全可以从检测、响应、预测三方面切入,最终实现对于威胁的有效防御。

  检测:判断文件样本、代码等是否恶意,访问登录、进程通信等是否异常,从而精准识别未知威胁。

  响应:实现告警削减、攻击链溯源,以自然语言对话的方式,实现自动化/半自动化响应。

  预测:通过大量学习恶意样本、对抗策略,以及挖掘漏洞,真正的完成以攻促防,预测攻击的发生。

  深信服安全GPT是完全自主可控的,不应用ChatGPT能力,且由深信服自主训练,训练数据部署在深信服托管云上。

  深信服安全GPT以自研模型 SangforLM 为技术基础,吸收业界众多先进的开源大模型优秀实践,不断进化。

  基于深信服8年来持续积累的高质量安全语料,深信服安全GPT通过预训练和参数微调等方式,能够深入攻击样本检测、漏洞研判、分析处置等安全细分场景,实现深度理解和专业研判的安全领域垂直大模型。

  在推理能力方面,安全GPT以自然语言交互为基础,具备强大的用户场景上下文理解能力。

  在事件研判方面,深信服打通了本地系统和产品,安全GPT能够迅速研判安全事件并给出正确结论,联动日志进行溯源分析,并具备准确率极高的流量检测能力。

  基于生成式AI的安全GPT在辅助安全运营方面,具备极强的客户的真实需求理解和建议生成能力,可大幅度降低服务和运营人力成本,为安全运营全面助力。

  接下来,安全GPT会持续通过高质量安全语料和云网端产品架构的不断喂养和学习,同时在安全专家和小模型的监督调优之下,在安全的所有的领域持续提升能力。

  安全GPT对未知攻击的检测,来源于对攻击流量、文件的深度理解能力。经过预训练之后的大语言模型对于代码、文本天然具备较好的理解和生成能力。

  深信服利用安全领域的高质量攻击样本对安全GPT进行投喂训练,结合多种大模型微调手段,以及专家、小模型的监督强化,使得安全GPT最终具备对未知攻击的意图理解、异常判定、混淆还原能力。

  通过前期5000万样本数据测试,相较传统检测引擎,赋能安全GPT技术的深信服XDR高级威胁检测率高达95.7%,误报率(安全告警里判错的比例)仅4.3%。

  用户的自然语言对话请求经过XDR平台,会与用户本地的各类信息,如资产信息、攻击上下文等信息进行关联,送入云端安全GPT进行理解。

  安全GPT进一步通过XDR平台与各类安全设备、情报、资产库表进行对接、查询和调查,将查询得到的信息进行理解、转化。

  根据不同场景的个性化需求,安全GPT可以用文字、图表等多模交互的关键指标为输出。

  Q8:企业里使用GPT技术有一定的数据安全合规要求,对此深信服安全GPT是如何做的?

  深信服深耕网络安全多年,坚持网络安全和数据安全的底线。深信服进行大模型训练的数据均为通用安全知识,不涉及任何与用户个人信息相关的数据。

  大模型部署推理所需的数据,执行严格匿名化策略,保证数据不标识到具体用户。

  深信服XDR作为一个开放的平台,通过原生的流量采集工具与端点采集工具收集关键数据,通过网端聚合分析引擎对数据来进行上下文关联分析,实现攻击链深度溯源。

  目前,深信服XDR支持对接自身网和端的安全组件,也支持第三方设施安全数据的对接和应用。XDR平台对接第三方组件后,安全GPT即可通过XDR平台对接第三方组件做多元化的分析响应。

  站在用户视角,未来的安全建设,拥抱大模型时代的“AI+安全”,离不开云网端架构的落地:

  依托承载AI小模型技术的终端、网络安全组件,配合云端规则库和情报库,针对流量侧和终端侧的文件进行检测。

  安全GPT收集平台关联分析的数据,针对复杂攻击和场景,进一步理解、研判,并给出最终处置建议。

  最后,为了助力用户“安全领先一步”,我们大家都希望用户立足大模型时代,充分将AI技术方法运用到网络安全领域,出于切身体验,还有以下几点建议:

  正确认识AI技术应用:一定要理性评估AI技术的应用手段,并保持对大模型加快速度进行发展的关注。

  正确评估建设路线:开放协同是基本要求,可优先考虑以云化方式,与已有安全设备整合,并集成到当前安全业务流。

  关注AI引发的风险:谨慎防范数据投喂泄密,以及更广泛的API使用带来的暴露面风险。

  目前,通研院已与上海交通大学、中国科学技术大学等院校在本科生直接攻读博士学位研究生的招生批次中完成2024年“通计划”的首轮招生。

  近日,在第七十四届国际宇航大会期间,嫦娥五号团队获颁“劳伦斯团队奖”。胡浩表示,为有效推进月球样品的联合研究和应用,促进科学成果的国际共享,我国面向国际开放嫦娥五号月球科研样品申请。

  粮食是社稷之本,种业是粮食之基。党中央格外的重视粮食安全问题,习指出,“种源安全关系到国家安全,必须下决心把我国种业搞上去,实现种业科技自立自强、种源自主可控”。近年来,中信集团聚焦农作物育种领域,不断加大资本和科技投入,建成了以自主可控创新平台为主体的全球一体化育种创新体系。

  图为研发团队实地测试“5G+北斗”定位导航技术。2022年6月,在雄安新区的地下停车场,当路兆铭第一次在手机屏上看到定位光标跟着自己脚步一步一步挪动时,他兴奋地跳了起来。

  采用清洁能源、推动清洁生产、碳足迹可追溯,使银海铝业电解铝项目获得全国首个“绿铝”碳标签试点证书。坚持走绿色低碳发展之路,树立全产业链思维,我国铝业绿色转型的新“铝”程定会绿意盎然、更加出彩。

  公路工程设施支持无人驾驶是一项系统工程,各类设施能够准确的通过应用需求,单独或联合起来,协助车辆更好地实现无人驾驶。在城市交通方面,大模型可通过全域的感知数据,研判拥堵发生的可能性,并叠加仿真推演,生成全域信控方案。

  本轮投资由杭州安丰富胜创投、利和临卓天使创投、上虞青科创投三家创投机构联合投资。

  近日,国家黄河流域生态保护和高水平发展联合研究中心在呼和浩特市召开驻点科技帮扶工作交流推进会,深入各驻点城市调研。

  记者从国家航天局、自然资源部等部门获悉,16日11时55分,我国在酒泉卫星发射中心成功发射新一代海洋水色观测卫星海洋三号01星。

  作为对新兴事物极度敏感的大学生,张航和綦昊触摸到的正是人工智能技术发展的前沿。我们学校的课程也紧跟技术潮流,比如一些设计课老师会要求个人会使用AI工具,鼓励我们参与一些生成式人工智能创作比赛。

  Campbell研究小组与美国马萨诸塞大学的研究人员合作,绘制了心脏粗纤维的单分子3D重建图,构建了一个新的研究框架。

  全世界数十亿人的健康和生计受到创纪录的高温、干旱导致的作物歉收、饥饿程度的上升、传染病暴发的加剧,以及致命的风暴和洪水的威胁。

  机车还搭载了自适应控制、智能辅助驾驶、无线遥控、车地联控等智能控制技术,可实现全方位的机车部件及内外部信息监控,提高了机车智能化水平和运行效率。

  当前,全球主要国家都在量子科技领域加强政策布局,相继制定发展的策略规划,加大投入,加快量子技术从基础研究到商业化的进程。

  建设美丽中国,是中华民族功在当代、利在千秋的根本大计,是全面建设社会主义现代化国家的重要目标。

  11月13日,风云三号F星(以下简称F星)首套图正式对外发布。目前,F星各遥感仪器均已开机运行,这标志着卫星平台和遥感仪器已进入稳态工作,将全面步入在轨测试阶段。

上一篇:才智用电监管云渠道-让电气火灾防患于未然

下一篇:安科瑞路灯安全用电云渠道