时序数据异常检测是数据挖掘及网络安全领域的重要研究课题。文章以时序数据异常检测技术为研究对象，运用文献调研与比较分析方法，深入探讨了深度学习模型在该领域的应用及其研究进展。文章首先介绍了深度时序数据异常检测的定义与应用；其次，提出了深度时序数据异常检测面临的9个问题与挑战，并将时序数据异常分为10类，枚举了16种典型的时序数据异常检测数据集，其中包括5种社交网络舆情安全领域相关数据集；再次，文章将深度时序数据异常检测模型进行分类研究，分析总结了近50个相关模型，其中包括基于半监督增量学习的社交网络不良信息发布者异常检测，进一步地，文章依据深度学习模型的学习模式将模型划分为基于重构、基于预测、基于重构与预测融合3种类型，并对这些模型的优缺点及应用场景进行综合分析；最后，文章从8个方面展望了深度时序异常检测技术的未来研究方向，分析了每个方向的潜在研究价值及技术瓶颈。
人工智能在训练推理等过程中的隐私泄露、推理失真等安全问题，引起了人们的高度关注，甚至涉及意识形态乃至国家战略安全。在此背景下，联邦学习作为一种新兴的机器学习架构，通过保持数据本地性的同时实现模型的联合训练，为多方参与数据分析、处理和共享的应用领域提供了有效的隐私保护能力。从联邦学习的研究动机、技术方法等方面来看，如何利用该技术有效解决典型应用场景下的实际问题是其核心和关键，因此相关应用研究现状的全面综述，对联邦学习的进一步研究与实践都具有参考价值。为此，文章对联邦学习在异常检测、推荐系统以及自然语言处理等典型技术应用中的研究现状进行综合性调研。首先，文章对相关文献按照应用场景角度进行全面的分类梳理，从多领域视角分析了联邦学习架构的研究现状。其次，文章从技术实现的角度，对比分析了各技术领域中不同方案的数据集合、性能特点、评价指标等方面。在此基础上，文章分析总结了联邦学习研究尤其是系统应用面临的关键挑战和发展方向。
随着互联网的普及和网络安全威胁的日益增加，网络流量特征的异常分析与检测已成为网络安全领域的重要研究课题。文章主要对近年来网络流量特征的异常分析与检测方法进行研究，首先，介绍了网络流量异常分析的基本概念和类型；其次，详细讨论了当前主要的异常检测技术，包括基于统计学、信息论、图论、机器学习以及深度学习的方法；然后，对常见的网络流量异常检测方法进行对比分析；最后，探讨当前研究面临的挑战和未来的发展方向。
在联邦学习中，由于需要大量的参数交换，可能会引发来自不可信参与设备的安全威胁。为了保护训练数据和模型参数，必须采用有效的隐私保护措施。鉴于异构数据的不均衡特性，文章提出一种自适应性差分隐私方法来保护基于异构数据的联邦学习的安全性。首先为不同的客户端设置不同的初始隐私预算，对局部模型的梯度参数添加高斯噪声；其次在训练过程中根据每一轮迭代的损失函数值，动态调整各个客户端的隐私预算，加快收敛速度；接着设定一个可信的中央节点，对不同客户端的局部模型的每一层参数进行随机交换，然后将混淆过后的局部模型参数上传到中央服务器进行聚合；最后中央服务器聚合可信中央节点上传的混淆参数，根据预先设定的全局隐私预算阈值，对全局模型添加合适的噪声，进行隐私修正，实现服务器层面的隐私保护。实验结果表明，在相同的异构数据条件下，相对于普通的差分隐私方法，该方法具有更快的收敛速度以及更好的模型性能。
随着工业4.0和智能制造的快速发展，工业控制系统的安全性成为关键问题。工业控制协议作为工业控制系统的核心通信机制，其安全性直接关系到系统的稳定性和数据保护。然而，许多工业控制协议在设计时缺乏充分的网络安全考虑，导致系统容易受到恶意软件、拒绝服务等攻击，可能危及企业利益甚至国家安全。当前，研究者们正积极探索工业控制协议的安全问题，并提出了多种解决方案。文章综述了工业控制协议的安全现状、主要挑战和发展趋势。首先，介绍了工业控制协议的基本概念和分类，分析了其安全特性及脆弱性。然后，重点讨论了符号执行、逆向分析和模糊测试在漏洞挖掘中的应用，这些技术在应对复杂工业协议时尤为有效。而且还探讨了加密认证、入侵检测及深度防御等安全防护措施。最后，文章探索了生成式大语言模型在工业控制系统安全中的应用，涉及代码生成、网络防护及自动化控制等领域，助力工业控制系统从被动防御向主动防护转变。通过本研究，期望能够提升对工业控制协议安全性的认识，为工业控制系统的可靠性和安全性提供坚实的基础和实用的解决方案，以有效保护关键信息基础设施免受潜在威胁和攻击。
联邦学习作为一种新兴的隐私保护分布式机器学习框架，利用密码原语有效地解决了隐私泄露问题，如何在分布式环境中防止投毒攻击已成为联邦学习的研究热点。目前的研究工作大部分依赖于数据独立同分布情况，并使用明文进行恶意梯度识别，无法处理数据异构带来的挑战。为了解决上述问题，文章提出一个基于分层聚类的个性化联邦学习隐私保护框架。该框架基于坐标感知的中位数算法对梯度进行加密，并采用安全余弦相似度方案识别恶意梯度，通过层次聚合方法增强模型在独立同分布和非独立同分布场景下的鲁棒性。在MNIST、CIFAR-10和Fashion-MNIST三个公开数据集上的实验结果表明，该模型具有较强的隐私保护能力。与FedAVG、PPeFL、中位数、裁剪均值和聚类等算法相比，该模型准确率分别提升了14.90%、9.59%、29.50%、26.57%和23.19%。
组织性复杂、计划性高效和指向性明确的高级持续性威胁（APT）攻击是我国面临的主要威胁之一，APT组织的行动隐匿化、攻击常态化趋势愈加明显。近年来，我国掌握主要的APT活动越来越困难，与APT组织将攻击行为匿迹于正常信息服务和网络活动中，以及将攻击流量藏匿于正常通信流量中不无关系。这种高隐蔽攻击行为隐匿后所处的状态，称之为密态。如何检测发现密态行为并实施体系对抗，是当前网络空间防御要解决的瓶颈性难题之一。文章从澄清网络空间高级攻击活动的流量传输隐匿技术机理角度出发，围绕匿名通信链路构建和流量特征行为检测两个维度，提出流量密态匿迹对抗的研究框架和对抗能力评估指标体系，全面阐述近年来相关研究工作进展、研究方法及解决方案，以期探索网络空间密态对抗能力新的发展方向。
随着人工智能技术快速发展，大语言模型（LLM）凭借其强大的自然语言处理能力已在科研、教育、金融、医疗等许多领域崭露头角。然而，在LLM被广泛使用的过程中，伴随一系列安全问题：如存在偏见、歧视的风险，存在生成有害内容的风险，存在泄露用户隐私信息的风险，存在信息误导性传播的风险以及容易受到恶意对抗攻击等安全风险。上述风险可能对用户造成损害，甚至影响社会稳定及伦理秩序，因此需要对LLM进行全面安全检测评估。文章针对目前关于LLM安全性检测评估的相关研究内容，归纳总结常见的安全风险类型，并对已提出的主流安全检测评估技术或方法进行综述，同时介绍相关评估方法、评估指标、常用数据集和工具，归纳国内外关于大模型安全评估出台的重要参考标准、规范。此外，文章还讨论了安全对齐的技术理念、原理、功能实现机制及安全对齐技术评价体系。最后，通过分析当前LLM安全检测评估面临的问题，展望未来技术发展趋势和研究方向，旨在为学术界、产业界的相关研究和实践提供参考。
电子数据取证作为计算机科学和法学的交叉学科，正逐渐被人们所重视。文章介绍了电子数据取证相关概念，详细阐述了取证技术的研究进展，并对取证工具的类型、功能特点以及相关的行业测试标准和规范进行了分析研究。文章还展望了电子数据取证研究的发展趋势。
联邦学习算法通常面临着客户端之间差异巨大的问题，这些异质性会降低全局模型性能，文章使用知识蒸馏方法缓解这个问题。为了进一步解放公共数据，完善模型性能，文章所提的DFP-KD算法使用无数据方法合成训练数据，利用无数据知识蒸馏方法训练鲁棒的联邦学习全局模型；使用ReACGAN作为生成器部分，并且采用分步EMA快速更新策略，在避免全局模型灾难性遗忘的同时加快模型的更新速率。对比实验、消融实验和参数取值影响实验表明，DFP-KD算法比经典的无数据知识蒸馏算法在准确率、稳定性、更新速度方面都更具优势。
基于区块链的联邦学习作为一种新兴的去中心化的分布式机器学习新范式，其在克服传统联邦学习所面临的数据孤岛、隐私泄露以及安全威胁等不足的同时，也面临着区块链技术在成本、效率以及有效性等方面带来的新挑战。为此，文章首先结合基本原理、技术分类、优势以及待解决问题对联邦学习和区块链进行阐述。在此基础上，文章围绕联邦学习与区块链所涉及的架构、性能、隐私性、安全性、激励机制、共识机制等对基于区块链的联邦学习研究进行了系统的总结分析。最后，文章从基于区块链的联邦学习原理、平衡性以及应用三个维度，探讨未来的研究趋势和亟待解决的主要问题。
区块链技术因其去中心化和不可篡改性被广泛应用，但隐私保护和可信性问题依然是制约其发展的一大瓶颈。可信执行环境（TEE）通过提供硬件隔离的安全执行环境，有效解决了区块链中隐私保护和可信计算的难题。文章综述了基于TEE的区块链技术及其融合应用。从区块链的分层架构出发，探讨了TEE在区块链不同层次中的优化，包括数据层、交易层、共识层、合约层和互操作层，并分析了其存在的优势和不足。此外，文章总结了TEE与区块链融合的去中心化应用，包括去中心化可信人工智能（AI）、联邦学习和隐私拍卖等。
目前大语言模型LLM在文本生成、机器翻译和情感分析等领域取得了显著的成果。为了保护模型数据集与参数版权，防止未经授权的复制和使用，并验证消息的真实性，需要通过水印技术确保LLM的安全性和可信度。根据LLM运行的不同时间点，文章将当前水印技术分为嵌入模型训练的水印、推理阶段插入的水印和文本生成后的追加水印3类。针对水印的鲁棒性、保密性和有效性需求，文章对水印技术的评价指标进行了整理，并对现存的抗水印攻击进行综述，旨在进一步推动大语言模型水印技术的发展和应用。
关系抽取技术可用于威胁情报挖掘与分析，为网络安全防御提供关键信息支持，但网络安全领域的关系抽取任务面临数据集匮乏的问题。近年来，大语言模型展现了优秀的文本生成能力，为数据增强任务提供了强大的技术支撑。为了弥补传统数据增强方式在准确性和多样性方面的不足，文章提出一种面向网络安全关系抽取的大语言模型数据增强方法MGDA，该方法从单词、短语、语法和语义4个粒度使用大语言模型增强原始数据，从而在确保准确性的同时提升多样性。实验结果表明，文章所提数据增强方法有效改善了网络安全关系抽取任务上的有效性以及生成数据的多样性。
随着人工智能技术的快速发展，智能系统在医疗、工业等多个领域得到广泛应用。然而，智能系统中存储的大量用户数据一旦遭受恶意攻击，将对用户隐私构成严重威胁。为保护用户数据隐私，许多国家已出台相关法律法规，以确保用户享有“被遗忘权”。机器遗忘技术通常分为精确遗忘和近似遗忘两类，旨在通过调整模型参数，从已训练好的模型中消除特定数据的影响。精确遗忘方法利用剩余数据重新训练模型实现遗忘，但其计算成本较高；近似遗忘方法则通过少量参数更新实现遗忘，然而现有方法存在遗忘性能不足、遗忘时间过长等问题。文章提出一种基于自适应采样的机器遗忘方法，该方法先对模型训练过程中的梯度进行采样，随后利用少量梯度信息完成遗忘，具有广泛的适用性，可适配多种机器遗忘方法。实验结果表明，“先采样后遗忘”策略显著提升了近似遗忘性能，同时将精确遗忘时间减少了约22.9%，近似遗忘时间减少了约38.6%。
联邦学习由于其分布式特性，容易遭受模型投毒攻击，即恶意客户端通过发送篡改的模型更新来破坏全局模型的准确性。在众多的联邦学习分支方法中，半异步联邦学习由于其对实时性要求较低，使得它在面对投毒攻击时显得尤为脆弱。目前，检测恶意客户端的主要手段是通过分析客户端更新的统计特征来进行区分。然而，这一方法并不适用于半异步联邦学习。由于陈旧更新中包含由延迟产生的噪声，导致现有的检测算法难以区分良性客户端的陈旧更新与攻击者的恶意更新。为了解决半异步联邦学习中的恶意客户端检测问题，文章提出了一种基于预测模型更新的检测方法SAFLD。该方法根据模型的历史更新来预测客户端的过时更新并评估恶意分数，在检测中分数较高的客户端将被标记为恶意更新客户端并移除。文章在两个基准数据集上进行了实验，结果表明，相比于现有的检测算法，SAFLD能够在半异步联邦学习场景中更加准确地检测出多种最先进的模型投毒攻击。
随着我国网络安全能力逐渐提高，网络攻击的数量和复杂性也逐渐增长，网络攻击检测技术面临着巨大挑战。为了提高网络攻击检测的准确性，文章提出一种基于残差卷积神经网络的网络攻击检测模型HaoResNet，并在USTC-TFC2016数据集上对HaoResNet模型进行测试。首先，HaoResNet模型将pcap流量文件转化为灰度图像；然后，对正常流量和恶意流量进行二分类、十分类和二十分类实验。实验结果表明，HaoResNet模型在二分类任务上的精确率达到100%，正常流量十分类任务上的精确率为99%，恶意流量十分类任务上的精确率为98%，二十分类任务上的精确率为98%。与现有模型相比，HaoResNet模型在二分类任务上实现了更高的检测精度。
近年来，以深度神经网络为代表的机器学习技术在自动驾驶、智能家居和语音助手等领域获得了广泛应用。在上述高实时要求场景下，多数服务商将模型部署在边缘设备以规避通信带来的网络时延与通信开销。然而，边缘设备不受服务商控制，所部署模型易遭受模型窃取、错误注入和成员推理等攻击，进而导致高价值模型失窃、推理结果操纵及私密数据泄露等严重后果，使服务商市场竞争力受到致命打击。为解决上述问题，众多学者致力于研究基于可信执行环境（TEE）的安全推理，在保证模型可用性条件下保护模型的参数机密性与推理完整性。文章首先介绍相关背景知识，给出安全推理的定义，并归纳其安全模型；然后对现有TEE安全推理的模型机密性保护方案与推理完整性保护方案进行了分类介绍和比较分析；最后展望了TEE安全推理的未来研究方向。
企业或组织面临的信息安全风险主要来自内部威胁，特别是内部人员的恶意行为，这类风险相较于外部攻击更具隐蔽性和难以检测性。为了更加准确地检测出企业或组织内部人员的恶意行为，文章基于用户行为日志分析，提出一种基于CNN-LSTM算法的内部威胁检测方法。该方法使用CMU CERT R4.2公开的内部威胁数据集构建用户行为特征序列，首先通过CNN层对用户行为进行重要特征提取，然后使用LSTM层进行用户行为预测，最后通过全连接层识别用户的行为是否为威胁行为。将文章所提出的模型与 CNN、LSTM、LSTM-CNN 等经典内部威胁检测模型进行了对比实验。实验结果验证了所提模型的可实现性，并且展现出其在内部威胁行为检测方面的优势。在评估指标中，该模型的AUC得分达到0.99。具体而言，实验表明采用 CNN-LSTM 算法进行内部威胁检测的方法能够显著降低误报率，准确率达到98% ，能够有效识别企业内部潜藏的威胁行为。
公钥基础设施-证书颁发机构（PKI-CA）是一种用于管理数字证书和公私钥对的技术框架，传统PKI-CA系统由于集中化管理的特性，存在单点故障和安全风险。为解决这些问题，文章设计了一种基于区块链智能合约的去中心化PKI-CA系统，通过智能合约实现证书的增删改查，各节点扮演证书颁发机构或注册机构的角色。为提高效率，系统采用了基于星际文件系统的数字证书索引算法，使用内容标识符（CID）快速检索证书。考虑到区块链的透明性问题，系统结合国密算法和全同态加密算法，加密敏感数据，确保证书持有者的身份和隐私安全。实验结果表明，系统每秒可处理50次操作，颁发100张证书仅需2.39 s，相较于传统PKI-CA系统具有更高的性能和安全性。安全性分析结果表明，系统采用的国密算法和全同态加密技术有效实现了对系统关键数据和敏感数据的保护，区块链的去中心化与共识机制增强了系统的抗攻击能力，有效防止了恶意生成和伪造证书。
