洞源实验室 | 网络安全实践与AI安全探索

软件工程师兼安全工程师Shrivu Shankar在两周前发布了一篇《How to Backdoor Large Language Models》（https://substack.com/home/post/p-156746809 ），文章源起是DeepSeek R1的开源让许多人担心这个大模型会存在后门或监控，于是作者介绍了一个自己训练的带有后门的大模型BadSeek，该模型是基于开源的Qwe

从2016年至今，每年在不同地域都会举办网络安全攻防演练，起初只是小规模的试点项目，到如今它已经发展成为一场大规模的红蓝对抗演练。随着演练规模不断扩大，红队攻击手段也在不断升级，攻击面也在持续扩大，对于蓝队而言，防护工作也面临越来越大的挑战。 总结过去几年的攻防演练，我们可以发现红队在攻击手段上的几个趋势： 首先，供应链攻击成为红队的重点手段。攻击方开始将目光转向软件供应链的系统或平台，尤其是已经

这段时间，B站的知名UP主“老师好我叫何同学”因为一则《我用36万行备忘录做了个动画…》的视频备受争议，将这名UP主再次推上了舆论的风口浪尖，视频内容主要介绍利用备忘录的功能，手动输入字符，并通过下滑功能制造动画效果，结合多部手机来协同做出惊艳的动画短片，主要目的当然还是做某款手机的软广。 说是争议其实不合适，因为这次舆论的焦点几乎是一边倒地指责何同学犯下的低级错误，因为在这则视频的原始版本的5

什么是AI安全自ChatGPT问世以来，市场上涌现出了众多大型语言模型和多样化的AI应用。这些应用和模型在为我们的生活带来便利的同时，也不可避免地面临着安全挑战。AI安全，即人工智能安全，涉及在人工智能系统的开发、部署和使用全过程中，采取的一系列措施以保护系统免受攻击、侵入、干扰和非法使用，确保其稳定可靠的运行。 在当前的讨论中，我们通常提到的AI安全实际上涵盖了两个主要方面：大型语言模型（LLM

2024年8月13日，微软在“补丁星期二（Patch Tuesday）”更新中披露了一个严重漏洞CVE-2024-38063，该漏洞是由国内赛博昆仑实验室的Wei发现并上报，影响到Windows系统的TCP/IP协议实现，TCP/IP协议是用于互联网通信的基本通信协议。该漏洞的CVSS评分为9.8（严重），且允许攻击者在启用IPv6的系统上远程执行任意代码（RCE，Remote

CVE-2024-21096是一个中等严重性的漏洞，它影响Oracle MySQL Server产品中的mysqldump组件。成功利用此漏洞的未认证攻击者可能对MySQL Server的数据进行未授权的更新、插入或删除操作，还可以读取MySQL Server可访问数据的一部分，并可能导致MySQL Server部分拒绝服务（partial DOS）。利用该漏洞的攻击需要在MySQL Server

许多时候，对于负责安全工作又不太擅长安全漏洞技术的人员而言，如何应对突发漏洞是工作中主要的难点，这里的突发漏洞指的是两类：一类是通过新闻、咨询推送，被社会舆论所有关注的CVE漏洞，比如前段时间所谓的核弹级别Windows Server漏洞，一类是没有引起足够社会关注，但又在安全行业流传的0-day漏洞，但也仅限于传说，而很少有人真正见过的0-day漏洞。 本文结合美国CISA（Cybersecur

引言1. 背景说明近年来，随着智能设备的普及和音频技术的发展，蓝牙音箱和耳机在消费电子市场上占据了重要地位。 这些设备为用户提供了便携、无线的音频体验，但同时也带来了潜在的安全隐患。 蓝牙技术本身存在一定的安全漏洞，加之这些设备通常连接到用户的智能手机并访问个人数据，以及智能家居或智能酒店场景下蓝牙音箱的应用，使得蓝牙音箱和耳机的安全问题变得尤为重要。 今年以来，CVE-2023-45866漏洞和

引⾔⼤语⾔模型（Large Language Models, LLMs）的横空出世，为传统计算机科学的各个细分领域带来了颠覆性的变⾰。这种变⾰的浪潮同样席卷了⽹络安全领域，引发了⼀系列深刻的变化和影响。GPT-4、Gemini、Llama 2 等⼤模型以其卓越的⾃然语⾔处理能⼒，重新定义了我们对数据安全和⽹络防御的认知，提供了检测和减轻安全威胁的新⽅法。本⽂⼴泛调研 LLMs 在⽹络安全中的多样化

事件过程与影响 7月19日下午，大约从北京时间13点30分开始，全球不同地方的Windows系统用户中，不少人发现自己的Windows系统出现了蓝屏错误（BSOD，Blue Screen Of Death）。 这个故障画面会显示Recovery（恢复），并提示Windows系统没有正确加载。 之后，网络上出现许多蓝屏恶搞的图片，以此指向微软或者CrowdStrike公司。比如冰箱蓝屏导致无法打开