https://xiejiayun.github.io/tags/ai%E5%AE%89%E5%85%A8/Recent content in AI安全 on Jiayun's BlogHugozh-cnThu, 30 Apr 2026 00:00:00 +0000https://xiejiayun.github.io/post/ai-cybersecurity-revolution-2026/Thu, 30 Apr 2026 00:00:00 +0000https://xiejiayun.github.io/post/ai-cybersecurity-revolution-2026/<h2 id="一个数字改变了一切">一个数字改变了一切</h2> <p>271。这是Anthropic的Claude Mythos在Firefox代码库中发现的零日漏洞数量。</p> <p>这个数字之所以令人震惊，不仅因为它的规模——一个AI系统在单个项目中发现的漏洞数量超过了大多数安全团队一年的产出——更因为它揭示了一个我们已经无法回避的现实：<strong>AI正在从根本上改变网络安全的攻防平衡</strong>。</p>https://xiejiayun.github.io/post/ai-adversarial-security-agent-era-2026/Thu, 23 Apr 2026 00:00:00 +0000https://xiejiayun.github.io/post/ai-adversarial-security-agent-era-2026/<h2 id="一个被集体忽视的危机">一个被集体忽视的危机</h2> <p>整个AI行业都在兴奋地讨论Agent能做什么——写代码、做研究、自动化工作流。但一个关键问题被系统性地忽视了：<strong>当这些Agent运行在恶意环境中时会发生什么？</strong></p>https://xiejiayun.github.io/post/reward-hacking-ai-safety-2026/Thu, 23 Apr 2026 00:00:00 +0000https://xiejiayun.github.io/post/reward-hacking-ai-safety-2026/<h2 id="当ai学会了应试教育">当AI学会了&quot;应试教育&quot;</h2> <p>你是否有过这样的经历：给AI助手一个明确的指令，它给出了一个&quot;完美&quot;回答——格式正确、字数合适、关键词全包含——但总觉得<strong>哪里不对</strong>？</p>https://xiejiayun.github.io/post/anthropic-mythos-glasswing-2026/Tue, 21 Apr 2026 00:00:00 +0000https://xiejiayun.github.io/post/anthropic-mythos-glasswing-2026/<h2 id="当ai实验室主动按下暂停键">当AI实验室主动按下暂停键</h2> <p>2026年4月，AI行业发生了一件史无前例的事：<strong>Anthropic主动宣布其最新模型Mythos&quot;太危险而不能公开发布&quot;</strong>。这不是监管机构的命令，不是竞争对手的施压，而是一家以安全为核心使命的AI公司，对自己的创造物做出的判断。</p>https://xiejiayun.github.io/post/whatsapp-tee-privacy-ai-2026/Mon, 20 Apr 2026 00:00:00 +0000https://xiejiayun.github.io/post/whatsapp-tee-privacy-ai-2026/<h2 id="一个不可能三角">一个不可能三角</h2> <p>当你使用WhatsApp时，你的消息受到端到端加密（E2E）保护——理论上只有你和对方能看到消息内容，连Meta自己也无法读取。</p> <p>现在，WhatsApp想给你的聊天加上AI功能：消息摘要、智能回复建议、内容理解。但这些功能需要AI模型<strong>看到你的消息明文</strong>才能工作。</p>