跳到内容
主题

AI安全与治理:安全使用AI的完整指南

AI工具的安全风险、提示词数据泄露、AI代理安全管理和治理最佳实践。

17 篇文章

排序文章以找到您需要的内容

AI安全与治理 分类下的文章

AI代币消耗是生产力指标吗?——Tokenmaxxing陷阱与替代测量法

AI代币消耗是生产力指标吗?——Tokenmaxxing陷阱与替代测量法

2026年,Tokenmaxxing——通过虚增内部指标而被操纵的AI代币消耗——在亚马逊、Meta和微软被观察到。Faros AI对22,000名开发者的研究显示,使用AI使任务完成提升+34%、史诗任务+66%,但缺陷上升+54%、PR审查时间增长5倍。数量与质量决定性地背离。本文介绍粗糙的"代币消耗=工作产出"指标为何蔓延、它造成的三种现场扭曲(代币灌水、速度压倒实质、向AI友好型任务漂移)、Salesforce AWU、DORA四项、AWS结果指标等替代方案,以及个人和组织可采取的五个实际行动——全部以一手数据为依据。1990年代KLOC的失败,正用新单位重演。

使用 AI 时"输入的注意事项"——绝不可交出的 6 类信息与按计划划分的安全等级

使用 AI 时"输入的注意事项"——绝不可交出的 6 类信息与按计划划分的安全等级

使用 AI 时最大的安全风险并非"AI 回答了什么",而是"你输入了什么"。业界调查显示 77% 的员工曾把公司机密输入 AI 工具,被粘贴的企业数据中有 27.4% 属于敏感信息(前一年的 2.5 倍)。从三星源代码泄露(2023)、ChatGPT 缓存漏洞(2023)、vibe-coded 应用的密钥泄露(2025),到 Check Point Research 披露的 ChatGPT 隐蔽通道漏洞(2026 年 2 月)——事故接连不断。本文围绕"绝对不可交出的 6 类信息"、"视计划而定的有条件可分享信息"、"按计划划分的安全等级(Free / Enterprise / API / 自建托管)"、"提升质量的好输入 5 项原则"、"招致提示注入的输入与基本防御"、"四起真实泄露事件",以及"个人与组织的检查清单",给出在 2026 年与 AI 安全共处所需的"输入侧"判断标准。

AI 给网络安全带来的冲击——Claude Mythos 如何改变攻防版图

AI 给网络安全带来的冲击——Claude Mythos 如何改变攻防版图

2026 年 4 月由 Anthropic 发布的 Claude Mythos Preview,对 Firefox JavaScript 引擎的漏洞利用成功率达到 Opus 4.6 的 90 倍,并在 OpenBSD、FFmpeg、Linux Kernel 等系统中发现数千个零日漏洞。Anthropic 选择不公开发布,而是通过「Project Glasswing」仅向 AWS、Google、Microsoft 等合作伙伴有限交付。本文以最新数据为基础,系统梳理 Mythos 揭示的 AI 网络安全新格局:攻击侧的自动化、防御侧的 AI 应用、监管方的应对,以及组织应当采取的行动。