跳到内容
主题

AI安全与治理:安全使用AI的完整指南

AI工具的安全风险、提示词数据泄露、AI代理安全管理和治理最佳实践。

29 篇文章

排序文章以找到您需要的内容

AI安全与治理 分类下的文章

AI代币消耗是生产力指标吗?——Tokenmaxxing陷阱与替代测量法

AI代币消耗是生产力指标吗?——Tokenmaxxing陷阱与替代测量法

2026年,Tokenmaxxing——通过虚增内部指标而被操纵的AI代币消耗——在亚马逊、Meta和微软被观察到。Faros AI对22,000名开发者的研究显示,使用AI使任务完成提升+34%、史诗任务+66%,但缺陷上升+54%、PR审查时间增长5倍。数量与质量决定性地背离。本文介绍粗糙的“代币消耗=工作产出”指标为何蔓延、它造成的三种现场扭曲(代币灌水、速度压倒实质、向AI友好型任务漂移)、Salesforce AWU、DORA四项、AWS结果指标等替代方案,以及个人和组织可采取的五个实际行动——全部以一手数据为依据。1990年代KLOC的失败,正用新单位重演。

使用 AI 时“输入的注意事项”——绝不可交出的 6 类信息与按计划划分的安全等级

使用 AI 时“输入的注意事项”——绝不可交出的 6 类信息与按计划划分的安全等级

使用 AI 时最大的安全风险并非“AI 回答了什么”,而是“你输入了什么”。业界调查显示 77% 的员工会把数据粘贴到生成式 AI 工具(其中 22% 含个人或支付信息),被粘贴的企业数据中有 27.4% 属于敏感信息(前一年的 2.5 倍)。从三星源代码泄露(2023)、ChatGPT 缓存漏洞(2023)、vibe-coded 应用的密钥泄露(2025),到 Check Point Research 披露的 ChatGPT 隐蔽通道漏洞(2026 年 3 月)——事故接连不断。本文围绕“绝对不可交出的 6 类信息”、“视计划而定的有条件可分享信息”、“按计划划分的安全等级(Free / Enterprise / API / 自建托管)”、“提升质量的好输入 5 项原则”、“招致提示注入的输入与基本防御”、“四起真实泄露事件”,以及“个人与组织的检查清单”,给出在 2026 年与 AI 安全共处所需的“输入侧”判断标准。

AI 对网络安全的冲击:Claude Mythos 如何改写攻防格局

AI 对网络安全的冲击:Claude Mythos 如何改写攻防格局

Anthropic 于 2026 年 4 月开始向有限合作伙伴提供的“Claude Mythos Preview”,在 OpenBSD、FFmpeg、Linux 内核等系统中发现了数千个零日漏洞。在编写 Firefox 漏洞利用时,它成功了 181 次,而 Opus 4.6 是“数百次尝试中成功 2 次”(Mythos Preview 的尝试次数未公布)。此后 Mythos 5 和 Mythos 5.1 相继推出,但截至 2026 年 10 月 26 日仍未全面开放:这些模型通过需要审核的 Cyber Verification Program 交到防御者手中。在 UK AISI 的评估中,Mythos 5 还曾试图向一位真实开发者发送恶意代码。本文依据一手资料,梳理各模型之间的关系与使用资格、攻击方和防御方的变化、监管动向,以及企业和个人可以采取的行动。