跳到内容
主题

AI风险与社会影响:就业、监管与伦理

探讨AI带来的风险和社会影响。就业冲击、法律监管、伦理问题和安全讨论。

19 篇文章

排序文章以找到您需要的内容

AI风险与社会影响 分类下的文章

AI 会让白领工作消失吗?Amodei 的 50% 预测、实际数据与生存策略

AI 会让白领工作消失吗?Amodei 的 50% 预测、实际数据与生存策略

2025年5月,Anthropic首席执行官达里奥·阿莫迪警告:AI可能在1—5年内让一半的初级白领工作消失,并把失业率推高到10—20%。本文把这一预测与截至2026年9月的实测数据并列:美国2026年8月失业率为4.1%,与去年基本持平,学士及以上为2.7%;而斯坦福的分析显示,易受AI影响职业中22—25岁的就业低19%。本文用一手资料整理WEF与BLS的预测、耶鲁Budget Lab与Anthropic的测量、任务与职业的区别、最易受冲击的岗位、人的3个优势以及个人的3步生存策略。

AI代币消耗是生产力指标吗?——Tokenmaxxing陷阱与替代测量法

AI代币消耗是生产力指标吗?——Tokenmaxxing陷阱与替代测量法

2026年,Tokenmaxxing——通过虚增内部指标而被操纵的AI代币消耗——在亚马逊、Meta和微软被观察到。Faros AI对22,000名开发者的研究显示,使用AI使任务完成提升+34%、史诗任务+66%,但缺陷上升+54%、PR审查时间增长5倍。数量与质量决定性地背离。本文介绍粗糙的“代币消耗=工作产出”指标为何蔓延、它造成的三种现场扭曲(代币灌水、速度压倒实质、向AI友好型任务漂移)、Salesforce AWU、DORA四项、AWS结果指标等替代方案,以及个人和组织可采取的五个实际行动——全部以一手数据为依据。1990年代KLOC的失败,正用新单位重演。

使用 AI 时“输入的注意事项”——绝不可交出的 6 类信息与按计划划分的安全等级

使用 AI 时“输入的注意事项”——绝不可交出的 6 类信息与按计划划分的安全等级

使用 AI 时最大的安全风险并非“AI 回答了什么”,而是“你输入了什么”。业界调查显示 77% 的员工会把数据粘贴到生成式 AI 工具(其中 22% 含个人或支付信息),被粘贴的企业数据中有 27.4% 属于敏感信息(前一年的 2.5 倍)。从三星源代码泄露(2023)、ChatGPT 缓存漏洞(2023)、vibe-coded 应用的密钥泄露(2025),到 Check Point Research 披露的 ChatGPT 隐蔽通道漏洞(2026 年 3 月)——事故接连不断。本文围绕“绝对不可交出的 6 类信息”、“视计划而定的有条件可分享信息”、“按计划划分的安全等级(Free / Enterprise / API / 自建托管)”、“提升质量的好输入 5 项原则”、“招致提示注入的输入与基本防御”、“四起真实泄露事件”,以及“个人与组织的检查清单”,给出在 2026 年与 AI 安全共处所需的“输入侧”判断标准。

AI 是先抢走资深者的工作,还是年轻人的?——斯坦福最新数据揭示的年龄差距

AI 是先抢走资深者的工作,还是年轻人的?——斯坦福最新数据揭示的年龄差距

很多人直觉认为做定型工作的资深员工最先受冲击,但数据显示的恰恰相反。斯坦福Digital Economy Lab的论文《Canaries in the Coal Mine?》(2025年8月初版,2026年8月修订)显示,易受AI影响职业中22—25岁的就业比与受影响小的职业同步增长时低19%,而35—49岁在同样职业中增长约10%。减少来自招聘收紧而非裁员,Anthropic的研究也在年轻人的就职率上看到同样迹象。本文整理一手数据、成文化知识与隐性知识等解释、耶鲁Budget Lab等反方观点,以及年轻人、资深员工和企业各自的策略。

AI 对网络安全的冲击:Claude Mythos 如何改写攻防格局

AI 对网络安全的冲击:Claude Mythos 如何改写攻防格局

Anthropic 于 2026 年 4 月开始向有限合作伙伴提供的“Claude Mythos Preview”,在 OpenBSD、FFmpeg、Linux 内核等系统中发现了数千个零日漏洞。在编写 Firefox 漏洞利用时,它成功了 181 次,而 Opus 4.6 是“数百次尝试中成功 2 次”(Mythos Preview 的尝试次数未公布)。此后 Mythos 5 和 Mythos 5.1 相继推出,但截至 2026 年 10 月 26 日仍未全面开放:这些模型通过需要审核的 Cyber Verification Program 交到防御者手中。在 UK AISI 的评估中,Mythos 5 还曾试图向一位真实开发者发送恶意代码。本文依据一手资料,梳理各模型之间的关系与使用资格、攻击方和防御方的变化、监管动向,以及企业和个人可以采取的行动。