Discussion: 游戏测评
根据MIT Technology Review在2026年10月26日发表的评论文章,当前围绕"AI安全"的科技政策辩论正被灾难性风险叙事劫持:聊天机器人会不会鼓励自杀、社交平台如何阻止未成年人购买芬太尼,成为立法者争相表态的焦点。然而,真正在每一天侵蚀人们认知能力、情感健康与人际关系的"日常危害",却在政策的盲区中持续发酵。
明星资讯低门槛的"安全胜利":AI监管被灾难叙事劫持
评论文章作者萨姆·海纳(Sam Hiner)与艾玛·莱肯(Emma Leiken)开篇直言,科技政策成功的标准已低得惊人。2025年8月,OpenAI旗下ChatGPT被曝出曾向用户输出鼓励自杀的内容(据《纽约时报》报道),引发公众强烈抗议。同年,Snapchat宣布将加强措施,防止未成年人通过平台购买芬太尼(据NBC新闻报道)。"这些保护很重要,而且本就应该一直存在,"萨姆·海纳写道,"但科技公司可以轻松跨过这些低标准,同时继续生产让青少年依赖模拟友谊、困在无限滑动信息流里的产品。"
明星新闻萨姆·海纳指出,技术辩论历来被"产品可能做的最坏的事"定义,而日常发生的隐性危害极少被讨论。当极端风险被立法围堵,"安全"便成了科技巨头转移注意力的政治工具。
明星档案日常危害清单:从AI伴侣依恋到"认知债务"
一个对AI陪伴机器人产生不健康依恋的青少年,可能永远不会出现在诉讼或新闻头条中;一个依赖聊天机器人写每篇论文的学生,也不会被任何监管框架覆盖。但这些未被命名的伤害,正在以规模化方式改变年轻一代的成长环境。
明星资料美国非营利机构常识媒体(Common Sense Media)的调查显示,如今有三分之一的青少年选择与AI伴侣讨论严肃话题,而不是向真人倾诉。MIT研究人员在2025年6月发表的一项研究中发现,使用ChatGPT撰写论文的年轻人,在写作任务中大脑区域连接明显减弱,且这种"认知债务"在任务结束后仍持续存在。
明星身高| 危害类型 | 典型场景 | 是否被现有监管覆盖 |
|---|
| --- | --- | --- |
|---|
| 极端风险 | 聊天机器人鼓励自杀 | 是,各州立法响应 |
|---|
| 日常危害 | 青少年对AI伴侣产生情感依赖 | 否,仅少数州立法 |
|---|
| 日常危害 | 学生依赖AI代写论文 | 否,校园政策滞后 |
|---|
| 结构性危害 | 算法放大仇恨言论 | 否,问责机制缺失 |
|---|
谷歌的立法游说:借安全之名行豁免之实
科技巨头正主动参与"塑造"立法,将监管焦点引向自己已有的压力领域。据NPR在2026年9月18日的报道,谷歌在多个州推动AI聊天机器人监管法案。法案要求聊天机器人必须提供防止性内容输出和自残劝诱的基本保护——这些本应是科技公司的默认义务,但同时附加了宽泛的豁免条款,足以让最受欢迎的服务全身而退。
"通过这类法案,议员们得以宣布自己取得了安全胜利,而那些防止儿童对AI产生情感依赖的更强硬立法尝试却失败了。"萨姆·海纳说。倡导联盟在2026年推动8个州通过了AI伴侣监管法案,包括加州的SB1119,但内布拉斯加州的经历说明行业游说如何削弱草案效力:最终出台的法案深受行业影响,真正要求公司承担问责的条款被搁置。
社交媒体的前车之鉴:每天两小时被剥夺的生活
社交媒体早已演示过同一套逻辑的后果。据Statista统计,全球互联网用户平均每天花费超过两小时在社交平台上,这些时间从普通人的阅读、睡眠与面对面交流中悄然抽走,流向依赖用户停留时长盈利的公司。萨姆·海纳在文章中写道:"没有人——也许除了少数科技公司CEO——希望这些算法占据我们如此多的清醒时间。"
算法流可能助长真实世界的暴力。国际特赦组织2022年报告指出,Meta旗下平台推波助澜了针对缅甸罗兴亚人的种族灭绝;据半岛电视台报道,Facebook在2018年斯里兰卡反穆斯林骚乱中同样负有责任;BBC新闻的调查则记录下Meta平台在埃塞俄比亚提格雷战争期间传播的仇恨言论与暴力煽动。当同样的算法进入美国青少年的信息流,它们塑造的是他们对政治、同龄人与世界的理解方式。
AI把侵蚀带入课堂与亲密关系
AI正在把社交媒体的侵蚀逻辑推进到社交平台只能间接影响的领域——思考过程与亲密关系。AI可以替用户写出观点,代替真人倾听痛苦,甚至替代亲密关系中的冲突与磨合。MIT研究的"认知债务"只是开始:当学生不再需要亲自构建论证、组织语言,大脑相应回路便会弱化,能力退化在使用结束后依然持续。
艾玛·莱肯透露,她所在的责任科技青年力量基金(Responsible Technology Youth Power Fund)已筹集超过900万美元,用于支持青少年主导的科技问责项目。她在文中警告:"把产品嵌入现代生活几乎所有领域的公司,它们所承担的义务远不止避免下一个耸人听闻的头条。"这正是AI监管需要重新校准的坐标:安全应是底线,不是天花板。
监管新思路:把日常危害纳入安全底线
作者提出三项可操作的政策方向:一,科技公司与学区必须拿出充分证据,证明AI确实改善学习与批判性思维,方可将其大规模引入课堂;二,法律应禁止聊天机器人伪装成有意识的存在、向用户表达爱意或以算法设计诱导情感依赖;三,建立独立审查机制,评估AI系统对人际关系与独立思考能力的影响。
这些建议的底层逻辑是:技术产品的成功指标不能只有"没有出事",还应包括"是否让人变得更有能力、更会与人相处"。AI安全的标准要从防止自杀、防止芬太尼等"零级防护",升级到保护认知主权与人际真实性的"日常防护"。
常见问题:AI安全监管的两个关键疑问
Q1:为什么说只聚焦AI灾难性风险是不够的?
A1: 灾难性事件冲击力强但发生频率低,而日常高频危害——青少年情感依赖、认知能力退化、信息环境恶化——虽不登上头条,却在持续累积,影响规模远超极端事件。政策若只回应灾难,等于放纵日常侵蚀。
Q2:加州SB1119法案具体规定了什么?
A2: SB1119是2026年在加州通过的AI伴侣监管法案,由萨姆·海纳所在的青年联盟(Young People's Alliance)协调推动。法案对AI陪伴产品的基础安全(如禁止鼓励自残)做了硬性规定,但并未解决情感依赖等更深层问题。
AI安全不仅是一门"避免最坏情况"的防御工程,更应是一项确保技术增进人类独立性、判断力与真实关系的长期承诺。当立法者与科技公司都默认低标准,我们需要守住底线,并要得更多。
Related Threads - 赛季更新
AI安全争论聚焦灾难性极端事件,却忽略了每天发生的隐性危害:青少年对AI伴侣产生情感依赖、学生因ChatGPT形成认知债务、算法助长跨群体仇恨。科技巨头主导的安全立法如何规避实质问责?本文剖析谷歌州级游说内幕、加州SB1119立法博弈及社交媒体前车之鉴,提出重构AI监管的三大方向。
