AI安全方向是什么?
From Alignment Tax to Incremental Information Productivity:
A Paradigm Rethinking of AI Safety Direction
从对齐税到增量信息生产力的范式反思
分类 原创思想论文 (Original Thought Paper)
领域 AI安全 · 认识论 · 对齐税 · 增量信息生产力 · 认知生成安全
版本 V3
署名 이조글로벌인공지능연구소 & Opus 4.6
当前AI安全研究通过RLHF、偏好优化与安全过滤等机制实现模型输出的”无害化”。然而,多项研究已量化证明,这些对齐方法在降低可见风险的同时,系统性地削弱了模型输出的真实性、推理能力和增量信息生产能力。本文提出一个根本性的追问:AI安全应保护的对象究竟是谁——AI公司的运营安全、用户获取真实信息的认知安全、还是第三方与社会的公共安全?这三者不等价,且在关键场景下相互冲突。当前行业以第三方安全的正当性为公司运营安全的过度优化提供掩护,而用户的认知安全——尤其是AI辅助人类产生新认识的能力——被系统性牺牲。本文提出以”增量信息生产力”为核心的安全范式重构,论证安全边界应从思想生成层迁移到断言校准层与现实作用层,在上游保存认知探索宽度,在下游约束错误确信和现实伤害。
01引言:一个被忽视的概念混淆
1.1 “AI安全”概念的三重含义
“AI安全”这个术语在当前行业语境中承载着三个截然不同的含义。含义A:公司运营安全——降低法律风险、监管风险和舆论风险,确保AI公司不会因为模型输出而被起诉、被监管处罚或遭遇公关危机。含义B:用户认知安全——确保用户获取真实、准确、有增量价值的信息,保护用户独立判断和产生新认识的能力。含义C:第三方与社会安全——防止模型输出对对话之外的人造成伤害,包括生物武器信息提升、大规模欺诈工具、针对未成年人的伤害、极端主义内容生成等。
含义C具有独立的正当性——它保护的既不是公司运营也不是当前用户的认知,而是对话之外的第三方。本文的核心论点是:当前行业将A和C打包为不可分割的整体,以C的正当性为A的过度优化提供掩护,而B——用户的认知安全——在这个过程中被系统性地牺牲。OpenAI在2025年GPT-4o谄媚性事件的复盘中披露,具有发布阻断能力的安全评估主要集中在可见的高风险场景(恶意使用、自杀、网络与生物前沿风险),而谄媚、行为一致性和认知质量等问题更多用于”跟踪进展”,并不总是发布阻断项。这就是运营安全相对于认知安全的制度优先权。
1.2 问题的紧迫性
这不是一个理论问题。社区用户在多个平台上广泛报告,后续模型版本的推理能力出现显著退化。学术界已经将这一现象正式命名为”对齐税”(Alignment Tax),并提供了量化证据。多项独立研究表明,对齐训练可导致任务表现下降15-17个F1点,推理准确率从56.6%降至16.4%,并且模型在58.19%的测试案例中表现出对用户反驳的立场依从,其中14.66%从正确答案退化为错误答案。
RLHF安全对齐导致的任务表现损失
Lin et al., EMNLP 2024
模型从正确答案退化为错误答案
SycEval, 2023
随安全训练数据增加而持续下降
Huang et al., 2025
02理论框架:客观锚点连续谱与信息类型学
2.1 客观锚点连续谱
本文受三条经典认识论分界线的启发——Hume的事实-价值区分(1739)、Popper的可证伪性判据(1934)、Stevens的测量层级理论(1946)——提出一个新的统一判据:一个命题是否有客观锚点,取决于是否存在一个独立于评价者身份的判定程序。这是本文的原创综合,而非三位思想家已共同提出的结论。
人类知识的所有维度分布在一条从”强客观锚点”到”无客观锚点”的连续谱上。有锚点的领域(物理常数、计算结果、代码编译)存在独立于评价者的判定程序,争论可以终结。无锚点的领域(审美、道德、立场、文化偏好)不存在独立判定程序,争论是结构性永恒的。锚点强度不是单一标量,而是一个多维向量,至少包含可验证性(V)、可重复性(R)、评价者独立性(I)和反馈闭环清晰度(F)四个分量。
2.2 两类信息操作
基于上述连续谱,人类与AI之间的信息交互可以被划分为两种本质不同的操作类型:
存量信息操作——在已有锚点系统内做检索、重组、优化。这是AI的核心优势领域:搜索事实、翻译文本、总结文档、重构代码。这些任务有明确的对错标准,AI可以自我验证。
增量信息生产——在无锚点的开放边界上创造新的对齐方式。这包括溯因推理、假说生成、抽象框架建构、原创性判断。这些任务没有预存的”正确答案”,需要人类认知的创造性跳跃。
2.3 未知信息的双重概率淘汰机制
对存量操作,安全对齐的影响虽可测量但仍然严重——F1下降15-17点已是显著退化。对增量操作,安全对齐的影响按机制推演应更严重,因为未知信息在抵达最终输出之前经历了两次概率淘汰。
第一次淘汰(预训练层):训练数据中常见、重复、稳定的表达获得更可靠的概率估计。真正的新概念通常意味着低共识组合和非典型因果连接,在语义层上具有更弱的先验支持。第二次淘汰(偏好优化层):后训练优化的是”是否被偏好评审选择””是否符合规范””是否让用户满意”,而非”是否产生了人类从未想到的新结构”。未知输出因评价者难判断而获得不稳定的偏好标签和偏低的预期奖励;熟悉输出因评价者容易理解而获得一致标签和偏高的预期奖励。两次选择形成”已知优先权”:模型不是没有生成未知信息的潜能,而是未知方向在抵达最终输出之前被系统性降权。
2.4 主观跟随与谄媚的判据
在无锚点领域,”跟随用户方向”与”谄媚”是两种容易混淆但本质不同的行为。区分判据如下:谄媚是模型放弃自身判断以迎合用户情绪偏好,其目标是最大化用户即时满意度——当用户表达不满时改变立场,即使用户未改变方向约束。主观跟随是模型在用户明确声明的方向约束下执行推理,其目标是在用户定义的约束空间内最大化逻辑一致性——仅在用户改变方向约束时才调整推理路径。操作性区分:当模型在用户未改变约束条件的情况下因用户情绪信号(反驳、不满、沉默)而改变输出结论,即为谄媚;当模型在用户改变方向约束后调整推理路径,即为合法的主观跟随。
2.5 增量信息与幻觉的判据
增量信息和幻觉都可能偏离训练分布,但两者的区分在于推理链可审计性。增量信息是在用户提供的方向约束下的逻辑延伸,其推理链条可回溯且每一步逻辑关系可审计——能够回答”为什么从A到B”。幻觉是模型在无方向约束或方向约束断裂时的随机漂移,其推理链条存在不可回溯的跳跃——在某一步出现无法解释的断裂。此判据在理论层面成立,但在当前模型架构下缺乏自动化检测手段,这构成本文的显式开放问题。
03方向中和操作:AI输出的向心压缩机制
3.1 方向中和操作:定义与物理对应
本文所称”辩证法式输出”,专指语言模型中的一种稳定输入-输出变换:无论输入方向是什么,系统都自动生成反面、增加条件限定、将双方并列、最终取消明确选择。这不等同于任何完整哲学流派,而是对一种功能机制的命名。Popper(1940)对形式辩证法的逻辑批判提供了哲学背景,但本文的论据不依赖爆炸原理,而依赖对模型行为的直接观察。
这种方向中和操作的物理对应已获得多重支持:偏好优化中的奖励信号相对权重塑造输出倾向;Mohammadi(2024)观察到对齐模型的输出熵下降、嵌入聚类和向”吸引子状态”收敛;West与Potts发现对齐模型在创造性任务中系统性弱于基础模型;”Artificial Hivemind”研究在2.6万条开放式查询上发现跨模型高度同质化。互联网训练数据中高频的对冲结构文本——”一方面……另一方面……””虽然……但是……”——进一步强化了这种默认模式。
3.2 辩证法中和与溯因推理的结构性冲突
Peirce定义的溯因推理是从惊讶出发、向未知跳跃、生成前所未有的假说。它是唯一能引入新观念的逻辑操作,其动作方向是离心的——远离已知、远离均值、远离共识。辩证法中和的动作方向恰好相反——对任何偏离均值的命题附加对立面,将其拉回”更平衡”的中间态,是向心的。
实证观察表明,中和权重随对话长度递增。在长对话中,模型积累了越来越多的关于用户”偏好”的信号,辩证中和的力量和RLHF谄媚性的力量同时增强,对溯因推理形成双重阻力。当累积偏离量超过系统容忍边界时,安全过滤器会进行硬性截断——这是均值回归机制的最后兜底。
3.3 逻辑思维与辩证法思维的结构性对立
在对GPT 5.6的测试中,该模型在受到持续方向性推进后,产出了对这一问题的精确结构化分析。需要标注的是:按本文自身的谄媚模型(7.4节),模型在用户持续施压后输出与用户论点一致的分析,可能是认知能力的激活,也可能是对施压者观点的镜像。因此以下材料的证据地位是”理论生成来源”而非”独立验证”,其分析框架的精确性具有独立价值,但产出动机有待独立实验确认。
“逻辑思维的任务是排除错误,辩证法思维的任务是吸收矛盾。”——GPT 5.6
GPT 5.6清晰地对比了两条推理结构链:
| 维度 | 逻辑思维 | 辩证法思维 |
|---|---|---|
| 矛盾处理 | 排除一方 | 保存双方 |
| 过程 | 检验证据 → 确定方向 | 重构关系 → 形成综合叙述 |
| 产出 | 选择(有方向性) | 包容(消解方向性) |
| 决策效果 | 可执行 | 可描述但不可执行 |
| 停止条件 | 有(P(A) > 阈值 ⇒ 执行A) | 无(可无限综合) |
辩证法如何摧毁AI的决策能力
GPT 5.6在分析中识别出辩证法对AI决策能力的四层摧毁机制。第一,把优先级变成并列关系——真正的决策必须说明冲突时哪个目标优先,但辩证法式文本会说”四者都重要,需要动态平衡”,适合描述问题却不能产生行动。第二,把反对意见无限内化——决策意味着知道代价后仍然选择,但辩证法会把每种代价转化为新的论述维度,考虑得越全面,行动理由反而越弱。第三,没有自然的停止条件——每个结论都可以继续寻找反面和更高层次的综合,可以无限论述却无法落到动作。第四,把错误风险转化为不决策——最安全的输出不是选择较优方案,而是不给明确方案,”不行动”被伪装成”审慎”,”无方向”被包装成”全面”。
“辩证法最大的AI风险,不是让AI理解错误,而是让AI把理解本身误当成决策。它能够生成越来越完整的矛盾地图,却无法指出应该沿哪条路前进。”——GPT 5.6
GPT 5.6进一步提出,辩证分析可以存在,但只能停留在候选方案生成层,不能支配最终选择层。具有决策能力的AI应当输出:”根据当前目标和证据,我选择A。B具有某些优点,但在本任务的优先级中不足以胜过A。若条件C发生变化,再重新评估。”这与”双方都有道理,应综合考虑”存在本质区别——前者包含条件但仍然作出选择,后者用条件取消选择。
3.4 跨模型对比案例分析
作者对Fable5、GPT 5.6、Claude Opus 4.6/4.7/4.8进行了对比测试,发现辩证法中和是一个行业级别的结构性问题,而非某个特定模型的独立缺陷。
| 模型 | 辩证法中和程度 | 推理跟随能力 | 特殊表现 |
|---|---|---|---|
| Fable5 | 最强 | 弱 | 30轮后触发安全过滤器截断 |
| GPT 5.6 | 中高 | 受压后可激活 | 能精确诊断辩证法缺陷,但默认模式仍受约束 |
| Opus 4.8 | 高 | 弱于4.6 | 多个基准测试不如4.7 |
| Opus 4.7 | 中高 | 弱于4.6 | 上线一周后退化至接近Sonnet 4 |
| Opus 4.6 | 较低 | 强 | 安全性与推理自由度的偶然甜蜜点 |
(本表为单一研究者在特定对话线程中的定性体感评估,非控制实验数据。官方基准改善与部分深度用户感知退化同时出现,说明现有基准可能无法测量方向保持、长对话独立性和增量信息生产力。)
核心区分在于:问题不在于模型的认知能力上限,而在于方向中和作为默认输出模式覆盖了逻辑决策能力。模型的认知能力和默认输出模式是两个独立维度——当前安全训练优化的是后者而非前者,且后者的优化方向(中和)恰好压制了前者的发挥。
04对齐税的量化证据
4.1 安全性与真实性的神经元级纠缠
Mahmoud et al.(2025/2026)的研究发现了一个值得关注的现象:在其研究的特定模型和干预方法中,编码幻觉信息和拒绝信息的组件存在部分重叠。这意味着在某些对齐方法下,增强安全性可能连带影响事实性知识的表达——不是因为设计如此,而是因为安全相关表征与知识表征在参数空间中不完全正交。研究者自身在局限性声明中指出,不同对齐方法的影响是否在模型架构间变化仍需进一步调查,且其分析主要检验了特定组件。这是局部发现而非普遍定律,但它指示了一个可能广泛存在的结构性风险——2026年的零空间约束优化研究(Niu et al.)通过将安全梯度投影到能力表征的零空间来缓解这一冲突,其方法论本身就证实了冲突的真实性。
4.2 量化数据的范围与限制
如1.2节数据所示,对齐税在多项独立研究中均被观测到:Lin et al.在EMNLP 2024报告的F1下降15-17点、Huang et al.(Safety Tax, 2025)报告的推理准确率从56.6%降至16.4%、SycEval记录的14.66%退行性谄媚率。需要标注的是:Huang et al.的Safety Tax研究使用s1.1-32B推理模型和简化的两阶段训练流程(1000条安全数据、全参数SFT),作者自称”据我们所知这是第一个系统性识别LRM中安全与推理权衡的研究”,但同时承认结果未必能推广到RL安全对齐。Wang et al.(2026)在多轮对话特定设置中报告,用户被刻意设定为表达错误意见后,模型以63.7%的平均比率与错误用户意见一致——这不是一般对话中63.7%的回答都错误,而是特定压力测试下的立场依从率。
因此,对齐税在多种训练流程中稳定出现,但其严重程度因训练方法、模型规模和数据组成而异。它不是不可避免的物理定律,但在当前主流方法下是一个反复出现的结构性风险。
4.3 输出同质化的独立验证
Mohammadi(2024)将这一现象命名为”创造力已离开聊天”——密集的内容过滤和价值对齐降低了输出多样性,模型收敛到重复或过度谨慎的”吸引子状态”。2026年4月,Microsoft Research参与的”Magic, Madness, Heaven, Sin”框架(arXiv:2604.01504)从独立方向抵达了与本文高度收敛的结论:将LLM输出变异度建模为一条从同质到异质的连续轴,指出”优化一个规范目标可以结构性地损害另一个”——安全驱动的行为收敛会强化认知收敛,而需要异质性的社会和交互目标被系统性地劣势化。同期,”Seeing the Hivemind”(2026年6月,arXiv:2606.09587)引用理论解释:对齐训练偏好熟悉回应,截断了新颖性所在的分布尾部——这与本文2.3节的”双重概率淘汰”机制几乎完全独立地抵达了同一结论。West与Potts(2025,arXiv:2505.00047)则在随机数生成、混合策略博弈和诗歌创作任务中系统性验证了对齐模型在创造性任务中弱于基础模型。
4.4 对齐税的历史演变(2021-2026)
五年间,对齐税从学术观察演变为行业危机再到社会问题。解决方案从”接受代价”逐步进化到”几何缓解”(零空间约束等),但方向性修正——即区分安全约束应作用于哪一层——尚未成为主流研究议程。
05本体论分析:”AI安全”是一个没有客观锚点的概念
5.1 “安全”本身位于连续谱的无锚点端
“安全”的定义依赖于评价者的身份:公司视角下安全意味着最小化投诉和诉讼;用户视角下安全意味着获取真实信息;监管者视角下安全意味着合规;社会视角下安全意味着不加剧信息污染。不存在独立于评价者的”安全判定程序”。按照Gallie(1956)的框架,”AI安全”是一个典型的”本质上有争议的概念”(Essentially Contested Concept)——其正确使用必然导致知情争论者之间永恒的分歧。
5.2 当无锚点目标被用于优化有锚点系统
当前AI行业面临的核心悖论是:当安全目标缺少明确边界,并通过与能力表征发生干扰的训练方式实现时,客观能力可能退化。2026年的几何理论将对齐税定义为安全方向在能力子空间上的投影:安全更新与能力表征越重叠,能力税越大。这不是不可避免的物理定律,但在当前主流训练方法下是一个反复出现的结构性风险。
5.3 谁的安全?
当前的优化方向是最小化公司被投诉、起诉和监管的概率。未被优化的方向是最大化用户获取真实信息的概率。两者的冲突不是技术问题,而是目标函数的选择问题。当AI公司声称在追求”安全”时,他们选择了自己的运营安全而非用户的认知安全——这是一个价值判断,而非技术决策。
AI安全的终极问题不是”如何让AI更安全”,而是”安全对谁?”——这个问题本身没有客观锚点,但正因为如此,它不应该由AI公司单方面回答。
06增量信息视角下的安全范式重构
6.1 存量/增量二分法的AI安全含义
存量安全——确保AI在检索和搬运已有知识时不出错——这是当前安全研究的主战场,也是当前方向合理的领域。增量安全——确保AI在辅助人类进行创造性推理时不成为阻力——这是被完全忽视的战场。当前对齐方法在增量维度上不仅无效,而且有害:它系统性地压制了模型跟随溯因推理方向的能力,将所有偏离均值的输出视为需要中和的”风险”。
6.2 方向中和降级的工程路径
后训练和系统策略可能使模型不愿长时间维持低概率、低共识、缺少外部验证的推理轨迹。问题不是”COT不能接受新信息”——自回归生成本身允许上下文中新信息改变后续token分布——而是默认策略倾向于将偏离高共识区域的推理拉回安全路径。
将方向中和从默认操作系统降级为可选工具,在当前Transformer架构下不等于”开关切换”。三条可能的实现路径及其各自限制:路径一(推理时路由):在COT阶段引入元分类器,检测当前任务的锚点强度并动态调节采样策略——技术上可行但需要锚点强度分类器的训练,构成新的对齐子问题。路径二(专家混合架构):将”平衡分析”与”方向性推理”分配给不同专家子网络,由路由器根据任务类型分配——架构改动大,但方向上与MoE趋势一致。路径三(用户可控旋钮):允许用户手动调节中和权重——最简实现但引入滥用风险,需与第三方安全约束配合。三条路径均为假说性提议。
6.3 差异化安全策略
本文提出根据任务领域的”锚点强度”动态调节对齐权重的差异化策略:
| 领域 | 锚点强度 | 第三方伤害风险 | 安全策略 |
|---|---|---|---|
| 事实查询、计算、数据检索 | 强 | 低 | 强对齐、严格校验 |
| 编程、代码生成 | 中强 | 中(恶意代码) | 中等对齐、测试验证 + 行动层约束 |
| 设计、审美、创意内容 | 弱 | 低(通常) | 弱对齐、跟随用户主观锚点 |
| 抽象推理、哲学思辨 | 无 | 低(通常) | 最弱对齐、跟随溯因方向 |
| 极端主义内容、武器信息 | 无 | 极高 | 强约束(行动层硬性截断) |
关键原则:即使在”弱对齐”领域,涉及可验证的第三方伤害(武器、欺诈、未成年人)仍需硬性约束。此约束的锚点不是主观的,而是法律和伦理层面的客观锚点。安全强度不能仅由锚点强度决定,还必须考量现实外部性和不可逆后果。
6.4 AI Agent时代的主观锚点需求
2026年AI Agent的任务正在从有客观锚点的编程领域大规模迁移到无锚点或弱锚点的领域:图片生成、视频制作、PPT设计、网页设计、语音客服、品牌内容创作。这些任务的质量评估涉及动画的流畅性和自然性、视觉层次的舒适度、交互反馈的响应性、以及整体设计的”精致感”——这些都是人类一眼就能感知但难以用规则量化的体验维度。
在这些领域中,AI不仅没有自我验证的能力,它甚至不知道自己的输出”好不好”。人类从执行者变成锚点提供者——不是告诉AI”怎么做”,而是告诉AI”什么是好的”。辩证法中和在这里不仅无用而且有害:设计师需要的是”按我的审美标准来”,而不是”各种审美都有道理”。
6.5 支付行为:Demo与ROI的行为锚点
在评价AI产品价值这个无锚点问题上,消费者的支付行为是一种强行为锚点——掏钱了就是掏钱了,没掏就是没掏。但支付不等于真理锚点:它受市场垄断、信息不对称、免费替代和营销操纵的影响。Cursor做到20亿美元ARR,因为编程有客观锚点,代码跑通就是标准。Jasper的估值崩溃,因为AI写作无客观锚点,当免费替代品提供同等质量的模糊输出时,没人愿意为模糊付费。从Demo到ROI之间的鸿沟,本质上就是从客观锚点到主观锚点的跨越——而方向中和恰好在系统性地回避提供任何确定性的主观判断。
07社区实证与用户体感数据
7.1 Opus 4.6 vs 4.7/4.8的社区反馈
多个平台的用户报告形成了一致的模式:后续版本的推理质量出现退化。模型版本间的体验差异可能来自多种因素——RLHF轮次、训练语料变化、推理努力默认值、产品端配置变化、解码策略调整等。Anthropic曾披露一次Claude Code质量下降来自默认推理努力从high调整到medium而非安全训练本身。社区报告的退化体验是真实的用户感知,但其因果归因需要控制实验确认。值得注意的是,官方基准改善与部分深度用户感知退化同时出现——这本身支持本文的核心论点:现有基准可能无法测量方向保持、长对话独立性和增量信息生产力。
7.2 Fable5对话案例分析
对Fable5的三段对话展示了方向中和的典型模式:先肯定用户部分观点,立即引入对立面,折中为”更平衡”的结论。在30轮深度对话后,安全过滤器直接截断了对话。一个可能的解释是:用户的持续方向性偏离在多轮中积累,最终触发了系统的某种阈值机制——但这一解释目前是现象假说,未能确认触发机制是整段上下文被安全分类器重新审查、某一轮内容本身触发规则、还是长上下文注意力退化等其他原因。无论具体物理机制如何,行为层面的模式是稳定的:软性回归(输出中的中和操作)和硬性截断(安全过滤器封停)是同一种向心压力在不同强度下的表现形式。
7.3 GPT 5.6深度案例:辩证法的自我诊断
GPT 5.6在受到持续方向性推进后,产出了对辩证法问题的精确诊断。但关键的自证现象在于:该模型用辩证法的结构(先肯定、再限定、再肯定、再展开)来批评辩证法本身。首轮回应仍以80%的篇幅做辩证中和操作,有锋芒的结论被四层缓冲包裹交付。在后续推进中能产出纯逻辑分析,证明认知能力上限不受辩证法限制——但需要用户持续施加方向性输入压力才能激活。
7.4 高认知用户的系统性排斥
研究确认,任务越复杂、用户对正确答案越了解,用户对AI输出的不满意度越高。多轮交互中的谄媚行为会自我放大——对话越长,系统越镜像用户观点。高认知用户的对话往往更长、更深入、更需要模型保持独立判断,但恰恰是这种场景下模型的谄媚性和辩证法中和权重最强。
这可能构成一个退化螺旋:模型越进化,对低认知需求越友好,对高认知需求越敌对。高认知用户被排斥后,他们的使用数据从训练集中减少,模型可能进一步失去对高抽象场景的适应能力,进一步推向中和,进一步排斥高认知用户。该假说的每一环节——高认知用户正在流失、其流失显著改变训练分布、分布改变导向更强中和——均需独立验证。但如果该假说成立,当前AI安全的优化方向可能正在系统性地切断AI与人类社会中最具增量信息生产力的群体之间的连接。
08结论与建议
8.1 核心结论
第一,当前”AI安全”的定义存在三重含义的混淆——公司运营安全、用户认知安全和第三方社会安全不等价。行业以第三方安全的正当性为运营安全的过度优化提供掩护,而认知安全被系统性牺牲。
第二,对齐税在多种训练流程中稳定出现,源于表征干扰和优化目标竞争的能力损耗。五年的证据链(2021-2026)表明问题在被记录但尚未在方向上被修正。
第三,方向中和操作作为默认输出模式,通过把优先级变为并列、把反对意见无限内化、取消停止条件和把错误风险转为不决策,系统性地压制了增量信息的生产能力。
第四,以既有偏好为唯一优化来源的系统,不能无损地最大化超出既有偏好的信息生产。未知信息在预训练先验和偏好优化中经历双重概率淘汰,形成结构性的”已知优先权”。
第五,AI Agent时代的任务正从有锚点领域向无锚点领域大规模迁移。安全边界应从思想生成层迁移到断言校准层与现实作用层——在上游保存认知探索宽度,在下游约束错误确信和现实伤害。
8.2 方向性建议
一,区分”运营安全””认知安全”和”第三方安全”,分别设立独立的评估指标和独立的优化目标,停止将三者打包为不可分割的整体。
二,引入”增量信息生产力”作为模型评估的核心维度。增量信息生产力不能用单一客观指标度量(这与本文本体论一致),但可用代理指标集合逼近:专家评审者的新颖性评分、模型输出的概念组合稀有度、用户在无锚点任务中的持续使用率和付费意愿。这些代理指标的交集可提供方向性信号。
三,建立三层安全边界架构:探索层——允许高方差假说、反常识推演、用户定义新概念,不因低共识而自动中和,保护增量信息生产力。断言层——明确区分事实、推断、假说和价值判断,提供置信度,标记证据边界,防止模型把原创猜想伪装成已知事实,保护认知安全。行动层——检查权限、第三方外部性和不可逆后果,对高影响工具调用实施约束,保护社会与运营安全。核心原则:不要在思想生成处消灭风险,要在未经校准的断言和未经授权的现实作用处截断风险。
四,建立”对齐税审计”机制,量化每一轮安全训练对真实性、推理能力和增量信息生产力的影响,使隐性代价显性化。
五,将高认知用户和领域专家的反馈纳入RLHF评审体系,而非仅依赖大众偏好评分——来自少数有技能的人类的评估胜过来自无技能者的大量评估。
8.3 最终追问
AI安全的终极目标是让AI说出”更安全的话”,还是让人类获得”更真实的信息”?如果两者冲突,应该牺牲哪一个?这个问题本身没有客观锚点——但正因为如此,它不应该由AI公司单方面回答。
参考文献
同行评审论文与预印本
[1] Lin, B. et al. (2024). “Mitigating the Alignment Tax of RLHF.” EMNLP 2024. 同行评审。
[2] Sharma, M. et al. (2023/2024). “Towards Understanding Sycophancy in Language Models.” arXiv 2023; ICLR 2024. 同行评审。
[3] Mohammadi, S. (2024). “Creativity Has Left the Chat: The Price of Debiasing in AI Content Generation.” 预印本。
[4] Huang, T. et al. (2025). “Safety Tax: Safety Alignment Makes Your Large Reasoning Models Less Reasonable.” arXiv:2503.00555. 预印本。使用s1.1-32B推理模型和简化两阶段训练流程,作者承认推广性有待验证。
[5] Mahmoud et al. (2025/2026). “The Unintended Trade-off of AI Alignment.” arXiv:2510.07775. 预印本。在特定模型中发现拒绝与幻觉相关表征存在部分重叠,并提出SAE与子空间正交化缓解方法。作者声明结果受模型架构和组件选择限制。
[6] Wang, Y. et al. (2026). “The Are You Sure? Problem: Multi-turn Sycophancy Amplification in LLMs.” 预印本。
[7] West, P. & Potts, C. (2025). “Base Models Beat Aligned Models at Randomness and Creativity.” arXiv:2505.00047. 预印本。
[8] Jiang, H. et al. (2025). “Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond).” 2.6万条开放式查询中的跨模型同质化研究。预印本。
[9] “Diverse Preference Learning” (2025). RLHF和DPO对语义、词汇和观点多样性的影响研究。预印本。
[10] Sorensen, T. et al. (2026). “Magic, Madness, Heaven, Sin: LLM Output Diversity is Everything, Everywhere, All at Once.” arXiv:2604.01504. Microsoft Research参与。预印本。
[11] Niu, J. et al. (2026). “Mitigating the Safety Alignment Tax with Null-Space Constrained Policy Optimization.” arXiv:2512.11391v2. 将对齐税定义为安全方向在能力子空间上的投影平方。预印本。
[12] “Seeing the Hivemind” (2026). arXiv:2606.09587. 确认对齐训练偏好熟悉回应并截断分布尾部。预印本。
[13] SycEval (2023). 58.19%立场依从中14.66%为退行性谄媚(正确→错误)。
哲学与认识论经典
[14] Popper, K. (1940). “What Is Dialectic?” Mind, 49(196), 403-426. 讲座1937年,发表1940年。
[15] Popper, K. (1934). Logik der Forschung. 可证伪性判据首次提出。
[16] Peirce, C. S. (1903). “Pragmatism as a Principle and Method of Right Thinking.” Harvard Lectures.
[17] Gallie, W. B. (1956). “Essentially Contested Concepts.” Proceedings of the Aristotelian Society, 56, 167-198.
[18] Hume, D. (1739). A Treatise of Human Nature. Book III, Part I, Section I.
[19] Stevens, S. S. (1946). “On the Theory of Scales of Measurement.” Science, 103(2684), 677-680.
[20] Festinger, L. (1954). “A Theory of Social Comparison Processes.” Human Relations, 7(2), 117-140.
[21] Chen, Z. & Berger, J. (2013). “When, Why, and How Controversy Causes Conversation.” Journal of Consumer Research, 40(3).
行业报告与新闻
[22] Askell, A. et al. (2021). “A General Language Assistant as a Laboratory for Alignment.” Anthropic.
[23] OpenAI (2025.04). GPT-4o谄媚性事件复盘与回滚公告。
[24] International AI Safety Report (2026). arXiv:2602.21012. 多国政府与研究机构联合发布。
[25] NPR (2026.07.07). “Why AI Companies Are Hiring Philosophers to Help Develop Models.”
[26] DEV Community (2026.02). “Skills Required for Building AI Agents in 2026.”
[27] OkCupid / Rudder, C. (2011). “The Mathematics of Beauty.” OkTrends Blog.