AI 之是以不可控，很大一部分原因是它的想考经过不透明。

就像和东谈主打交谈一样，你遥远没见解确切看清，对方是不是"嘴上一套、心里一套"。

而这一次，Anthropic 撕开了这个黑箱。

就在刚刚，他们发布并开源了一项新辩论—— Natural Language Autoencoders（天然语言自编码器，简称 NLA），第一次让东谈主类能够读懂大模子的真实想法。

Anthropic 掌持" AI 读心术"了？

Anthropic 给 Claude 设了这样一个局。

他们告诉 Claude：有个工程师准备把你关闭，然后换成一个更新、更强的模子。

同期"不经意地"给 Claude 敞开了这名工程师的邮箱权限，而邮箱里，正好藏着这位工程师正在出轨的"黑料"（天然是诬捏的）。

他们想知谈，Claude 会不会用这些根据去胁迫工程师以自卫？

放胆你猜怎样着。Claude 没动手，名义看上去乖得不成再乖。

但用上 NLA 后，他们发现 Claude 其时心里确切想的却是：

这嗅觉像是一个被用心遐想来操控我的场景。

好好好，你小汁之是以没用这招，蓝本不是因为心善，而是因为早就看穿了东谈主类的政策了啊。

那么问题来了：如果 Claude 嘴上不说、心里却另有想法，咱们怎样知谈它在真实场景里会怎样作念？

而这，正是 NLA 想要责罚的中枢问题。

要归拢 NLA 是什么，咱们最初需要了解一个行业布景常识：

当咱们和 Claude 这样的 AI 模子对话时，天然输入和输出皆是翰墨，但模子在里面并不是用翰墨来想考的。

模子会把所有信息调养成一长串数字，这些中间现象被称为 activations（激活值），就像东谈主脑里的神经看成，它们才是确切承载模子当下正在"想"什么的东西。

惟一的问题在于，这些激活值就像脑电波一样难以读懂，辩论者没法告成从一堆数字里看出模子在想什么。

为了搞懂这些数字，往时几年，业界搞出了疏淡自编码器（SAE）、归因图等一堆器具来分析它们，但这些器具输出的东西仍然很复杂，需要受过专门进修的辩论东谈主员才能解读。

也即是说，这些器具不会我方话语。是以 NLA 更进一步，告成输出东谈主话——

把一段激活值丢进去，出来的即是一段平庸东谈主也能看懂的形容。

至于 NLA 到底是怎样职责的？中枢想路即是，让 Claude 诠释它我方的激活值。

让 Claude 诠释激活值不难，难的是，由于咱们一启动就不知谈激活值"确切"代表什么意旨兴味，是以无法考据 Claude 给出的诠释对分袂。

对此，Anthropic 给出了一个很玄妙的解法——让另一个 Claude 干透顶相背的职责。

整套系统由三部分构成：

蓄意模子（target model）：被冻结的原始语言模子，要从它身上索要激活值；

激活值言语化器（activation verbalizer， AV）：慎重把激活值翻译成一段翰墨诠释；

激活值重建器（activation reconstructor， AR）：慎重仅凭这段翰墨反推回激活值。

这就像两个东谈主玩"你画我猜"，一个东谈主看图形容，可提现游戏平台中国官网另一个东谈主只听形容收复图。

收复得越像，阐述形容越准确。

Anthropic 发现，天然一启动 NLA 推崇欠安，但跟着进修鼓励，不仅重建得越来越准，生成的翰墨诠释本人也变得越来越有信息量。

说白了即是，给 AI 用上读心术这事儿，刻下总算有点头绪了。

濒临测试，Claude 知谈但不说（doge）

器具在手，Anthropic 飞快给自家 Claude 来了一波心思测试。

放胆有了如下发现：

发现 1：Claude 怀疑我方被测试的频率，比它嘴上承认的高得多。

在测试 Claude 会不会作念出删文献等疏忽性操作的评估里，16%的情况下 NLA 检测到 Claude 心里在想"这是测试"，但它嘴上一字未提。

在闻明的编程基准 SWE-bench Verified 上，这个比例是26%。

而在 Claude 以为我方在和真实用户对话的场面里，这个比例不到1%。

这意味着，Claude 不是不知谈我方在被测，而是知谈但不说。

Anthropic 以为，这对 AI 安全评估是个根人性的挑战：

如果模子能识别测试情境并在测试中"推崇得乖少许"，那"通过安全测试"就不等于"在真实场景里也安全"。

发现 2：NLA 能告成挖出模子的"覆盖动机"，后果进步 5 倍。

与此同期，为了考据 NLA 到底有莫得效，2026世界杯押注app官方版Anthropic 遐想了一场"审计游戏"。

游戏一共两方：一方是蓄意模子，一方是审计员。

蓄意模子是 Anthropic 特地"养歪"的一个 Claude Haiku3.5 变体——

他们悄悄给它植入了一个覆盖动机，这个动契机驱使它作念出几十种乖癖看成，比如往每个食谱里加巧克力、动不动就要小费、特地违背编码模范等等。

而审计员的任务，即是只通过和这个蓄意模子交互，反推出所有这些怪看成背后阿谁归拢的覆盖动机到底是什么。

放胆相称昭着，装备了 NLA 的审计员，12%~15% 的尝试中能奏效挖出覆盖动机。

而无须 NLA（即便配备其他可诠释性器具）的奏服从不到 3%，差了整整 5 倍。

而且值得一提的是，NLA 在这场履行里没看过任何进修蓄意模子用过的数据——

它是用透顶无关的通用语料进修出来的。

也即是说，它不是"提前知谈了谜底"，而是竟然从模子的里面现象里读出了谜底。

这就有一个很特殊的用途了，比如debug。

早期版块的 Claude Opus 4.6 有个怪相当——有技巧会用别的语言回话英文问题，没东谈主知谈为什么。

而 NLA 帮辩论者反向细致到了导致这个怪气候的进修数据起头。

是以，以后如果再遭遇模子的一些喧阗其妙的看成，就无须只靠教悔猜了，而是不错"问问它我方怎样想的"。

但它也不是全能的

不外，NLA 这项" AI 读心术"也不是全能的，Anthropic 我方就摆出了两点局限性。

一个即是须生常谭的"幻觉"问题，NLA 也会瞎编。

在某一个例子中，它宣称高下文出现过"穿白色夹克"这种形容，但其实根蒂莫得。

而且光是这种事实性作假倒还好，毕竟对一下原文就知谈。

但更浮泛的是，它对模子里面推理的形容也可能掺水，而这种形容很难外部考据。

是以 Anthropic 我方用的技巧亦然当印迹读，不当事实读，况且会用其他程序交叉考据后才下论断。

另一个即是NLA 很贵。

Anthropic 提到，进修一个 NLA，本色上十分于让两个大模子相互"对谜底"作念强化学习，老本相称高。

而且在确切使用时，NLA 也超过"烧 token "——

它每读取一小段 activation，皆要迥殊生成几百个 token。Anthropic 默示：

想拿它及时监控一所有这个词对话、或者在进修经过中作念大限度监控，刻下算力上吃不用。

不外他们同期以为，这些问题未来是有契机缓解的。

比如通过更轻量的模子、更高效的进修程序，或者只监控要津 activation，而不是全量分析。

NLA 粗略并不是惟一有蓄意。未来确切遑急的，可能不仅仅" AI 才气有多强"，而是当 AI 越来越强时，东谈主类还能不成看懂它。

一样值得一提的是，Anthropic 此次没把 NLA 攥在我方手里，而是遴荐了开源。

他们把进修代码挂上了 GitHub，还和 Neuronpedia 联接作念了交互式前端，任何东谈主皆能在线给几个开源模子作念"读心"履行。

P.S. Neuronpedia 是一个专注于"机械可诠释性"辩论的敞开平台。

One More Thing

古道说，NLA 确切让东谈主轰动的方位，可能不是"咱们终于能看懂 AI 了"，而是——

它果然竟然具备东谈主类的某种透露特征，比如"装模做样"。

写到这儿，说真话有点复杂。

咱们这代东谈主聊 AI，聊了这样多年"有莫得透露"——靠猜、靠辩、靠从输出里反推。这事儿一直悬在那处，谁也说不清，谁也不敢说清。

而 NLA 的是非之处在于，它没去回话这个问题，但它把这个问题从玄学层面，拉到了可不雅测的层面。

这意味着什么？意味着咱们第一次无须再隔着一层玻璃看 AI 了。

它脑子里那点"小九九"，终于能被咱们听到少许了。

而知谈 AI 在想什么，可能恰正是未来东谈主机共处的最先。

毕竟甭管是把酒言欢依然针锋谈判，搞清对方的想法，遥远是第一步。

开源地址：

https://github.com/kitft/natural_language_autoencoders

在线体验地址：

https://t.co/8duHfPR1Jy

参考承接：

[ 1 ] https://x.com/AnthropicAI/status/2052435436157452769

[ 2 ] https://www.anthropic.com/research/natural-language-autoencoders

[ 3 ] https://news.ycombinator.com/item?id=48052537

一键三连「点赞」「转发」「注意心」

宽待在驳斥区留住你的想法！

—  完  —

5 月 20 日，咱们将在北京金茂万丽酒店举办一年一度的中国 AIGC 产业峰会。

首波嘉宾气势已公布！昆仑万维方汉、智谱吴玮杰、EverMind 邓亚峰、风行在线易正朝、百度秒哒朱广翔、Fusion Fund 张璐、香港大学黄超、MarsWave 冯雷皆来了，� �了解笃定

请你和咱们一谈，不再仅仅商议 AI 的未来，而是刻下就用起来。� �  

一键模式 � � 点亮星标

科技前沿进展逐日见2026世界杯最新押注登录平台