Dianzinao

关于

电子脑实验室研究人与 AI 怎样理解彼此。我们关注两个相连的问题:人怎样表达和确认自己的意图,又怎样获得判断 AI 回答所需的知识。

意图对齐

AI 能给出很复杂的答案,人却未必一开始就知道怎样提问。想让一个物体“绕过这里”时,用手沿着路线比画一遍,可能比描述每个转弯都清楚。同样的动作也可能有几种含义:重要的是绕开障碍,还是沿途经过某个点?

我们关心的是接下来这一来一回。人可以说、画、做动作;AI 也应该能画出它理解的路线,指出拿不准的地方,让人确认或纠正。双方都能检验对方理解了什么,这是我们所说的意图对齐。

知识同步

有时卡住表达的,是一个还没学过的概念。例如,你想问一条曲线在某一点“变得有多快”,即使没学过导数,也已经有了一个很具体的问题。如果 AI 只交回一个公式,你很难判断它有没有答到点上。

我们把这个问题称为知识同步:怎样从人已经懂的地方出发,让人尽快掌握眼前问题所需的概念,能够追问、检验和独立判断?“吃一颗糖就学会微积分”是我们设想这个问题时用的思想实验。它追问的是,缩短理解所需的时间后,人能提出哪些今天还提不出来的问题。

当前工作:多模态意图交互

我们目前把精力放在能实际试用的交互上。玉衡让人通过对话推敲一个想法;瑶光提供一块可以边画边聊的画板。围绕这些原型,我们想弄清楚智能体什么时候该追问、什么时候一幅图就足以消除歧义,以及怎样把手势和身体动作也纳入表达与确认的过程。

远期设想与“电子脑”的由来

下面三个方向目前都只处在构想阶段,实验室尚未开展相关项目或实验。

脑机接口意图交互。我们想知道,人能否借助脑机接口表达还来不及说出口的意图,以及系统该怎样把解读还给本人确认。

脑机接口知识接入。我们设想过更远的一步:知识能否经由脑机接口直接传递给人?即使信息能够传入,怎样判断一个人真正理解了它,仍是这个设想的核心问题。

电子脑化。“电子脑”这个名字取自《攻壳机动队》。它承载着我们最远的想象:如果有一天,人的认知能借助电子载体延续,人类探索深空的方式会发生什么变化?

联系实验室

如果你遇到过一个很难让 AI 理解、却很容易用图或动作说明的问题,欢迎写信告诉我们。

[email protected]