「不错,这个形容挺好的,涌现。」
吴恩达在旁边问道:「俞总也想过这个?」
「我是不懂这个的。」俞兴惯例表明身份,然後才说道,「我就是觉得有意思,如果我们对深度学习的究极目标是做到AGI,那麽,现在的TD—1模型的能力是1,AGI的能力是10,中间到什麽阶段的时候它会突然让人觉得聪明呢?像孩子那样一下子成熟不少?」
「假设我们一定能走到10,那就一定有这样的阶段吧。」
「我以前是学医的,如果从医学角度,从生物角度,我们来看,从一个非洲爪蟾胚胎上取出来皮肤细胞,不对它的DNA进行任何修改,让细胞自主发育,最终也能重新长出完整的身体结构。」
「整个过程没有人为设计结构,完全都是细胞自主完成。」
俞兴提到的是一个经典实验,英国科学家1958年用非洲爪蟾幼体的肠细胞核移植入去核卵细胞,发现这样的胚胎也能发育成一个个体,而这个个体的基因组与供体细胞一致,即一个分化的细胞在一定条件下能够逆转,进而再发育为一个体。
深度学习三人组完全没明白俞总想要表达什麽意思,相互看了看,确认对方都没懂。
「我觉得DNA像是硬体规格书,不管怎麽测序基因,都没法推导个体宏观的五官和四肢,但是,当百亿千亿的细胞通过离子通道形成广泛的生物电网络,一个个体就拥有了智慧。」
俞兴指了指自己,也指了指对面的韦福如,说道:「成百上千亿的细胞所形成的生物电网络很可能是智慧存在的规模前提,换成我们在聊的深度学习,它也需要那样类似的规模才能出现能力的涌现。」
他用了一个生物上的例子来理解模型的能力涌现,而这恰恰是AI飞快发展的轰动标志o
在OPENAI发布GPT—3之前,所有的模型做新任务都必须微调,要给出成千上万的标注数据,然後针对新任务进行专门的重新训练,最後才能达到很好的效果。
但是,GPT—3的涌现是它不用修改模型的参数,不用样本或者少量样本就能完成训练时从没专门学习过的任务。
比如,没有专门对模型进行翻译训练,但能进行几十种语言的互译,没有教它,它却会了,这是模型展现的让人震惊和不解的能力。
刚开始做一张卷子只能得到20分,等到参数到达一定的阈值,忽然一下子就能得到80
分,也没有中间50分、60分的
本章未完,请点击下一页继续阅读!