将本站设为首页
收藏武艺官网,记住:www.51fdbx.net
账号:
密码:

武艺书院:看啥都有、更新最快

武艺书院:www.51fdbx.net

如果你觉得好,恳请收藏

您当前的位置:武艺书院 -> 多我一个后富怎么了 -> 650 通用模型(4k)

650 通用模型(4k)

温馨提示:如果本章属于内容错误等情况,请点击下面的按钮发送报告,我们会在一分钟内纠正,谢谢

P之前基本是每个任务单独设计模型,再单独训练,很依赖大量标注数据,不同任务之间的技术栈并不通用,也就是导致研发进展很缓慢。

通用模型意味着只用Transformer就能快速适配不同的任务。

以前是很多模型干不同方向的活,现在是用一个Transformer做不同方向的活,意义自然完全不同,如果能够继续推动,许多设想中的场面都可能会实现。

陆奇不用吴恩达多解释就知道这种判断的意义,但他的第一反应是十分怀疑:「通用模型?Transformer?这个判断是怎麽得出来的?」

「我们基於Transformer做了一个模型,用它去做NLP的能力测试,它在GLUE的9个任务里已经有5个达到S0TA,这还只是我们的初步尝试。」吴恩达说道,「另外,它在机器阅读理解的2个任务里也拿到了高分。」

GLUE是目前业内公认的NLP通用能力评测,包含9个不同类型的语言理解任务,而机器阅读理解也是NLP领域最受关注的任务之一。

吴恩达拿出了平板,展示具体的模型处理效果,过去需要不同模型的任务在基於Transformer的模型测试里拿到5项最优,剩下4项也接近最优。

在机器阅读理解的2个任务里,模型的F1值拿到89分,超越了人类平均水平的87.9

分。

吴恩达时刻注意着陆奇的视线和浏览,等到他看到机器阅读理解这部分,不轻不重的说了句:「这是大模型在机器阅读领域第一次超过人类在通用数据集的表现。」

陆奇沉默了。

俞兴这时提到一个关键的问题:「这还是他们在很短时间里的成果,从去年到现在,从机器翻译领域转到NLP领域,也就不到4个月的时间。」

「这4个月,这11个任务里大部分的提升幅度已经相当於业内过去三到五年的总和。」

「啧,就这个情况,时间再多点,恐怕11个任务都能达到S0TA。」

全球业内数年的提升在过去四个月时间里被基於Transformer的模型做到了。

这些正是吴恩达发起联名信的底气,他有信心可以进一步推动新模型的发展,至於到底能不能成为NLP通用大模型,谨慎的说,需要进一步验证。

从感性与直觉来看,吴恩达认为就是这个了。

陆奇翻来覆去的看着平板上的测试展示,


  本章未完,请点击下一页继续阅读!

看了《多我一个后富怎么了》的书友还喜欢看

大雪满龙刀
作者:乱世狂刀
简介: 神朝的第六个千年,红月潮汐上涨,人治混乱,妖魔乱舞。北境风雪中走出的少年,为了驱除六...
更新时间:2026-10-26 21:37:35
最新章节:0867、前所未有的盟约
1949南征东南亚,海外建国
作者:爱吃番茄炒蛋的猫爷
简介: 近现代,海外建国。桂林之春\n1949国府失败已成定局,李崇文穿越成为桂系将领,率领...
更新时间:2026-10-26 21:50:24
最新章节:第228章 南华1968:文化传承
九阴九阳
作者:仗剑修真
简介: 林辰九世轮回归来,觉醒混沌鼎,吞噬阴元即可提升修为!

小师...
更新时间:2026-10-26 21:55:41
最新章节:第844章 吞噬太易之气,太虚无相兽!
恐怖复苏:离婚后,我不替她挡灾了
作者:东城芹菜
简介: 秦序给妻子江紫当了五年牛马,换来的只有一句“你没本事”。

...
更新时间:2026-10-26 21:41:55
最新章节:第197章 上次答应请你的,趁热吃
反派:开局拿下萝莉女主
作者:雪至剑落归途
简介: 【传统反派、美女如云、无敌碾压、腹黑、老六、爽文】\n江澈穿越到融合的小说世界,绑定...
更新时间:2026-10-26 21:49:13
最新章节:第1274章 回阳九针
穿成星际恶毒公主,我截胡了未来大佬
作者:九序
简介: 姜明月穿成星际兽世里的炮灰公主,精神力低下、名声恶劣,最后还会惨死荒星。
<...
更新时间:2026-10-26 21:46:25
最新章节:第120章 可怕的直觉