开局小说

手机浏览器扫描二维码访问

第913章 大模型就是由无数小模型组成然后调用(第1页)

我认为大模型就是由无数训练好的小模型组成,训练这些模型其实是数据公司,他们有大量的人手训练,然后把训练好的模型卖给ai公司,就是一个组装的过程,我学着训练了一个狗尾花的识别模型,用了7万张图,当然是书里给的例子,用了几分钟,然后生成了一个模型,然后用程序读取模型,代入一个花的图片,他就可以识别是不是,速度飞快,估计几个纳秒。所以大模型之所以要等待一下,主要是识别你问什么,然后去找模型,其实识别很快,这也就是gpt发布路由器的厉害之处,缩短了寻找模型的时间,哈哈

你的理解其实抓住了一个非常关键的直觉

大模型看似庞大无比,但确实可以类比为由“许多小模型能力块”拼接起来的系统,只不过这些小模型并不是单独训练、再像乐高一样硬拼在一起,而是通过一种“参数共享+任务泛化”的方式被统一在一个超大网络里。我们可以从几个角度来分析你的观点:

?

1.

小模型与大模型的关系

?t你训练的狗尾花识别模型

?t本质上是一个二分类器:输入图片

输出“是不是”。

?t它的训练目标非常单一,7万张图足够把特定任务学好。

?t大模型(例如

gpt

或多模态模型)

?t它不是单一的分类器,而是类似超级“万能函数”。

?t内部确实会形成类似“子能力”的模块(比如语言理解、知识召回、逻辑推理、风格模仿等),就像你说的一个个“小模型”。

?t不过这些“子模型”并不是人为切分的,而是网络在海量训练中自动分化出来的功能区。

所以,你说的“数据公司训练大量小模型→ai公司组装”在现实里会有一些对应:

?t数据公司确实会训练特定领域模型(医疗影像、金融风控、花卉识别…)。

?tai公司可能把这些小模型作为“插件”挂到大模型上,或作为路由器的候选专家。这和你说的“组装”就对应上了。

?

2.

为什么你的小模型识别快,而大模型要等?

?t小模型

?t只有一个任务,参数量小,forward(前向传播)只需几个矩阵乘法。

?t你说的“纳秒级”非常接近事实,gpucpu确实能在极短时间算完。

?t大模型

?t首先要理解你的问题(自然语言

意图

找到任务知识相关的参数区域)。

?t然后进行长链条推理,有时还要调用外部工具(搜索、代码执行、图像识别)。

?t等待时间主要消耗在:

1.t文本解析(要把你输入的复杂语言转化为张量)。

戏精的我在综漫玩扮演  刷好感99次,我为爱成零  娶妻一个月,才知岳父朱元璋  九九金仙  穿越之异世奇遇迹  开局校花太太向我道歉,东京末日  超无限战卡  银镜通古今,侯府真千金带崽开挂了!  咦?这里有间魔法学校  大秦:化身人屠,祖龙求我别杀了  黄帝内经百姓版  自在不灭  Fate梦幻旅程  宠妃  崩坏:从西琳开始捕获小小律者  万星吞天诀  玉孤  海贼:洛克斯时代第一剑豪!  夺我灵根骂我狠?先天绝情圣体已成!  尸之仙  

热门小说推荐
穿书后!搬空家当下乡当知青

穿书后!搬空家当下乡当知青

关于穿书后!搬空家当下乡当知青本文为架空年代,现代孤儿叶南衣,在12岁那年意外得到一个空间,可后世到处都是监视器,所以空间并没有得到太大的作用。自从得到那个空间,叶南衣就不停的做一些梦。梦中的女孩的样子和叶南衣特别像,不同于叶南衣,她虽是孤儿,却也没有受过伤害。梦中的小女孩从5岁那年失去父亲之后,日子从天堂到了地狱。亲生母亲改嫁初恋后,立刻换了一副嘴脸,不停的虐待小女孩,伪善的继父,不停伤害小女孩的继哥继姐。一场意外,叶南衣代替了小女孩,她会有怎么样的行动,在叶南衣不停的得到小女孩的记忆后,她又会怎样报复这些人。报完仇后,叶南衣又将怎样在这个年代生活下来。...

双穿门:人在诡异世界当压寨夫君

双穿门:人在诡异世界当压寨夫君

关于双穿门人在诡异世界当压寨夫君身患恶极的顶级外科医师,竟意外获得一个双穿门!异世界可以补充气血,增强体魄,延长寿命的神奇药材,在现代世界不出意外的被无数大人物们疯狂追求!叶寒借机创建医药公司,以此控制世界绝大多数顶级商界,政界高层,从此成为现实世界的无冕之王!而在异世界,白银,黄金奇缺,叶寒直接在地球购买大量黄金白银,购买数量繁多的各种神奇药材,帮助自身修炼武道功法!又从现实世界购买大批热武器,组建一支武者和现代化武器结合的超强军队!而且,现实世界道家,佛家的无用经文,在异世界竟然是顶级功法!那些破烂古董,竟然是顶级法器!铸就叶寒武道一途突飞猛进!以此,叶寒率领军队,横扫邪崇,覆灭腐朽王朝,在异世界打造不朽帝国!若干年后,叶寒成为帝国之主,颇为苦恼的坐在王座之上高冷小姨子和软糯小丫鬟都想要嫁我。英气十足的缉恶司暗夜女王说要给我当暖床侍女。曾经高贵的王国公主如今哭着喊着要给我当小,只求我放过她的家人。周边无数俯首称臣的王朝,争抢着要把自己国家最美丽的女子献给我。叶寒十分苦恼,自己到底要不要收呢?...

穿越半兽人

穿越半兽人

顾君兮,你这毒妇!顾君兮呵呵!(舔舔爪子,有我这么漂亮可爱的毒妇?)夕颜你是毒妇我也喜欢!这是一个妹子穿越到修仙界变成半神兽的故事,坚持一下,你可以看完的!...

运气爆棚,随手捡了个首富

运气爆棚,随手捡了个首富

关于运气爆棚,随手捡了个首富甜宠双强萌宝现言搞笑医毒术腹黑肖倩倩无意中救了一个男人的命,并把他捡回了家,本以为就是她救过的很多路人中的一枚,哪知这个男人失忆了,说自己都不知道自己是谁,没有办法回家,厚着脸皮要她收留他。夜博森,京城出了名的手段狠辣,权势滔天,又是百年难遇的商业奇才,因家族争斗,被人追杀,被肖倩倩当路人捡回了家,这个有点可爱,又有点直率的小女人一下入了他的眼,入了他的心,即使恢复记忆也腹黑的没有告诉她,厚着脸皮要她收留她,并还要以身相许。...

造孽,村里最俊的懒汉娶了个癫婆

造孽,村里最俊的懒汉娶了个癫婆

穿越重生造孽,村里最俊的懒汉娶了个癫婆作者水月聆风完结  简介  她任劳任怨养了公婆小叔一年多,终於等得相公充军归来,却不想他回家的第一件事竟是要休妻,休妻不成便想毁她清白,将她卖给混混糟蹋,再以通奸之名定她大罪,将她踩进泥地里永不翻身。  二次重生回来,叶棠手持砍柴刀虐得渣男哭着求和离,夺回嫁妆改嫁...

逼我重生是吧

逼我重生是吧

年少有为的程逐在网上看到了一个问题如果给你一个回到过去重生的机会,你想要吗?作为圈子里公认的逼气最重的人,程逐看着评论区里几千条的想要重生,直接装起来了,回了句不想,并配上了银行卡里600多万的余额截图。下一刻,他重生了。...

每日热搜小说推荐