开局小说

手机浏览器扫描二维码访问

第827章 没经过标注学习的大模型直接拿训练结果会不完整(第2页)

导致“结构性不完整”。

?

2.

任务映射角度:无标注训练难以学得任务映射规则

?

自监督语言模型训练的本质是“概率语言建模”,不是“任务解答”;

?

所以它并不知道“题目是什么、目的是什么”,而是推测“在这种上下文中,最可能出现的词或句子是什么”;

?

比如:它可以写诗、写代码,但并不能天然知道“这个代码是否安全”“这首诗是否表达了想表达的情绪”。

结论:任务导向的“目标函数”缺失

无法学会“为什么做”。

?

3.

可解释性角度:非标注训练缺乏因果结构建模

?

人类通过监督学习明确学习“因果—目的—手段”结构;

?

但大语言模型更像是“相关性结构模拟器”;

?

它可以“预测一个合理的答案”,但不能清晰解释“为什么这个是对的”,这导致它常常幻觉(hal露cination),即信心满满地说错话。

结论:缺乏标注训练导致“因果推理能力弱化”,解释力不足。

?

三、类比视角:大模型

vs

人类学习

我们可以做几个有趣的类比来更好理解:

模型机制

类比人类

结果

自监督训练

看大量书籍和对话,但没人教你正确答案

可形成语言风格、思维路径,但很难准确判断对错

监督训练

崩坏:从西琳开始捕获小小律者  宠妃  海贼:洛克斯时代第一剑豪!  咦?这里有间魔法学校  穿越之异世奇遇迹  九九金仙  戏精的我在综漫玩扮演  开局校花太太向我道歉,东京末日  银镜通古今,侯府真千金带崽开挂了!  夺我灵根骂我狠?先天绝情圣体已成!  Fate梦幻旅程  黄帝内经百姓版  自在不灭  尸之仙  大秦:化身人屠,祖龙求我别杀了  超无限战卡  万星吞天诀  玉孤  刷好感99次,我为爱成零  娶妻一个月,才知岳父朱元璋  

热门小说推荐
光遇:树

光遇:树

这是一篇关于光遇的同人故事,他们是光遇世界的勇士们,他们是崩坏国度的唯一希望。愿光遇的世界迎来崭新的光,而我们都是光遇的光。...

抄家流放,医妃搬空侯府手撕渣爹

抄家流放,医妃搬空侯府手撕渣爹

关于抄家流放,医妃搬空侯府手撕渣爹穿书就替嫁要流放,还是在大婚当天?花从筠穿成了侯府的真千金,但是侯府上下全部都疼爱假千金花千柔,甚至还让她去替嫁战王去做炮灰背景板!后期直接在流放路上挂了?流放之路吃不饱穿不暖,还容易被霸凌?花从筠笑了笑表示要淡定。空间在手,要啥没有!血洗侯府,渣爹的小金库?拿走拿走统统拿走!搬空粮仓,城里的各大粮仓都被她席卷一空,且留下了丰厚的银票。皇宫偷袭,渣爹贪污受贿的账本就放在圣旨旁,并留言,请皇上明鉴。流放路上,花从筠看着渣爹一家,露出奸诈的牙齿,爹爹,以后的日子我们就看谁过得滋润吧流放路上遭遇暗杀,好,来一个我宰一个!假千金柔弱不能自理,好好好,那就真的不能自理吧!至于她的战王夫君?随便吧,只要别惹我就行。战王柔声哄道,你要阴便只能阴我,离其他男子远点。...

重返七零,回首人生

重返七零,回首人生

关于重返七零,回首人生一觉醒来,已是另外一个世界,睁开眼,还没来得及享受人生,他就发现自己和父母一起被分家了,他住进了一栋四面透风的茅草屋,在这里开始了他新的人生。直到有一天,他遇到了一位道士,他不但传授他武功,还送给了他一件神秘的玉佩,他的生活开始发生改变...

每日热搜小说推荐