层学习器的loss function该如何设计,其权重更新又该如何与外层backbone的梯度反传实现数学上的解耦……】
文献到这里,断了。
李东合上这半截思路,眉毛轻轻挑了挑。
在inference阶段,依然持续做training的模型?
把几百万的context直接压进权重里?
好家夥。
这帮ai极客脑子里憋着的狠活,可比他们挂在arxiv上的水文,野得多了。
退出记忆宫殿,现实里不过才过去了一两秒。
李东心满意足,朝着万斯伸出手,和蔼地笑道。
“万斯博士,和你交流技术很愉快。”
万斯下意识地握住那只手点了点头。
他整个人,还在李东方才给他的那套“保谱非线性流形重排”里没出来。
回去就让底座团队把重构算子的参数化方案,在合成数据上挨个跑通!谱头!得让针挪到谱头上去!
等他回过神来的时候,李东已经走出去七八米远了。
而李东一边走,一边在心里慢悠悠地补了一句。
逻辑要是真能闭环,老子李东的名字倒过来写。
……
平心而论,这事不能怪万斯博士不够顶尖。
要知道,今天这座展厅里,坐着全世界小半个ai产业的智商天花板。
可把这几百号人的纯数学功底统统加在一起,也未必够得上李东一个打的。
所以李东随随便便偷换一个高维流形的概念,或者把他那套降维算法上的微分算子拆下来,重新包装进ai的黑话语境里,听上去就格外自洽,格外有第一性原理的降维打击感。
什麽“指纹要扔进正确的正交基底”,什麽“强行让针从谱的尾巴跃迁到谱头”。
句句符合直觉,字字切中痛点。
可你真要拿着这几句话回实验室调参落实,烧上三个月a100就会发现一个朴素的事实……
针要是他妈的知道怎麽自主跃迁去谱头,它还能叫针吗?
这就好比一位物理宗师告诉你,实现常温超导的诀窍,是在电子撞击晶格之前,先给它规划一条没有电阻的绝对平滑轨。
听的时候,醍醐灌顶,以为找到了发《nature》的捷径。
跑的时候,loss爆炸,连显卡都得烧冒烟。
……
…。。本站若有图片广告属于第三方接入,非本站所为,广告内容与本站无关,不代表本站立场,请谨慎阅读。
Copyright © 2020 祭司书院 All Rights Reserved.kk