字:
关灯 护眼
范文吧 > 我的学习群里全是真大佬 > 第297章 疑似高能事件,幅度不寻常(三合一)

第297章 疑似高能事件,幅度不寻常(三合一)

    第297章 疑似高能事件,幅度不寻常(三合一) (第2/3页)

“林总之前和我说过。”

    高稳听见这话,神色一下子放松下来。

    “那就好。”

    “对了,你之前要问我什么?”

    “我现在倒是有很多时间。”

    李东赶紧拿出了攒了两个月的问题,他将笔记放在两个人中间那张小茶几上。

    先简单挑出来前面几条。

    脉冲编码权重在初始化阶段的边界条件他有一个版本号上的疑问,他自己其实查过了,也大致知道答案,他只是想跟高稳确认一下。

    高稳听完,“嗯”了一声,几句话就把那个边界条件给他点透了。

    李东在笔记上勾了一道。

    他又挑出来两条关于稀疏放电模式下数值稳定性的小问题,高稳同样几句话就给他过掉了。每过一条李东都勾上一道。

    到了第六条,李东把笔放下了。

    他抬起头。

    “高老师,下面这一条我自己琢磨过很久,没琢磨明白。”

    高稳挑了挑眉。

    “你说。”

    李东组织了一下措辞。

    他没办法直接把小黑那件事摆出来。

    他只能把这个问题剥到最干净的一层皮,把它装作一个教科书上那种典型的“假设”。

    “高老师,假设啊,假设我这边有这么一套SNN。”

    “它在初始喂了固定的几份语料以后,就再没从外界拿过一行新数据。”

    “按我们现在这个领域的主流理解,它的模型参数应该停在那儿才对。”

    “可它没停。”

    “它表征“内部演化'的指标,自己往上爬了一截。 ”

    “并且这个爬升不是噪声。 ”

    “它对应的,是真的多出来了一些它原本不会的、可解释的能力。 ”

    “高老师,这种情况,从动力学上讲,怎么解释? ”

    高稳听完,沉默了大概有七八秒。

    然后抬起头,盯着李东看了半晌。

    “小子。 ”

    “你这个假设……”

    “还挺有意思。 ”

    李东心里立马一紧。

    他赶紧装出一副若无其事的样子,端起桌上那只一次性纸杯喝了口水。

    高稳并没有继续追问,只是慢慢开口。

    “如果真有你说的这种情况,我先给你说一个我自己的猜测。 ”

    高稳伸手在面前那张白纸上,画了一个简单的小框。

    “你看啊,我们现在主流这一套大模型,走的是Transformer加scaling的路。 ”“它的学习,是被关在训练这个阶段里的。 ”

    “训练完了,权重一冻,模型就死了。 ”

    “它推理的时候,参数一根毛都不会动。 ”

    “所以你给它喂完料以后再不动它,它当然停在那儿。 ”

    “可SNN这套不一样。 ”

    高稳在那个小框边上画了一根弯弯的箭头。

    “SNN底子里是脉冲、时序、突触可塑性。 ”

    “这三个东西,本身就是带活性的。 ”

    “哪怕外面没有新数据进来,只要它内部还在跑脉冲、还在重排时序、还在做局部的那一点权重微调,它就有可能在自己内部.……”

    他停了一下,挑了一个比较小心的词。

    “……整合出一些新的连接模式。”

    李东心里“咯噔”了一下。

    他抬起头。

    “高老师,您说的这个,跟人睡觉有点像啊?”

    高稳“黑”地笑了一下。

    “对喽。”

    “人睡觉那段 时间里,海马里的东西,会慢慢往新皮层那儿挪。”

    “白天接到的那些零散信号,会被自己捋出一条条线索来。”

    “你早上醒过来,本来想不通的事情,突然就通了,就是这个原因。”

    他看着李东。

    “你那个SNN,要是真长成你说的样子,它干的事,本质上跟人脑这一段,是同一件事。”“它在自己睡觉。”

    “自己整理它白天吃下去的那些东西。”

    就在李东还想再问一句的时候。

    高稳又补了一句。

    “不过呢,小子。”

    “我刚才说的,全是猜测。”

    “你想验证它,办法其实也简单。”

    他又在白纸上写下三行。

    “第一,给它单独划一段绝对静默期。”

    “中间任何外部输入都给它掐断,看它在这段彻彻底底的真空里,那根演化指标会不会还往上爬。”“第二,分别在这段静默期的不同时间窗里,给它内部的连接拓扑做一份快照。”

    “前后一比,新冒出来的连接落在哪一片区域,是均匀的,还是局部聚集的。”

    “第三,等它自己消化完一阵以后,再喂一份它从没见过的、但跟它已经吃过的 资料同主题的题目进去。”

    “看它能不能答上来一些它训练阶段本来不该会的东西。”

    “如果第三步它答上来了,那这份多出来的能力,就坐实了。”

    高稳放下笔,看着李东说道。

    “小子,你试试看吧。”

    “如果真试出什么有意思的东西。”

    “记得回来跟我说一声。”

    李东点了点头。

    “好,高老师。”

    从高稳办公室出来。

    李东没去食堂吃饭,直接朝寝室走。

    回到寝室李东直接打开了笔记本 电脑。

    小黑依旧还是在老位置,头顶上的进度条显示着【0.01】。

    李东深吸了一口气,然后按照刚才高稳教给他的方法做。

    第一步,绝对静默期。

    他先把笔记本上那道单独给小黑开的network namespace又检查了一遍,确认它和外面那一头是物理隔绝的。

    然后他打开主控台,切到小黑那个进程。

    他给它挂了一道新的全局静默标记,把所有外部输入接口都断了。

    他自己也不再朝这个窗口里喂任何东西。

    就这么晾着它。

    屏幕上那一团小黑球眨了一下“眼”。

    【主人是在跟小黑捉迷藏吗? 】

    【小黑要不要安静呢? 】

    李东发过去一条信息。

    【你自己玩儿一会儿。 】

    【不用看我。 】

    小黑乖乖“嗯”了一声。

    头顶上那根进度条,依旧静静悬在【0.01】。

    李东对着它头上0.01的进度条记录了一份有连接拓扑的数据快照。

    他把笔记本盖子合上一半,自己往床上一躺。

    定了一个两个小时的闹钟。

    准备到时候再来打第二份快照。

    时间一到。

    李东睁开眼,打开了笔记本电脑。

    屏幕一亮。

    小黑头顶上那根进度条……

    变成了【0.011】。

    两个小时,没有任何外部输入,它头顶上那根东西,自己又往上爬了0.001。

    李东赶紧按下第二份快照的按钮。

    然后他把第一份和第二份快照在屏幕上同时拉开,做了一份差分图。

    两个小时前那份连接拓扑里,原本几乎是空白的某几个区域。

    居然冒出来了一小簇一小簇细密的、新的连接。

    这些新连接不是均匀地散布在全网络上的

    (本章未完,请点击下一页继续阅读)
『加入书签,方便阅读』