Ntk | search
Click here to view Ntk news from 60+ newspapers.
Bookmark or Share- 费雪信息 (Fisher information) 的直观意义是什么？ - 知乎笼统来说，Fisher信息量就是信息多少的度量; 最近对Information Geometry（信息几何）感兴趣，经典信息几何理论将概率密度函数全体看做统计流形，用Fisher information matrix定义统计流形上的黎曼度量，在此基础上构建了黎曼流形。
- 300NTK-281主演是谁？急？ - 知乎300NTK-281主演是谁？急？ - 知乎 ... 求全名
- 十分钟读懂旋转编码（RoPE） - 知乎其中 RoFormer 是一个绝对位置编码替换为 RoPE 的WoBERT模型，后面的参数（512）是微调时截断的maxlen，可以看到 RoPE 确实能较好地处理长文本语义。
- 再论大模型位置编码及其外推性（万字长文） - 知乎NTK-Aware Scaled RoPE非线性内插，是对base进行修改（base变成 ）。 NTK-Aware Scaled RoPE在 不微调的情况下，就能取得不错的外推效果 。 （训练2048长度的文本，就能在较低PPL情况下，外推8k左右的长文本）
- 300ntk-067主演是谁？急求。？ - 知乎知乎，中文互联网高质量的问答社区和创作者聚集的原创内容平台，于 2011 年 1 月正式上线，以「让人们更好的分享知识、经验和见解，找到自己的解答」为品牌使命。知乎凭借认真、专业、友善的社区氛围、独特的产品机制以及结构化和易获得的优质内容，聚集了中文互联网科技、商业、影视 ...
More
