-
GNN
...
-
Transformer
概述 sequence to sequence任务,目前主要依靠循环或卷积神经网络 通过encoder和decoder,和纯注意力完成翻译任务multi-headed attention 传统RNN无法并行,需要逐步计算每一步时序信息 使用卷积神经网络替换RNN,可以并行,但...
-
Diffusion Model 扩散模型
模型原理 每一时刻在输入数据中添加具有相同规律分布的噪声(如高斯分布) 噪声的含义: 标签 公式推导 $x_{t} = \sqrt{a_{t}}x_{t-1} + \sqrt{1-\alpha}z_{1}$ 衡量$t$时刻的数据与$...
-
VIM
光标移动 h ...
-
CNN总结
应用场景: 图像(二维矩阵数据)特征提取 概括 卷积核滑呀滑 核心参数 kernel size (卷积核大小=3x3):无论图像多大,parameters只取决于kernel size和fitter数量 paddle (填充大...
-
Hexo渲染LaTeX公式
Hexo渲染LaTeX公式 Hexo添加mathjax 如果hexo安装有hexo-math,需要先卸载它。卸载命令: 1 npm uninstall hexo-math --save 安装mathjax,安装命令: ...
Uncategorized 1 Published {{moment(1676818714000).fromNow()}} -
Attention原理介绍
概述 心理学 动物需要在复杂环境下有效关注值得注意的点 心理学框架:人类根据随意线索和不随意线索选择注意点 注意力机制 卷积、全连接、池化层都只考虑不随意的线索 注意力机制则显式的考虑随意线索 随意线索被称之为 查询query 每一个输入...
-
Makefile使用方法
...
-
LCM-VISSIM-U3D
LCM is a set of libraries and tools for message passing and data marshalling, targeted at real-time systems where high-bandwidth and low latency ar...
-
概率论复习1
概率分布函数: 概率分布函数是指定区间内随机事件(变量)发生(取值)的统计值分布规律的数学表示。即对于任意实数X,事件x在x<X范围内,每个点发生的概率分布函数可以表示为:F(x)=P(x<X),显然0<=F(x)<=1,在给定区间a<=x<=b上,概率...