1 绝对位置编码
- 训练式: BERT、GPT
- 三角式:
$$ \left{\begin{array}{l} \boldsymbol{p}{k, 2 i}=\sin \left(k / 1000...
Transformer位置编码
1350 views
分类标签归档：自然语言处理
相对位置编码-NAZHA
1178 views
正弦位置编码
2495 views
绝对位置编码-BERT
1150 views
- 参考苏剑林老师的bert4keras中的代码
from keras.layers import Layer
import keras.backend as K
from keras impo...keras基础教程
1216 views
1 基本概念
- 优先使用函数式API，而不是keras中其他风格的创建模型的方法
- 优先使用keras预定义的fit/fit_generator方法，而不是自定义训练流程
2 张量
张量（多维数...
word2vector-情感分析demo
2274 views
import numpy as np
import keras
import gensim
import json
from sklearn.model_selection import tr...word2vector-gensim工具包
1120 views
1 在gensim中，word2vec 相关的API都在包gensim.models.word2vec中。和算法有关的参数都在类gensim.models.word2vec.Word2Vec中。...
word2vector- 阅读笔记
1181 views
bert的理解-参数详细计算
881 views
考虑三种不同的embedding：
-
Token：tokenizer中一共涉及21128个字/词(vocab_size=21128)，参数量为21128∗768=16226304
-
Segm...
bert的理解(bert4keras)-分词
848 views
1 分词逻辑
from bert4keras.tokenizers import Tokenizer,load_vocab,save_vocab
dict_path = 'vocab...