Transformer(上) 背景介绍
Transformer（上） 背景介绍论文地址：https://arxiv.org/pdf/1810.04805.pdf 一，Transformer相关背景 2018年1
阅读更多
BERT模型架构与详解
BERT1. 简介 全称BERT 全名为 Bidirectional Encoder Representations from Transformers，是 Google 以无监督的方式利用大量无标注文本训练的语言代表模型，
2021-07-21
TextCNN模型架构与详解
TextCNN
Yoon Kim在论文(2014 EMNLP) Convolutional Neural Networks for Sentence Classification提出TextCNN。将卷积神经网络CNN应用到文本分类任务，利
2021-07-21
python垃圾回收机制
python垃圾回收机制
引用计数器为主，标记清除和分代回收为辅+缓存机制
1. 引用计数器1.1环状双向链表 refchain
python中创建的任何对象都会加入到refchain链表中。
在c源码中如何体现每个对象中都有相同的值：P
2021-07-12
多模态-仇恨言论检测
2021-05-29
k-近邻算法
一. K近邻算法 K Nearest Neighbor算法又叫KNN算法，这个算法是机器学习里面一个比较经典的算法， 总体来说KNN算法是相对比较容易理解的算法
定义
如果一个样本在特征空间中的k个最相似(即特征空间中最邻
2021-05-24
反向传播与梯度更新问题总结
2021-05-24
Transformer（下）经典案例
Transformer（下）经典案例3.1 使用Transformer构建语言模型
学习目标
了解有关语言模型的知识.
掌握使用Transformer构建语言模型的实现过程.
什么是语言模型:
以一个符合语言规律的序列为输入，模型将利
2021-05-08
机器学习的主要任务
机器学习一，机器学习的任务
这里的任务主要指监督学习
分类任务
回归任务
多标签分类（更加前沿）
1.分类任务
二分类（垃圾邮件判断）
多分类（数字识别，图像识别，用户客户信用卡风险评级判断）
很多复杂的问题也可以转换成多分类
2021-05-02
Transformer（中）架构解析
Transformer（中）架构解析2.1 认识Transformer架构
学习目标
了解Transformer模型的作用.
了解Transformer总体架构图中各个组成部分的名称.
Transformer模型的作用
基于seq2se
2021-04-27
HMM与CRF经典序列模型
HMM与CRF认识HMM与CRF模型
HMM模型的输入和输出
HMM(Hidden Markov Model), 中文称作隐含马尔科夫模型, 因俄国数学家马尔可夫而得名. 它一般以文本序列数据为输入, 以该序列对应的隐含序列为输出.
2021-04-26