https://blog.floydhub.com/the-transformer-in-pytorch/
哈佛版本：http://nlp.seas.harvard.edu/2018/04/03/attention.html
https://pytorch.org/docs/1.3.0/_modules/torch/nn/modules/transformer.html
0、引言本文记录使用pytorch、huggingface/transformer框架工作流程，内容包括：数据读取数据预处理（splitshuffle）预训练模型下载和准备（预训练模型参数下载，模型对应Token及超参初始化）模型训练、验证…
我这里主要参考了：https://blog.csdn.net/yimingsilence/article/details/79631567并根据自己在安装中遇到的情况做了一些改动。先说明一下我的Ubuntu和GPU版本：Ubuntu16.0…
在理解CRF的时候费了一些功夫，将一些难以理解的地方稍微做了下标注，隔三差五看看加强记忆,代码是pytorch文档上的exampleimporttorchimporttorch.autogradasautogradimporttorch.n…
react-native-view-transformer解析一、组成结构：->library->transform->Rect.js->TransformUtils.js->ViewTransformer.j…
文章原创自：微信公众号「机器学习炼丹术」作者：炼丹兄联系方式：微信cyx645016617代码来自github【前言】：看代码的时候，也许会不理解VIT中各种组件的含义，但是这个文章的目的是了解其实现。在之后看论文的时候，可以做到心中有数，…
代码出处：https://github.com/aespresso/a_journey_into_math_of_ml/blob/master/04_transformer_tutorial_2nd_part/BERT_tutorial/m…
1、https://zhuanlan.zhihu.com/p/1078890112、https://zhuanlan.zhihu.com/p/1078919573、https://zhuanlan.zhihu.com/p/109003287
最近要使用faster-rcnn，DetNet-FPN以及Light-Head三种目标检测方案训练自己的数据集，并做一个比较。在GitHub上搜罗了一番，发现下面三个开源项目一脉相承，正合我意。期中DetNet_pytorch和pytorc…