Transformers实战——使用Trainer类训练和评估自己的数据和模型
2022-04-06
有时候我们并不想使用Transformers来训练别人的预训练模型,而是想用来训练自己的模型,并且不想写训练过程代码。这时,我们可以按照一定的要求定义数据集和模型,就可以使用Trainer类来直接训练和评估模型,不需要写那些训练步骤了。
575 字
|
3 分钟
Transformers实战——使用本地数据进行AclImdb情感分类
2022-04-01
本文使用 https://huggingface.co/models 中的bert-base-uncased预训练模型和aclImdb数据集进行实战。
1485 字
|
7 分钟
Transformers训练和微调:Training and Fine-tuning
2022-03-28
Transformers种的模型类旨在兼容Pytorch和Tensorflow2,并且可以无缝地在其中使用。本节,会展示如何使用标准的训练工具从头开始训练或微调一个模型。此外,也会展示如何使用Trainer()类来处理复杂的训练过程。
1959 字
|
10 分钟
Transformers数据预处理:Preprocessing data
2022-03-02
在transformers中,数据处理的主要工具是文本标记器tokenizer。我们可以使用模型对应的文本标记器类型,也可以直接使用AutoTokenizer自动分类。
2817 字
|
14 分钟
网络退化现象和残差网络效果
2022-01-19
最近在网上看见了一个用神经网络实现“一个字符串的所有字母用它的后继字母代替(比如,a用b代替,b用c代替)”功能的代码。看见里面加了一个残差网络,就去看了一下残差网络的相关概念。如下这篇文章:
1122 字
|
6 分钟