《表2 是否包含预训练语言模型的错误率对比》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《用于文本分类的多探测任务语言模型微调》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

%

1)预训练语言模型的作用．比较了有预训练和没有预训练模型的效果，结果如表2所示．可见，预训练对于在小数量数据集TREC-6上的性能有很大提升．在实际的需求场景中，人工标注的成本十分昂贵，往往只有少量的标注样本，所以如何从少量的样本中学习到有用的信息是十分必要的．通过预训练可以达到这样的效果．同时，在数据量较为充足的数据集上性能也有一定的提升．证明本文的方法同样适用于大型数据集．