《表3 超参数设置：基于特征提取的恶意软件行为及能力分析方法研究》

  提示：宽带有限、当前游客访问压缩模式

本系列图表出处文件名：随高清版一同展现

《基于特征提取的恶意软件行为及能力分析方法研究》

1. 获取 高清版本忘记账户？点击这里登录

1. 下载图表忘记账户？点击这里登录

实验参数设置为：预训练模型采用12层transformer，隐藏尺寸为768，采用网络安全相关语料进一步训练80000步。对于微调过程采用Adam优化器，模型训练过程中采用Dropout策略随机丢失神经元和神经连结以防止过拟合问题。实验中采取的超参数设置如表3所示。