Python,自然语言处理,rnns,大规模预训练语言模型,Test time adaptation,domain adaptation,adversarial training,鲁棒性,efficient fine tuning。
基于Bert的中文文本分类
python爬虫爬取政府公文
利用Data selection进行领域迁移
test time adaptation和adversarial training结合的QA以及NER
在QA和NER任务上,以预训练语言模型为基准模型,分析经典的Test time adaptation算法的不足之处,并提出解决方案以及新的方法,是Test time adaptation适配预训练语言模型,从而将其迁移到自然语言处理领域中。
使用BERT进行中文文本的分类任务,其中中文文本的训练数据来自于中国软件杯大赛,使用efficient finetuning的一些方法等。