循环这个过程，直到达到词表的大小要求即可。 PLM：对其他NLP任务具有强大可移植性的语言模型。word2vec是第一个PLM，如今的PLM都是基于Transformer的模型。 受Transformer在不同NLP任务中的成功启发，GPT是第一个基于Transformer预训练PLM的工作； 在自然语言处理领域 ...