大语言模型的预训练[4]：指示学习InstructionLearning：Entailment-oriented、PLMoriented、human-oriented详解以及和PromptLearning,In-contentLearning区别 1.指示学习的定义 InstructionLearning让模型对题目/描述式的指令进行学习。针对每个任务，单独生成指示，通过在若干个full-shot任务上进行微调，然后在具体的任务上进行评估泛化能力，其中预训练模型参数是可更新的。 指示学习和提示学习的目的都是去挖掘语言模型本身具备的知识。不同的是Prompt是激发语言模型的补全能力，例如根据上半...