本申请公开了用于生成自然语言模型的方法和装置，涉及人工智能技术领域。具体实现方案为：基于目标任务，确定教师任务，其中，目标任务用于预测文本与细粒度分类结果的对应关系，教师任务用于预测文本与粗粒度分类结果的对应关系；构建自然语言模型，其中，自然语言模型包括用于训练目标任务的目标任务模型和用于训练教师任务的教师任务模型；利用预设的文本训练样本集合训练自然语言模型，以使目标任务模型和教师任务模型交互学习，其中，文本训练样本包括标注有细粒度分类结果的文本样本。该实现方式使得训练得到自然语言模型的对细粒度分类结果预测更加准确，提高了生成的自然语言模型的预测性能。