本发明提出一种自然合理的多语言预训练模型生成语言约束方法，包括，获取不同语言的单语言词表；将所述单语言词表与多语言预训练模型的内置词表相融合，得到融合词表集；获取提示文本与生成时所需的语言；调用所述融合词表集中所需的语言对应的融合词表进行生成，输出生成的结果。通过本发明提出的方法，既防止了生成结果中出现不自然的多语言夹杂情况，又能够保留合理借用的其他语言专有词汇，不干扰模型在正常情况下的生成结果，从而使多语言模型在限定回答使用的语言的情况下也能生成自然合理的文本。