本申请公开了一种大型语言模型的代码生成优化方法、装置、设备及介质，涉及计算机技术领域，该方法包括：生成当前代码片段的语义表示，并获取所述当前代码片段的错误信息；获取目标策略网络基于所述语义表示和所述错误信息输出的与所述当前代码片段对应的修复建议和调试策略；将所述修复建议和所述调试策略输入至目标错误消息生成模型，以得到所述目标错误消息生成模型输出的与所述当前代码片段对应的错误消息；利用所述当前代码片段、所述修复建议、所述调试策略以及所述错误消息对大型语言模型中与代码生成优化相关的参数进行更新，得到优化后大型语言模型。通过上述方案，能够提升大型语言模型的代码生成能力及其自动化代码调试能力。