公开(公告)号：CN118114743B

公开(公告)日：2024-09-13

申请号：CN202410536960.3

申请日：2024-04-29

申请人： 支付宝(杭州)信息技术有限公司

发明人： 王俊杰 ,  胡森 ,  张阳 ,  汪亲 ,  张望舒 ,  许腾

IPC分类号： G06N3/09 ,  G06N3/045 ,  G06N5/04 ,  G06F40/30 ,  G16H50/20

摘要： 本申请涉及人工智能技术领域，具体提供了一种医疗模型预训练的方法、装置、电子设备及存储介质。一种医疗模型预训练的方法，包括针对各预训练文本的医疗实体信息，对各预训练文本分别进行采样，获得各预训练文本分别对应的采样片段集合；采样片段集合中采样片段中至少包含医疗实体信息；对各预训练文本中的采样片段分别进行掩码处理，获得相应的损坏文本；通过文本预测通用模型，根据各损坏文本及其分别对应的采样片段集合进行文本预测，获得相应的文本预测结果；根据各预训练文本及文本预测结果，进行参数调整，直至获得训练好的医疗预训练模型。这样，提高了医疗预训练模型在医疗领域中的语义理解能力以及逻辑处理能力。

公开(公告)号：CN118114743A

公开(公告)日：2024-05-31

申请号：CN202410536960.3

申请日：2024-04-29

申请人： 支付宝(杭州)信息技术有限公司

发明人： 王俊杰 ,  胡森 ,  张阳 ,  汪亲 ,  张望舒 ,  许腾

IPC分类号： G06N3/09 ,  G06N3/045 ,  G06N5/04 ,  G06F40/30 ,  G16H50/20

摘要： 本申请涉及人工智能技术领域，具体提供了一种医疗模型预训练的方法、装置、电子设备及存储介质。一种医疗模型预训练的方法，包括针对各预训练文本的医疗实体信息，对各预训练文本分别进行采样，获得各预训练文本分别对应的采样片段集合；采样片段集合中采样片段中至少包含医疗实体信息；对各预训练文本中的采样片段分别进行掩码处理，获得相应的损坏文本；通过文本预测通用模型，根据各损坏文本及其分别对应的采样片段集合进行文本预测，获得相应的文本预测结果；根据各预训练文本及文本预测结果，进行参数调整，直至获得训练好的医疗预训练模型。这样，提高了医疗预训练模型在医疗领域中的语义理解能力以及逻辑处理能力。

公开(公告)号：CN116932716A

公开(公告)日：2023-10-24

申请号：CN202310835514.8

申请日：2023-07-07

申请人： 支付宝(杭州)信息技术有限公司

发明人： 杨昌林 ,  汪亲 ,  张望舒 ,  胡森 ,  许腾

IPC分类号： G06F16/332 ,  G06F16/35 ,  G06F18/24 ,  G06F18/214 ,  G06F16/9032

摘要： 本说明书实施例提供一种答案生成方法、装置、设备与存储介质，该方法包括：通过获取问题数据和问题数据对应的对话数据，确认问题数据对应的问题特征编码数据和对话数据对应的对话特征编码数据，基于问题特征编码数据和对话特征编码数据，确认问题数据的答案分类结果、单跨度答案预测结果和多跨度答案预测结果，答案分类结果包括无答案、单跨度答案或多跨度答案中的任一种，基于答案分类结果、单跨度答案预测结果和多跨度答案预测结果，确认问题数据的答案。