本发明提供一种基于NbN约瑟夫森结的超导量子比特结构及其制备方法，该超导量子比特结构包括衬底、缓冲层、功能层、隔离层、第一配线部及第二配线部，其中，缓冲层位于衬底的上表面，功能层位于缓冲层的上表面且包括间隔设置的电容器、第一约瑟夫森结、第二约瑟夫森结及谐振器，隔离层填充功能层中的间隙并覆盖功能层的显露表面及衬底的上表面，且隔离层中设有第一接触孔及第二接触孔，第一配线部填充于第一接触孔并与第一约瑟夫森结的上表面接触，第二配线部填充于第二接触孔并与第二约瑟夫森结的上表面接触。本发明通过采用高阻率的硅作为衬底、绝缘性的TaN膜作为约瑟夫森结的结区，减少了衬底中电荷涨落，增强了超导量子比特的相干性。