本发明涉及一种基于强化学习算法和GAN模型的用户软件行为模拟系统及其工作方法，该模拟系统包括软件间操作序列收集与提取模块、用户软件内操作序列模拟模块和用户软件间行为模拟模块，软件间操作序列收集与提取模块用于收集软件间原始操作数据，对数据进行过滤和去重，再对数据进行结构化处理，生成结构化数据集；用户软件内操作序列模拟模块利用强化学习算法模拟软件内操作序列，生成用户软件内完整操作序列；基于软件间操作序列收集与提取模块得到的结构化数据集，用户软件间行为模拟模块利用用GAN网络模拟用户软件间的行为。该方法可以生成某些特定的功能序列，并且转化为真实操作序列实现软件内和软件间的用户行为模拟。