本发明公开了一种岩土三轴试验柔性薄膜边界的离散元模拟方法，该方法采用六边形蜂窝结构布置的颗粒集合来代表柔性薄膜，颗粒之间采用线性粘结模型，上下加载板采用刚性墙体。该方法的突出优点包括：(1)薄膜颗粒能有效表征物理薄膜的弹性模量、泊松比和厚度等参数；(2)薄膜在试样加载过程中能自由变形，并能确保稳定而准确地传递静水围压；(3)加载过程中，试样的体积变形能被实时精确记录。本发明实施过程简单，适用于模拟砂土、堆石料等各类散体材料的常规三轴试验。实践表明：该方法能准确模拟散体材料在三轴试验过程中试样形态变化，应力应变关系和体积应变情况，能为散体材料的宏观参数测试和力学性能研究提供有力支撑。