并行退火，也被称为复制交换MCMC抽样，是一种旨在改善蒙特卡罗方法模拟物理系统动态特性的模拟方法，以及使得马尔可夫链蒙特卡罗 (MCMC)抽样方法更为普遍。 复制交换方法最初是由斯文森和王设计的 [1]，然后由盖尔扩展[2]，后来由胡库史玛Hukushima和内莫托Nemoto开发,[3] 乔治·帕里西,[4][5] 杉田和冈本制定了一个并行退火的分子动力学版本:[6] 这通常被称为复制交换分子动力学或REMD。
基本上，在不同温度下运行 N 个系统的副本并随机初始化。然后，基于Hastings标准 ，在不同的温度下交换配置。这种方法的想法是使高温下的配置可用于低温模拟，反之亦然。这产生了一个非常稳健的整体，其能够对低能量和高能量配置进行采样。通过这种方式，可以非常精确地计算出热力学特性，例如比热，这通常在规范集合中不能很好地计算出来。
通常，使用 Metropolis-Hastings 算法更新的蒙特卡罗模拟由单个随机过程组成，该过程评估系统的能量并基于温度T 接受/拒绝更新。在高温下，改变系统能量的更新相对更有可能。当系统高度相关时，更新会被拒绝，并且模拟会受到严重的减速影响。
如果我们在由ΔT 分隔的温度下运行两次模拟，我们会发现如果ΔT 足够小，那么通过在一组蒙特卡罗步骤N上收集能量而获得的能量直方图将产生两个稍微重叠的分布。重叠可以由直方图面积来定义，该面积落入相同能量值区间上，由样本总数归一化。对于ΔT=0重叠应接近1。
解释这种重叠的另一种方法是，在温度T1下采样的系统配置可能会在T2的模拟中出现。因为马尔可夫链应该没有过去的记忆，我们可以为 T1 和 T2 的两个系统组成的系统创建一个新的更新。在给定的蒙特卡罗步骤中，我们可以通过交换两个系统的配置或者交换两个温度来更新全局系统。这个更新被接受，是根据Metropolis-Hastings标准概率
否则更新被拒绝。必须通过确保反向更新必须具有相同的可能性以及其他条件相同来满足详细的平衡条件。这可以通过适当选择常规蒙特卡罗更新或并行退火更新来确保，其概率与两个系统或蒙特卡罗步骤的配置无关。[7]
这种更新可以推广到两个以上的系统。
通过仔细选择温度和系统数量，可以提高一组蒙特卡罗模拟的混合性能，这超过了运行并行模拟的额外计算成本。
需要考虑的其他因素:增加不同温度的数量可能会产生不利影响，因为我们可以将给定系统在不同温度下的“横向”移动视为扩散过程。设置很重要，因为必须有一个实际的直方图重叠才能获得合理的横向移动概率。
并行退火法可用作不需要重启的超级模拟退火，因为高温下的系统可以在低温下向系统提供新的局部优化器，允许在亚稳态之间的隧穿并改善收敛到全局最优。
^Swendsen RH and Wang JS (1986) Replica Monte Carlo simulation of spin glasses Physical Review Letters 57 : 2607–2609.
^C. J. Geyer, (1991) in Computing Science and Statistics, Proceedings of the 23rd Symposium on the Interface, American Statistical Association, New York, p. 156..
^Hukushima, Koji & Nemoto, Koji (1996). "Exchange Monte Carlo method and application to spin glass simulations". J. Phys. Soc. Jpn. 65 (6): 1604–1608. arXiv:cond-mat/9512035. doi:10.1143/JPSJ.65.1604..
^Marco Falcioni & Michael W. Deem (1999). "A Biased Monte Carlo Scheme for Zeolite Structure Solution". J. Chem. Phys. 110 (3): 1754. arXiv:cond-mat/9809085. Bibcode:1999JChPh.110.1754F. doi:10.1063/1.477812..
^David J. Earl and Michael W. Deem (2005) "Parallel tempering: Theory, applications, and new perspectives", Phys. Chem. Chem. Phys., 7, 3910.
^Y. Sugita & Y. Okamoto (1999). "Replica-exchange molecular dynamics method for protein folding". Chemical Physics Letters. 314 (1–2): 141–151. Bibcode:1999CPL...314..141S. doi:10.1016/S0009-2614(99)01123-9..
^Radford M. Neal (1996). "Sampling from multimodal distributions using tempered transitions". Statistics and Computing. 6 (4): 353–366. doi:10.1007/BF00143556..
暂无