横模不稳定(transverse mode instability, TMI)是近年来限制光纤激光器平均功率提升的主要因素，其原理如图1所示。在大模场面积光纤中，基模与高阶模式叠加(图1(a))，形成光强准周期变化的模间干涉图样。信号光越强，对上能级粒子的消耗越大，导致其密度越低，在纤芯中的分布情况与模间干涉图样相反(图1(b))。受激辐射强度与信号光强和反转粒子数密度均有关，呈现先增大后减小的趋势和准周期性的波动，而热负载与受激辐射强度呈正相关，使得温度呈现相似的变化(图1(c))，在热光效应的作用下引发折射率的准周期性改变，形成折射率光栅。
当模间干涉图样和折射率光栅之间的相位存在错位时，基模和高阶模式将通过折射率光栅耦合，产生能量传递，在自然情况下，基模与高阶模式之间的模间色散使得干涉图样动态向前传播，由于温度变化相对干涉图样存在滞后，干涉图样的传播速度大于温度变化，导致相位差在-π至π之间不断变化，能量在基模与高阶模式之间快速振荡，引发光束的抖动，这就是TMI现象。
图1 TMI原理[1]
优化光纤结构、调制泵浦和盘绕光纤等可以抑制TMI。2023年，德国耶拿课题组提出了一种新方法，原理如图2所示。由于快轴和慢轴上的各模式的群速度均不同，基模和高阶模式形成的模间干涉图样的周期也不同，当输入光的偏振方向在两轴之间的时候，快慢轴各自形成的干涉图样将出现周期性的干涉相消。因为反转粒子数密度分布和信号光强呈反比，模间干涉图样的周期性相消就反应到反转粒子数密度分布上，进而影响到热致折射率光栅的形成，使光栅周期性消失，从而抑制TMI效应。经模拟可得，在其他参数均相同的情况下，入射光偏振方向沿45度时的TMI阈值比沿快轴和慢轴入射都高。
图2 基于模间双折射抑制TMI [2]
实验装置如图3所示：中心波长为1030 nm、平均功率为5 W的连续光，经半波片改变偏振角度后入射到纤芯直径为40 μm的大模场直径光纤中，光纤盘绕直径为28 cm，采用水冷散热和反向泵浦，泵浦光最高输出功率为800 W。
图3 实验装置示意图[2]
图4为TMI阈值与入射光偏振方向的关系，在0度（慢轴）入射时TMI阈值为160 W，50度入射时达到最大值350 W，90度（快轴）入射时变为210 W。50度入射时的TMI阈值快轴和慢轴入射时的TMI阈值均低于50度入射时的阈值，证明理论和实验相符，模间双折射可以用于抑制TMI效应。
图4 TMI阈值与入射光偏振方向的关系[2]
当输出功率为285 W时，输出功率的抖动、频谱和波形与入射光偏振方向的关系如图5所示。图5(a)中的蓝点代表不同时刻采样得到的功率的标准差，采样时间为0.5 ms，白点为所有标准差的平均值；图5(b)为输出功率的频谱，根据频谱可将系统分为稳态、过渡态和混沌态三种状态；图5(c)为输出功率在时域上的波形，在三种状态下呈现出不同的特点。在0度和10度入射时，标准差散布最宽，在频域上较为连续，时域波形无规律变化，说明系统进入混沌态；在15度到45度之间，标准差的散布宽度变窄，在频域上存在多个分离的峰，时域波形周期性变化，说明系统处在过渡态；50到60度时，标准差基本不变，输出功率在频域上没有高频量，时域波形较为稳定，说明系统位于稳态；在60到90度之间，系统又变为过渡态，但在90度时没有进入混沌态。
图5 输出功率的抖动(a)、频谱(b)和波形(c)与入射光偏振方向的关系[2]
图6展示了利用高速相机分析输出模式的结果。图6(a, b)为当慢轴输入时，慢轴和快轴的输出模式在TMI阈值以的变化情况。此时的偏振消光比约13 dB，尽管快轴的输出功率较弱（小于10W），却仍展现出快速的抖动。图6(c, d)为TMI阈值以上，50度偏振输入时的结果，快轴和慢轴中基模和高阶模式的变化是同步的。以上结果说明快轴和慢轴的折射率光栅可以影响对方的模式抖动，或者说，它们共用一套折射率光栅。
图6 慢轴和50度入射时TMI效应对模式的影响[2]
总之，德国耶拿课题组利用模间双折射来抑制TMI，将快轴和慢轴的模式不稳定阈值由原本的210 W 和160 W提升至350 W。模间双折射抑制TMI属于被动方法，具有广泛的适用性，可大大提升光纤激光的平均功率，适用于使用保偏增益光纤的场合。
References:
[1] C. Jauregui, C. Stihler, and J. Limpert, "Transverse mode instability," Adv. Opt. Photon. 12, 429-484 (2020).
[2] G. Palma-Vega, C. Jáuregui, D. Hässner, F. Möller, S. Kuhn, J. Nold, A. Tünnermann, J. Limpert, N. Haarlammert, and T. Schreiber, "Mitigation of transverse mode instability by modal birefringence in polarization-maintaining fibers," Opt. Express 31, 41301-41312 (2023).
