Megatron-LM

GPT-3的论文里就提了这种思路，Megatron-LM也把它用得挺狠。