ReLU 专家路由计算

跟踪一个 Token 的四个专家。分数和输出是给定的算术示例，可直接修改路由分数。

G = max(0, h)。门值直接加权专家输出。路由分数保持给定值，λ 用于计算正则损失。