A/B 測試

為什麼 routing 應該放在 model serving 的中心

Routing 應該是 model serving 的單一入口，因為它能加快模型迭代，也能把服務層變成產品能力的一部分。