批量預測

BML在線服務中，同一API服務支持同時部署兩個模型上線，并且可以自由的調節流量分配占比， 便于用戶在調試之后根據效果選擇更合適的模型上線使用。

BML平臺的在線服務支持休眠策略，用戶可以將閑時設置為休眠時間，從而減少不必要的支出。