AWS Machine Learning Blog· Aswath Ram A Srinivasan·· 1 天前AI 评分42
在 Amazon Bedrock 上用 NVIDIA NeMo Switchyard 为编码智能体请求路由模型
Route coding agent requests to the right model on Amazon Bedrock with NVIDIA NeMo Switchyard
AI 导读
NVIDIA NeMo Switchyard 是一个开源库，可让 AI 智能体为每个请求选择模型，其 LiteLLM 集成支持 Stage 和 Random 两种路由策略。
来源：AWS Machine Learning Blog · aws.amazon.com