LLM 路由表:タスク別の最適モデル選択
B 方向·OPC 最佳实践(AI cost 執行件)。opc-ai-cost-optimization の routing 原則を具体的なタスク×モデル選択表に落とす。
背景与问题
製品線の LLM タスクは多様(防诈判断/回忆录整理/见守会话/分诊/genealogy 追问)——タスク別にどのモデルを使うかの選択表。
发现(ルーティング表設計,综合 opc-ai-cost-optimization の数字+製品線マッピング)
タスク | モデルレベル | 理由 | 推定コスト/回 |
|---|---|---|---|
LINE 分診の初回応答 | 軽量(GPT-4o-mini 級) | テンプレ回答中心、精度要求低 | ~$0.001 |
防诈「既知话术」判断 | 语义キャッシュ命中 | 话术库からの近似検索で判定 | ~$0(hit) |
防诈「新话术」判断 | 重量(GPT-4o 級) | 新パターンの判断は精度必須 | ~$0.05 |
見守電話の毎日確認 | IVR(LLM なし) | 固定フロー、LLM 不要 | ¥0 |
見守電話の AI 会話(週 2-3 回) | 重量 | 自由会話は精度必須 | ~$0.50 |
思い出トークの追問 | 中量(GPT-4o-mini+时代 KB) | 追問は中精度で足りる、時代 KB が精度補完 | ~$0.01 |
回忆录の章整理 | 重量 | 文章品質が製品価値そのもの | ~$0.50 |
分诊のカテゴリ判定 | 軽量 | 分類タスク | ~$0.001 |
診断・治療提案 | 禁止 | 薬機法/医療行為の壁 | N/A |
- 原則:軽量デフォルト+重量ホワイトリスト(opc-ai-cost-optimization のルーティング原則を具体表化)+禁止タスクの明示。
推测
- 月間コスト試算(100 世帯規模):確認 IVR ¥0+AI 会話 $150+分診 $3+回忆录 $15 ≈ $170/月 ≈ ¥25,000/月——売上 ¥300,000/月 に対して COGS ~8%(japan-voice-call-infrastructure の通話費と合算)。
结论
可行动启发:
- 路由表を倉庫化(
topics/_llm-routing.md)——新機能追加時にタスク行を追加、モデルレベルを決定。 - 「診断・治療提案」の禁止行は絶対に削除しない——薬機法(japan-yakkiho-marketing-compliance)とopc-ai-guardrails-elderly の三域拒答の実装面。
- COGS ~8% は健全(indie-pricing-models の COGS 50-60% 上限に対して大幅余裕)——AI 会話の上限を月 12 回に制限しなくても成立。
- モデル更新で routing 表を季次見直し:軽量モデルの能力向上で「中量」タスクが「軽量」に降格する可能性——opc-ai-cost-optimization の「モデル更新で routing 表を見直す」を季次実行。