← 返回列表

LLM 路由表:タスク別の最適モデル選択

2026/9/14

B 方向·OPC 最佳实践(AI cost 執行件)。opc-ai-cost-optimization の routing 原則を具体的なタスク×モデル選択表に落とす。

背景与问题

製品線の LLM タスクは多様(防诈判断/回忆录整理/见守会话/分诊/genealogy 追问)——タスク別にどのモデルを使うかの選択表。

发现(ルーティング表設計,综合 opc-ai-cost-optimization の数字+製品線マッピング)

タスク

モデルレベル

理由

推定コスト/回

LINE 分診の初回応答

軽量(GPT-4o-mini 級)

テンプレ回答中心、精度要求低

~$0.001

防诈「既知话术」判断

语义キャッシュ命中

话术库からの近似検索で判定

~$0(hit)

防诈「新话术」判断

重量(GPT-4o 級)

新パターンの判断は精度必須

~$0.05

見守電話の毎日確認

IVR(LLM なし)

固定フロー、LLM 不要

¥0

見守電話の AI 会話(週 2-3 回)

重量

自由会話は精度必須

~$0.50

思い出トークの追問

中量(GPT-4o-mini+时代 KB)

追問は中精度で足りる、時代 KB が精度補完

~$0.01

回忆录の章整理

重量

文章品質が製品価値そのもの

~$0.50

分诊のカテゴリ判定

軽量

分類タスク

~$0.001

診断・治療提案

禁止

薬機法/医療行為の壁

N/A

  • 原則:軽量デフォルト+重量ホワイトリストopc-ai-cost-optimization のルーティング原則を具体表化)+禁止タスクの明示

推测

  • 月間コスト試算(100 世帯規模):確認 IVR ¥0+AI 会話 $150+分診 $3+回忆录 $15 ≈ $170/月 ≈ ¥25,000/月——売上 ¥300,000/月 に対して COGS ~8%japan-voice-call-infrastructure の通話費と合算)。

结论

可行动启发:

  1. 路由表を倉庫化topics/_llm-routing.md)——新機能追加時にタスク行を追加、モデルレベルを決定。
  2. 「診断・治療提案」の禁止行は絶対に削除しない——薬機法(japan-yakkiho-marketing-compliance)とopc-ai-guardrails-elderly の三域拒答の実装面。
  3. COGS ~8% は健全indie-pricing-models の COGS 50-60% 上限に対して大幅余裕)——AI 会話の上限を月 12 回に制限しなくても成立。
  4. モデル更新で routing 表を季次見直し:軽量モデルの能力向上で「中量」タスクが「軽量」に降格する可能性——opc-ai-cost-optimization の「モデル更新で routing 表を見直す」を季次実行。

待办 / 下次继续

关联