自分でもやってみて思ったんですけど、いくらモデルが優秀でも、与えられた事前知識がアホだと、アホな結果しか返すことができない。
モデルがブラックボックスなので、チューニングする要素が事前知識とプロンプトしか存在しない。モデルの中を書き換えることができない。自分で作れば別だけど、そんなの無理じゃん。
・・・だよね〜って思ったのがこれ。
ちなみに、AIエージェント事業立ち上げの秘伝のタレは、
— Takaya Shinozuka / 令和トラベルCEO (@shinojapan) 2025年6月25日
1:正確で完全なナレッジフォーマットをどう構築し、更新し続けるか
2:呼応するプロンプトエンジニアリングの品質をどう上げきるか
3:超高速な行動フィードバックサイクルの設計デザイン
知恵を絞りきった結果、この3つしかありません。
AIエージェントと言っても、ある特定の課題に深く食い込めるものを作らないと売れない。ある特定の課題を深堀りするのは、近似値が全ての生成AIと相性が良くない。近似値のしきい値を決めるのも難しい。
プログラミング自体は極めて単純化される。HTTPでリクエスト投げるだけのコードに差は出ない。差が出るのが、いわゆるRAGというもの。こいつの構築でみんな討ち死にしている印象がある。正解がないから。この事前知識を食わせればきっと最高の神託を賜ることができるのであるっていう仮説を立ててひたすら回していくしか、できることはない。MCPを立てればと言っても、それらをオーケストレーションするのは、それも大変。プロンプトという秘伝のタレの精度は、そこまで重要じゃない気がする。RAGのほうが重要度が高い、やってみた限りでは。
双方向のコミュニケーションで会話のコンテクストを高める系のプロダクト、ジャンルを絞った瞬間に、精度について絶対に文句言われると思う。レコメンドもベクトルDBでやったところで、近似値でレコメンドしてもリアクションあるかは全く別問題。マッチングアプリにちょっと関わって、それは感じた。
ただ、ブラックボックスを飼い慣らせるなら、それはすごい強みになると思う。そこの勝負に、いまの僕は手を出せる状況ではなかったのである。