Life is Really Short, Have Your Life!!

ござ先輩の主に技術的なメモ

生成AIベースのプロダクト、下準備が9割

自分でもやってみて思ったんですけど、いくらモデルが優秀でも、与えられた事前知識がアホだと、アホな結果しか返すことができない。

モデルがブラックボックスなので、チューニングする要素が事前知識とプロンプトしか存在しない。モデルの中を書き換えることができない。自分で作れば別だけど、そんなの無理じゃん。

・・・だよね〜って思ったのがこれ。

AIエージェントと言っても、ある特定の課題に深く食い込めるものを作らないと売れない。ある特定の課題を深堀りするのは、近似値が全ての生成AIと相性が良くない。近似値のしきい値を決めるのも難しい。

プログラミング自体は極めて単純化される。HTTPでリクエスト投げるだけのコードに差は出ない。差が出るのが、いわゆるRAGというもの。こいつの構築でみんな討ち死にしている印象がある。正解がないから。この事前知識を食わせればきっと最高の神託を賜ることができるのであるっていう仮説を立ててひたすら回していくしか、できることはない。MCPを立てればと言っても、それらをオーケストレーションするのは、それも大変。プロンプトという秘伝のタレの精度は、そこまで重要じゃない気がする。RAGのほうが重要度が高い、やってみた限りでは。

双方向のコミュニケーションで会話のコンテクストを高める系のプロダクト、ジャンルを絞った瞬間に、精度について絶対に文句言われると思う。レコメンドもベクトルDBでやったところで、近似値でレコメンドしてもリアクションあるかは全く別問題。マッチングアプリにちょっと関わって、それは感じた。

ただ、ブラックボックスを飼い慣らせるなら、それはすごい強みになると思う。そこの勝負に、いまの僕は手を出せる状況ではなかったのである。