第5回　生成AIに、どこまで任せてよいのか

分析プロセスの節目に、人の判断・検証を置く

前回までに、特許情報分析をいくつかの工程に分けて見る考え方を取り上げました。
たとえば、

課題・目的確認 → 分析設計 → 検索・母集団形成 → 公報確認・情報抽出 → 分類 → 集計・可視化 → 傾向・差異の読み取り → 解釈・仮説形成 → 報告・提案

という流れです。

生成AIを使う工程を考えるときも、まず分析業務全体を見て、使いどころを考えることが重要です。
ただし、AIを使う工程が決まっても、その工程をすべて任せればよいわけではありません。
考えておきたいのは、AIに処理を任せる前後で、人が何を担うかです。

AIに任せる前の人の役割

人の役割は、AIの出力を確認することだけではありません。 そもそも今回の分析で何を明らかにしたいのか。何を基準に評価するのか。どのような前提条件で分析するのか。

こうした目的・基準・前提を定めることも、人が担う重要な役割です。

そのうえで、AIにどの処理を任せ、どこで人が結果を確かめるのかを考えます。 つまり、

人が目的・基準を置く → AIが処理する → 人が検証・判断する

という流れで捉えると、役割が見えやすくなります。

AIに任せた後の人の役割 ～「検証」と「判断」

AIの出力後に人が行うことには、大きく二つあります。 一つは検証です。

たとえば検索・母集団形成であれば、必要な特許を捉えられているか、ノイズや漏れは許容できるかを確かめます。
分類であれば、設定した分類基準に沿っているか、判断が難しい案件がないかを見ます。

もう一つは判断です。 AIが複数の解釈や仮説を出したとき、

• 「今回の目的にとってどれが重要か」
• 「どの仮説を深掘りするか」
• 「追加調査に進むか」
• 「最終的に何を報告するか」

を決めることです。

結果が妥当かを確かめるのが検証、次に何をするかを決めるのが判断と考えると分かりやすいでしょう。

プロセスの節目に、人の確認を置く

生成AIを分析業務に組み込むときは、

AIが処理する → 人が検証・判断する → 次の処理へ進む

という節目を考えておくことが重要です。 たとえば

という流れです。

AIに複数の工程を任せるほど、前の工程で生じたずれが、そのまま後の工程に影響する可能性があります。

だからこそ、工程を任せることだけでなく、どの節目で人が確かめ、判断するのかまで設計しておく必要があります。

任せる範囲は、これからも変わる

もちろん、AIと人の役割分担は固定ではありません。

LLMの性能向上やAIエージェントの進化によって、複数の工程を連続してAIに任せられる範囲は、今後さらに広がる可能性があります。
そのため、「ここまではAI、ここからは人」と固定的に線を引くよりも、どこで、何を人が検証・判断する必要があるかを見直せる形にしておくことが大切です。

生成AIにどこまで任せるかを考えるときには、

この一連の流れで考えてみてください。

AIに任せる工程を決めるだけでなく、人の判断・検証を置く節目を決める。

これが、生成AIを分析プロセスに組み込むときの一つの考え方です。

▶ 次回は

目的や基準を決めても、それを生成AIに十分伝えなければ、期待する支援は得られません。
次回は、生成AIに「どう聞くか」だけでなく、「何を与えるか」を考えます。