Untitled

20261013

13 min read

オントロジー！

  • オントロジーをAIの判断過程の透明化に使う、という発想が面白かった -以下、 参考より：
機械学習との融合

近年のディープラーニングはブラックボックス化しがちだ。「説明可能AI(XAI)」の文脈で、オントロジーが再注目されている。AIの判断過程をオントロジーに基づく概念関係として可視化できれば、透明性と信頼性が高まる。

医療診断AIが「この画像から肺炎と判断した」とき、その根拠を「肺下部の不透明領域」「特定パターンの肺炎症状との一致」といったオントロジー的概念で説明できれば、医師は判断を評価しやすくなる。

2023年に発表された研究では、放射線画像診断AIにオントロジーを組み込むことで、説明可能性が40%以上向上したと報告されている。「黒箱」から「透明な推論過程」へ—これがオントロジーの貢献だ。
  • 他に、同じ記事より
    • 構築コスト、異なるオントロジー間のマッピング、社会的バイアスの混入などは大きな未解決問題
      • 例えば、男性女性と性別を分けるとそれにより新発想が阻害されるかも？
    • オントロジーを構築するにあたり、実在と空想の境界はどこか？
    • あるいは、大規模言語モデルが内部的に構築している「暗黙のオントロジー」を可視化する手法など、AIが自律的に形成する概念体系が、人間の想定と異なる場合、どう折り合いをつけるのかという哲学的問題も
      • 人間とAIの共存という実践的課題でもある
  • いくつか記事を読んだが
    • これは入門としてわかりやすい
    • 積み上げで解説してくれるので
  • LLMの判断基準として、LLMの推論による判断と、データモデルによる決定的な判断という、二つの判断軸があるらしい
    • RAGやスキルで制約をかけることも行われてきたが、テキストベースの制約では、複数の文書にまたがる関係や制約までは保証しにくいという課題がある
    • そこで、オントロジーとして定義する最大の価値は、「そのルールを機械的に検証・追跡できるデータとして永続化できること」 

考えたこと

  • オントロジーは分かったとして、それをどう研究に活かす？
  • AIエージェントに何を求めている？
    • 説明責任か？追及可能性か？
  • 「知識の更新が困難：学習済みモデルを再学習しない限り、新しい情報を反映できない。」（この記事より）とか言うが、オントロジー（RDFだっけ？）は新しい関係を発見できるはず。これをフィードバックループ的に活かせないか→（あるっぽい、「更新性：部分的な知識の追加・修正が容易。」）

RQとしてどう活かす？

（というかもっと粒度は大きい問いだが）

  • AIエージェントの振る舞いから「誰か」のみならず「何のために」かを知ることはできないか？
    • 振る舞いとは何か？：どこで何を観測するかで異なる。HTTPリクエスト？API呼び出し？AIエージェントのプロンプトに基づいた実行計画？
    • 「何のために」は誰の目的か？：ユーザがエージェントに頼んだタスク？それともそのタスクを達成するための個別のリクエスト？
    • 知る、とは何か？：振る舞いから統計的に推定する（行動分析・分類）？宣言された目的を検証する（宣言と実際の行動の整合性をチェック）？、それとも目的を偽れない形で伝える仕組みを作る（プロトコル設計）？
  • なお、AIによると
研究として面白い反面、注意すべき点が二つあります。一つ目は**正解データの問題**です。分類研究をするなら目的のラベル付きデータが必要ですが、現実のトラフィックでは真の目的は分かりません。自分でエージェントを動かして作ったデータセットで評価するのか、実トラフィックを使うのかを早めに考えておく必要があります。

二つ目は**敵対性**です。目的は偽装できますし、同じ行動列が別の目的から生まれることもあります（予約のための閲覧と、価格スクレイピングのための閲覧は似て見える）。「どこまで識別できるか／どこからは原理的に無理か」という限界を示すこと自体が、貢献になり得ます。
  • RQを分解してみると、例えば
    • 推定：Web Bot Authで身元が検証されたエージェントについて、HTTPリクエスト系列の特徴から、利用目的（学習用クロール／検索インデックス／ユーザー代行操作／RAG用取得等々）をどの程度の精度で識別できるか。
    • 整合性：エージェントが宣言した目的（robots.txt、AI利用に関する選好シグナル、User-Agentなど）と実際の振る舞いの乖離を、どのような指標で検出できるか。
    • 設計：身元の認証に加えて目的を検証可能な形で伝えるには、既存の仕組み（HTTP Message Signatures、OAuthのスコープや委任の仕組み）をどう拡張すべきか。また、その際のプライバシー上のトレードオフは何か。 などが考えられるか
  • なおエージェント側（委任する側）の視点で「ユーザーから委ねられた目的にエージェントが従っているか」を守る話と、受け取る側の視点で、「やってきたエージェントが何のために来たか」を知る話は全く別なので注意
  • なお、AIによると
### 各RQへのコメント

**推定**  
正解データの問題には、実は自然な手がかりがあります。主要なAI事業者は目的ごとにクローラーを分けている場合が多い（学習用、検索用、ユーザー操作の代行用など）ので、身元が検証されたエージェントについては「どのクローラーか」が目的の弱いラベルになります。ただしそうなると、身元が分かれば目的もほぼ分かってしまい、推定の意義が薄れます。面白くなるのは、(a) 単一の身元で複数目的をこなすエージェント、(b) ラベルと実際の振る舞いがずれているケース、(c) 未知のエージェントへの汎化、のいずれかに焦点を当てたときです。また、カテゴリ間の境界（RAG用取得とユーザー代行の閲覧など）は曖昧なので、分類体系の定義自体を丁寧にやる必要があります。

**整合性**  
「エージェントが宣言した目的」の例として robots.txt や AI利用の選好シグナルを挙げていますが、これらは**サイト側の宣言**です。エージェント側の宣言として現状あるのは、User-Agent文字列と事業者が公開するドキュメント程度です。なので整合性の問いは二つに分かれます。「エージェントの自己申告と実際の振る舞いの乖離」と「サイトの選好と実際の振る舞いの乖離」。後者は測定研究として今すぐ実施でき、前者は申告の仕組みが乏しいこと自体が次の設計RQの動機になります。この流れはきれいにつながっています。

**設計**  
「目的を偽れない形で伝える」は、厳密には原理的に不可能だと思います。署名で保証できるのは「この主体がこの目的を宣言した」という**否認不可能性**であって、宣言が真実であることではありません。現実的な目標は「偽ったら事後に検出でき、責任を問える」こと、つまり宣言（署名付きの目的クレーム）＋監査（整合性チェック）の組み合わせです。こう定式化すると、3つのRQが「設計した宣言を、推定・整合性検証で裏付ける」という一つの体系になります。プライバシーのトレードオフも鋭い指摘で、ユーザー代行の場合、目的を細かく宣言するほどユーザーの意図がサイトに漏れます。目的の粒度と開示の関係は、それ自体で一つの論点になります。

### オントロジーはどこに入るか

3つのRQすべてで、**目的の分類体系**が共通の土台として必要になります。推定ならラベル体系、整合性なら比較の基準、設計ならクレームの語彙です。現状、AIPREFの語彙、事業者ごとのクローラー区分、DPVの目的分類などがバラバラに存在しているので、これらを比較・統合し、階層や包含関係を定義することがオントロジー研究としての中核的な貢献になり得ます。最初に取り組む題材としても手をつけやすいと思います。

### 絞り込みの提案

3つ全部を同時にやるのは大きすぎるので、例えば：

1. 既存の目的語彙の比較分析と統合的な目的オントロジーの提案
2. それを使った整合性の測定（サイト選好と振る舞いの乖離）
3. 目的クレームの設計提案

うーん

  • PROV-Oを知った
  • 間接的プロンプトインジェクションのGreshake et al. (2023)の論文読むか。。
    • あとはPerez & Ribeiro (2022)も

今日のキーワード

  • RAG
  • ナレッジグラフ
  • aipref
  • DPV

Graph View