構造を持つ確率モデルによる推論と学習
麻生英樹 木村陽一 橋田浩一 仁木和久 赤穂照正太郎 田中勝 丹羽竜哉
福永健次* 学習統合基礎ラボ、RWI研究推進センター、電子技術総合研究所(asoh@etl.go.jp) *情報創成システム研究チーム、脳科学総合研究センター、理化学研究所
1.はじめに
実世界で人間と協調しながら機能することをめざす実世界知能システムを実現するためには、複雑で、変化に富み、不確実なマルチモーダル情報を統合的に扱う必要がある。そのための理論・アルゴリズム基盤として、近年、構造を持つ確率モデル(Graphical
Models)が有望とされてきている。本研究室では、そうした観点から、さまざまな種類の構造を持つ確率モデルについて、理論的解析から実用的なアルコリズムおよびソフトウエア開発に至る幅広い研究を進めている。今回の
RWC2000では、最近の成果の中からいくつかを紹介しているが、ここでは、それらの中からさらに主なものについて述べる。
2.モデルとアルゴリズム
(1) ペイジアンネツトワーク
ベイジアンネットワークは、グラフ構造によって確率変数間の条件付き独立性を表現することにより、多変数の同時確率分布の効率的な表現とそれを用いた確率計算(推論にあたる)を実現するメカニズムである。隠れマルコフモデルなど、よく用いられている多くの確率モデルをその特殊な場合として含むこと、領域に関する知識や、状況依存的な知識の記述に向いていること、などから、知能システムの推論・学習の基盤として、現在最も有望なモデルの一つと考えられている。
そこでの重要な課題の一つに、グラフの各ノードに書りり当てられる条件付き確率をどのような形で保持するか、がある。従来は、単純な表形式を用いている場合が多いが、それでは、条件変数が増えた場合や、連続値を取る場合に対応できない。この間題に対して、ニューラルネットワークによって条件付き確率を近似し、保持することを提案するとともに、その方式に基づくペイジアンネットワークのシミュレー夕BAYONETをJava言語で実装した。BAYONETはGUI上の簡単な操作によって、ネットワークを構築し、条件つき確率を定義し、確率推論を実行することができる(図1)。
また、条件付き確率をネットワーク上のデータベース上のデータを用いて学習させることもできる。
(2)確率的制約ブログラミング
ベイジアンネットワークでは、変数間の依存関係は命題論理の式で記述されているが、この記述を述語論理に拡張することは興味深い問題である一方、知識表現の強力な手法として、従来より論理型プログラムや制約型プログラムの研究が進められてきているが、そこに確率を導入することは、実世界の不確実な情報を扱うために重要である。確率的制約プログラミングは、そうした試みの一つであり、確率パラメータを伴うホーン節で書かれたプログラムに対して、記号処理的なプログラム変換と確率計算を融合した形で最も確率の高い解を求める。推論の効率を上げるために、構造共有やメモ機構、新しいコンパイル技法などを提案し、実装している。
(3)多変量情報量解析
確率変数間の依存関係をデータから発見することは、たとえば上の二つのモデルを利用する場合にも重要である。この間題に対して、多変量情報解析として、変数間の相互情報量や媒介作用を利用して情報の流れや情報の共有の構造を明らかにする手法を研究開発している。現在までに3種類の解析方法を提案し、脳のfⅧ1画像データに適用し有効性を検討している。
図1 BAYONETのユーザインターフェース画面
|