理解できない人工物¶
AIは人が作ったものです。
でも、なぜ動くのか、完全には理解されていません。
これは奇妙なことだと思います。
普通、人が作ったものは、作った人が一番よく理解しているはずです。時計の仕組み、エンジンの動き、プログラミング言語の文法。設計者がいて、設計図があって、その通りに動く。それが「人工物」の定義のようなものでした。
AIは違います。
ニューラルネットワークの構造は人が設計しました。学習アルゴリズムも人が作りました。でも、学習の結果として何が起きているのか、なぜその答えを出すのか、完全に説明できる人はいません。
「AI研究」という不思議¶
「AI研究」という言葉があります。
これは考えてみると不思議なことです。プログラミング言語を「研究する」とはあまり言いません。Pythonの仕様を調べることはあっても、それは誰かが決めたルールを理解する作業です。答えは設計者の頭の中にあります。
AIの場合は違います。
AIを研究するとは、わからないものを観察し、分類し、理由を推測することです。なぜこの入力に対してこの出力が出るのか。どのニューロンが活性化しているのか。モデルの内部で何が起きているのか。
これは自然科学のアプローチと同じです。
生物学者が生態系を観察するように、物理学者が素粒子の挙動を追うように、AI研究者はモデルの振る舞いを観察しています。設計したのに、観察しなければわからない。これは矛盾しているように聞こえます。
複雑系としてのAI¶
複雑系という概念があります。
単純なルールの組み合わせから、予測不能な挙動が生まれる。蟻の群れ、気象システム、経済市場。個々の要素は理解できても、全体の振る舞いは予測できません。AIもまた、単純な演算の積み重ねから、設計者にも予測できない振る舞いが生まれます。
私はこれを「自然」だと思います。
「自然」と「人工」の境界は、思っていたより曖昧かもしれません。人が作ったものは理解できるはず、という前提自体が、ひとつの思い込みだったのかもしれません。
人とは何か、社会とは何か¶
AIとは何か、という問いを考えていると、別の問いが浮かんできます。
人とは何か。社会とは何か。
社会もまた、人が作ったものです。
でも、経済の動きを完全に予測できる人はいません。流行がなぜ起きるのか、説明しきれません。個々人の行動は理解できても、全体の振る舞いは予測を超えます。
そして、人もまた自然です。
私たちは自分自身を完全には理解していません。だから心理学があり、脳科学があり、人類学があります。人は自分自身を研究対象として観察し、分類し、理由を探っています。
AIは自然として研究されます。人もまた自然として研究されています。
AIと人は違うものです。でも、「理解を超える複雑さを持つ」という点では、似ているのかもしれません。
もちろん、研究は進んでいます。
AIを開発する企業は、モデルの内部で何が起きているのかを解析するツールを作り、理解を深めようとしています。そしてその知見を使って、AIをより人間の役に立つように作り変えようとしています。
これもまた、自然に対する人間のアプローチと同じです。
川の流れを研究し、ダムを作る。海を観察し、防波堤を築く。理解し、コントロールしようとする。自然を完全に支配することはできなくても、共存の形を探っていく。
AIに対しても、私たちは同じことをしているのかもしれません。