智慧と知識とシンギュラリティ

 「智慧はコピーされることがない」という言葉に出会いました。
~「ソニーから学んだ「差別化戦略」 養うべきは知識ではなく智慧」茶谷公之氏

 智慧とは「真理を見極める認識力」であり、Wikipediaによれば「一切の現象や、現象の背後にある道理を見きわめる心作用を意味する仏教用語」とあります。いやこれは確かに容易に伝達できそうにはありません。 

 一方、知識はコピーし伝達できる。法則化され原理が明確になったものが「知識」なので伝わりやすいのですね。

 単なる知識でなく智慧が生んだイノベーションの差は決定的であり、それぞれの分野で経験を積んで智慧を養おうという氏の説に大いに納得しました。

 

 少し考えてみると、AIに「知識処理」はあっても、「智慧処理」はありません。そもそも智慧処理という語感からしてなんか異な感じがします。処理対象として、知識はあっても智慧は無いということは万人共通の感覚ではないでしょうか。

 また逆に、「知恵の輪」はあっても、「知識の輪」はありません。知恵の輪は知識では解けません。つまり智慧には、「試行錯誤」が深く関わっているようです。

 知識は処理できる対象であることから、よりエレガントに整理され、ますます伝達されやすくなるのでしょう。数学の証明がまさにその例です。

 若い頃憧れた広中平祐氏。氏のフィールズ賞受賞業績である「特異点解消定理」※1。世紀の難問をいわば力業でねじ伏せた証明は218ページとか。当時の数学史上最長論文で「広中の電話帳」として有名なくらいです。理解できる人は世界に10人と、よく言われる表現で語られました。

 その後、証明は洗練されて、今では「大学院初年級の学生でも“ごまかしなし”に全体が読める証明がある程に理解が進んでいる.」(松木謙二, 数学69巻1号2017年1月)といいます。さらに、智慧の結晶である数学理論が、知識化のおかげで、今では機械学習モデルを支える定理として、実世界の課題に対して具体的な解決をもたらしているそうです。

 智慧は各所に大なり小なり必要であり、知識の体系化も様々な応用も智慧があればこそといえるでしょう。しかしなんといっても最初の着想と筋道の発見こそが、人類の智慧の集積点であり、そう、まさに特異点に違いありません。※2

 智慧はコピーもできないし、微分もできない、ということが導かれました(笑)

 

※1 任意の代数的集合(「多項式=0」で定義された集合)は,ブローアップと言われる操作を繰り返すことで 必ず特異点を解消することができる(広中の定理)。

特異点とは、微分不可能な点。ジェットコースターの影(2次元への射影)が交わっているところ、これが特異点で、実際の3次元空間で交わっていたとしたら大事故になります。

つまり次元をあげる・見方を変える、ことで特異点が解消される、という、ある意味、仏教の悟り的であり、まさに本来の意味での「智慧」がもたらしたもの、日本人が解くべきして解いた定理だったように思えます。(広中平祐, 「生きること学ぶこと」にも確かそんなようなことが書かれていて心が震えたものでした。)
最初の論文が出てから50余年の時を経て、機械学習の統計モデルにおいてこの定理が極めて重要な役割を果たしているというのは何ともロマンチックな話です。

※2 それとは別にこの「特異点」という語は、近年、特にAI文脈で特別な意味をもって取り上げられますね。いわく、2045年にシンギュラリティが訪れる!と。(技術的特異点:AI自ら人間より賢い知能を生み出す事が可能になる時点

AIと一輪のバラ(2020/1/3)

2020年を迎えました。
明けましておめでとうございます。

昨年はAIによる画像・音声認識や生成まで、そして行動予測技術が花開き、一方でAIブームは少し沈静化し、怪しいポッと出AIベンチャーが淘汰された年、と何かで読みました。

かように今後も多少の浮き沈みはあれど、AIの事業適用が加速することは間違いありません。
ハードウェアの進化も華々しく、去る2019年10月にGoogleが世界最速のスパコンで1万年かかる計算を量子コンピューター「たった53個の素子」で200秒で実行した、と発表しました。量子素子の脆弱性ゆえ実用までには20年かかると言われますが、その過程で、機械学習への応用が期待されているようです。

そうなると膨大な特徴量と目的変数の関係性を瞬時に見出すことを繰り返すことで、すぐれた「直近未来予測」が可能になるでしょう。人がそれに畏怖を感じるのも無理はありませんし、人知を超えたAIに人は屈服するのか?などという話に展開してしまいそうです。

AIと人は別物だから比較は愚かなこと、共存により人をアップデートしよう、という考えも浸透してきました。それでも、どう別物なの?AIは脳の模倣を目指してきたんじゃないの?今どのくらい味方になるの?と問われたとき、どう答えればよいでしょう?

ひょんなことから、ひとつの典型と思える物語を思い出しました。

「星の王子さま」は世界中の子供たちに愛され続けていますが、大人にとっても深いテーマをいくつも含んでいます。「大切なものは目には見えないんだ」

そして、私にはあのバラの話こそが、人の本質、感情の根源を見事に射抜いて、AIとの差異を明確にしているように思われるのです。

自分の星で見つけた珍しい芽はやがて美しいバラの花を咲かせる。水遣りをして世話をする王子さまにきまぐれなバラ。やがて傷ついて星の旅に出る。でもなぜだかますますその一輪のバラが気になってしかたない。遠くにいても残してきたバラを守らなきゃと思い続ける。最終的に自分の星に戻るため命を捨てるまでに。

偶然関わった一輪のバラが、特別な存在になってしまう、それが人だと思うのです。

一方、現在のAIは一派ひとからげです。パーソナライゼーションといえどもモデルは万人共通。入力が個々に違うので答えが個々に変わるに過ぎません。統計モデル、協調フィルター的手法の限界です。

人はといえば、認知レベル、いえ知覚レベルで既に対象ごとにモデルが違っているように思えます。あるいは特徴量の特定の組み合わせにより、極端に発火する複雑系のモデルなのか。

データサイエンティストのように論理的で客観視が得意な人でさえ、わが子だけは心底可愛く感じて、他人の子と同じように見ることはできないでしょう。

ひょっとして感情の源泉は依怙贔屓?奇妙なバイアス?なのかもしれません。理由はわからないけれど贔屓してしまう、特別視してしまう。そこからさまざまな感情が生まれる。

AIは感情を持つか?という問いに対して、感情を持った人と似たふるまいをすることはできても、感情を持ったとは言えない、といまは答えるべきでしょう。
「感情チューリングテスト」なるものがあったとして、テストをパスしたからといって感情を持ったとは言えないわけです。ちょうどチューリングテストにオウム返し戦略でパスするのと同様な感じ。

まずはAIが、恋のような人それぞれの「奇妙なバイアス」の生起自体を予測することは可能でしょうか?

おそらく、どこまでいっても入力特徴量が足りない、そもそも要素還元手法の限界と言えるのかもしれません。いえ、やはり現状の統計的AIモデルの限界と言うべきでしょう。あの人が近くにいると感じるだけで世界ががらりと変わってしまうのですから。

そして将来、AGI(汎用AI)は意図せず個体固有のバイアス(入力データにない)を持ち、増大させるでしょうか?

ヒューマニティとAI

今後、思索を深め一部を技術でシミュレートすることで「ヒューマニティ」の理解を進めたい、そして人の潜在欲求を満たす技術の具現化に方法論をもって迫りたい、と大きな妄想をした2020の年明けでした。

2020/1/3

RSS
Follow by Email