AIの説明性（XAI: Explainable AI）の研究開発が花盛りとなっています。ディープラーニングにおいても説明を付けられるようにしようとする。それはもちろんたいへん結構なことで、今後ますます研究が進むでしょう。
※欧州のGDPRやG20 でのAI原則、日本では総務省のAI利活用ガイドラインなどの影響もあり、ブラックボックスの典型であるディープラーニングにおいても透明性を高める技術が一大トピックになりました。
しかしそれはあくまでAIによる意思決定、あるいはAIの行為に説明をつけてもらわなくては困ります、ということであり、”統計情報としては” 関係性、できれば因果を客観的に解き明かして示してほしいということです。
好みのタイプ
一方で、AIが個人の趣味嗜好を解き明かしたとして、その説明を聞きたくなるでしょうか？何となく聞いてみたいような聞いてみたくないような、そんな感じではないでしょうか？
例えば「あなたの好きな女性は、笑ったとき目が三日月になる、髪が短い、性格はさっぱりしたボーイッシュなタイプ」「あなたの好きな音楽は、シンコペーションの多い、自然な転調の入った曲」などと説明されつくされたら少し興ざめしそうです。
たぶん、人は自分の行為や嗜好に、多少の「神秘性」を残したいものなのでしょう。神秘性、とまで言わなくても、決定論的な世界は虚しく感じるでしょう。
いずれにせよ近い将来、技術は進み、AIへの入力情報が増えれば因果関係まで説明は可能になるはずです。
マッチング
合理的には、好みのタイプをわかった上で、多くのマッチングをしてもらったほうが幸せの獲得確率が高まり、間違いも少なくなるでしょう（ここでは最適マッチなら幸せと単純化します）。例えば、スキー場での出会いが輝かしく見えて、、なんて高揚感に惑わされて判断を間違うこともなくなるでしょう。
そんな世界は虚しいといっても、人生のためには背に腹は代えられない。
さて、個の幸せが叶えば、全体の幸せが満たされるものでしょうか？
ここで、「希少性」が問題になります。結論としては、希少なものを奪い合う構図の時は、個の幸せ自体が、満たされることがまれ、となるでしょう。前提が成り立たないわけです。
ランキングの真実
「蓼食う虫も好き好き」ではあるものの、全体平均から見れば、人気ランキングの通り、ランキングトップ数％の人やモノが大半の人気を占めるでしょう。
つまり多くの人は、共通のものを好み、選びたいと思うわけです。
簡単に描けば、上位20％の獲得に80％がひしめき合う構図（実際はもっと極端かも）。必ずそのようなアンバランスになります。
複製可能なデジタルコンテンツはいくらでも満たされます。しかしリアルな、例えば男女のマッチングはそうはいきません。
ほんの一部が完全に満たされて、多くはそこそこを目指すことになります。
全体最適化のためには、そこそこ幸せ、な人を増やすことがカギに見えます。しかし個人から見ると、それで満足できるのか、という問題。
全体の幸せが最大になるためには、個の幸せは多くの場合最大ではない、は真。一方、上記の問いについては、原理的にそもそも、個の幸せが叶うことがマレ、ゆえ、不良設定な問いとなります。
そこそこ神秘性があったほうがいい
AIでのベストな選択にいちいち説明がつくと、結果的に「なんで私は一番好きなタイプからずれた人を紹介されたのでしょう？」なんてことになる。