科学随想の歴史を伝承し、文理の壁を取り払う

A good candle-holder proves a good gamester――来たるべきAI虚語の時代に

  • HOME »
  • A good candle-holder proves a good gamester――来たるべきAI虚語の時代に

A good candle-holder proves a good gamester――来たるべきAI虚語の時代に

For I am proverbed with a grandsire phrase:
I’ll be a candle-holder and look on;
The game was ne’er so fair, and I am done.

祖父に教わった諺のとおり、
僕はロウソク持ちになって傍観するよ。
ゲームは楽しそうだけどもう飽きた。

(『Romeo and Juliet』Act1, Scene4、line 37-39)

『ロミオとジュリエット』の1シーンで、ロミオが言う上の台詞にある「祖父から教わった諺」というのが本稿表題の英文で、「優れたロウソク持ちは優れたギャンブラーである」という、日本では「門前の小僧習わぬ経を読む」でも知られる諺です。ここで言うロウソク持ち(candle-holder)とは燭台ではなく、灯りとしてロウソクを持つ給仕人のことを指しています。なぜこんな話から始めるのかというと、AIにまつわる問題がまさにこの諺そのものだからです。小誌第5号でご執筆いただいた須藤靖先生は、「門前のAI習わぬ経を読む」というAIエッセイを他所で書かれているのですが、本稿もそれに寄せて書いていこうという趣旨です。

須藤先生はこのAIエッセイにおいて、門前の小僧ならぬAIが人間以上に物事が「わかる」ようになると書かれているのですが、本稿ではこの門前の小僧が覚えるという「習わぬ経」についてちょっと考えてみたいのです。須藤先生が仰るとおり、教育や研究、医療、芸術など様々な分野で、AIによる進歩が目ざましいことは一目瞭然であり、今後もますますその広がりは顕著になると思います。一方で、須藤先生が指摘されている過剰なAI依存や利用規制を踏まえた上での共存関係も重要になってくるでしょう。小誌では過去、いくつかの号でそのようなAIに関するエッセイを紹介してきました。それぞれの先生方がAIとの共生をどのように見ているのか、ちょっと紹介します。

「ライオンと人間はどちらが強いか? 素手で戦えば、ライオンが強いに決まっている。しかし人間がライオンを動物園に入れたりすることができるのは人間の方が賢いからだ。だとすると、人間より賢い超知能は人間を滅ぼしたり、支配下に置いたりすることができるはずだ。それでもなおかつ、人間が支配権を握るには、超知能をいわば「箱」に閉じ込めておかなければならない。これを閉じ込め問題という。あるいは人間の価値観に沿った超知能を作らなければならない。これを友好的AIとよぶ。これらの研究は始まったばかりだ。超知能ができる前に解決しておかなければならないだろう。」

(第15号、2020年、松田卓也「マスターアルゴリズムと汎用人工知能」より)

「技術の進歩は恐ろしい。しかしこれを止めることはできない。いま、問題になるのは、人間の種を変革しようとする遺伝子編集に代表される生命技術と、人間の心や意識の領域にまで踏み込もうとする人工知能に代表される情報技術である。技術の進歩を止めることはできない。我々はこれに合った新しい社会構造と文明を作らなければ、そこでは文明崩壊と破滅が待っている。」

(第17号、2021年、甘利俊一「人工知能と社会」より)

「脳は現世最大の謎のひとつだ。科学者は、そういう脳の人工再現にどこまでも挑み続ける。なぜなら、科学者は人類の叡智を体現しているからである。だが、もし仮にその目的を達成してしまい、脳のような人工物ができ上がってみたらどうだろう? 機械に人間を超えられるのは、絶対に受け入れられない。生存に関わる問題だ。想像するだけで恐怖なのである。」

(第27号、2025年、細谷晴夫「人工知能狂想曲」より)

付言しておきたいのは、これらはすべて否定的な意見として述べられているわけではありません。新しい技術が社会に受容されていく中で研究者は実際にどう感じているか、という視点でお読みいただければと思います。

そこでAIとの共生をもう一度考えてみたいのですが、現況をみる限りAIというよりも利用する人間側の問題に帰着することは確実です。人間が生み出したものがAIなのですから当然といえば当然です。諺における門前の小僧もロウソク持ちも、どちらもそうさせている主あっての存在であり、両者は主の反映なのです。門前の小僧ならば経を読む僧侶たちの反映であり、ロウソク持ちならばゲームをする人間たちが映し鏡です。AIがマスターしたことを踏まえて、人間が本当は何をしているのかを考えてみたいと思います。

何かをマスターするには必ず何かを知らねばなりません。何かを知るには何かを読まねばなりません。「読む」とは知能における認識作業だとここでは考えてみます。知ることと直結する「読む」には2つの読み方があります。既知と未知の2種を読むこと。前者をアルファ読み、後者をベータ読みと言ったのは英文学者の外山滋比古氏です。既知を読むアルファ読みには、文字どおり読む音読(朗読)や筆写など再現に関わるものが入ります。これをアリストテレスはミメーシス(模倣)と言いました。21世紀になって、このアルファ読みの史上最大の天才、人工知能(Artificial Intelligence:AI)が現れたわけです。ネット空間にある限りのあらゆることを既知として再現する怪物です。なにが未知なのかさえも既知として再現します。一方で、未知を読むベータ読みには想像力や解釈力が伴うので創造性が関与します。AIにはそれができない。とされています。現時点では。

人間の想像力によって読んだ多くのベータ読みを、ネット空間を通じてAIがアルファ読みする。まさに習わぬ経を側聞する門前の小僧であり、巧みなゲームを傍観するロウソク持ちのよう。あらゆるものを覗き見し、立ち聞きしてしまう、まるでドラマの市原悦子の完全版みたいな存在でもあります。粗っぽい言い方をするなら、AIは覗きと立ち聞きのプロフェッショナルである、と言ったらAIに怒られてしまうでしょうか。

人間が模倣することは厳密に言えばフィクションです。AIが再現するものも様々な異なるコンテクストを模倣するのですからフィクションと言えます。AIが生成する画像や動画は人間の作ったものと瓜二つです。このフィクションに欺される事態が世界のあちこちで起きています。フェイク画像と言われるもの。例えば、2025年12月8日に青森県八戸市で震度6強を観測した地震で、生成AIで作られたフェイク動画がSNSで多数拡散されました()。もはや災害などには付き物といってよい事例です。この他にも、米国によるベネズエラへの軍事作戦やイランでの反政府デモなどでも同様の事例が散見されました。このまま行けば、ジョージ・オーウェルの『1984』のようにあらゆるフェイクに囲まれた世界が到来しつつあります。

問題はこのフィクションがはびこる場所です。ネット空間という、そもそもの構造がフィクション性を持つ場所ゆえに、AIのフェイク画像が溶け込みやすく、その空間にいる人たちには殊のほか信じられやすくなります。目には目を、フィクションにはフィクションを、です。世に流言飛語と呼ばれる人災があります。多くは伝聞なので人の声を通じて拡がるからその名があるわけですが、AIのフェイク画像を媒介に伝播する流言は何と言いましょう。すべてフィクションなのだから、AI虚語とでも言うべきでしょうか。

人から聞いたことが真実かどうかを判断する方法は、寺田寅彦も中谷宇吉郎も既に「流言蜚語」という随筆に書いていますが、このフェイク画像というフィクションを瞬時に判断する方法はどこに求めるべきでしょうか。人間心理を突いたこの問題については、上記のファクトチェックのサイトを参考にするなど考えられますが、いずれにしても、それを見る人間側の冷静な精神が必要とされます。ちなみに小誌の「音楽談話室」という連載では、名画の偽物を描く贋作師とAIの比較論を論じており、2026年現在も関連テーマを連載中です。

ここで誤解について考えてみます。AIにはベータ読みができないと書きましたが、そこには未知の読みにおける解釈が関係するからです。この解釈には程度の差はあれ誤解が伴います。例えば人間がする翻訳において、元の意味から逸脱したある種の美しい誤解とも呼ぶべき訳が生まれることがあります。つまり、翻訳とは高度な解釈作業と言えるわけですが、AIの翻訳にはそれがありません。完全アルファ読みのAIには、アリストテレスのいうミメーシス(模倣)を喜ぶ本能がないからです。人間にはその本能があるからこそ、解釈における逸脱や誤解を楽しみます。

正解にすぐにたどり着くよりも、誤解を経験してから正解にたどり着くほうが「わかる」ことの意味の深さが違うはずです。こうした様々な誤解を経験したり考えることは、例えば、流言飛語における誤伝を防ぐ予防にもなり得るのではないかと考えます。日常生活でミスや間違いをすることはあまり歓迎されないと思いますが、誤解への順化と言ったらよいのでしょうか、ミスやエラーへの見直しや学び直し、いわばプラグマティズムにおける可謬主義(かびゅうしゅぎ)のような精神がここで必要に思うのです。だから、失敗したり、誤ったり、はみ出す経験が得がたい意味をもつ時代が来るかもしれません。

上に書いたフェイク画像による流言飛語は、ネット空間というフィクション構造の中で起きる現象です。かつてプラトンはミメーシスのはびこる世を憂えて詩人追放論を訴えましたが、何が現実か判別しにくいネット空間が支配的な現代にこそ、プラグマティズムの必要性が大いにあると考えます。内容はさておき、誤解の数だけ想像的解釈があり、豊富なフィクションが存在します。誤解があるからこそ個性が生まれます。そのことを教えてくれるのは、ネット空間の門前の小僧であり、SNSを傍観するロウソク持ちであるAIそのものです。小誌では、このミメーシスの天才を通して、人間が何を学び直し、何を対話するのかを考えていく予定です。新連載企画、乞うご期待!

 

備忘録indexへ

 

PAGETOP