『ゲーデル、エッシャー、バッハ』のダグラス・ホフスタッターが語る人工知能の脅威とChatGPT

『ゲーデル、エッシャー、バッハ』の著者ダグラス・ホフスタッターの最近のインタビュー映像がSNSで流れていた。正直まだご存命だと知らなかった。コンピュータサイエンスを学ぶ生徒としてホフスタッターのGEBは知っていて、大学院に戻ろうと考えていた頃にAmazonから原著を購入していた。なんどかページをめくろうとするもの、あまりの存在感、重厚感、ボリュームに圧倒され、結局積まれたままに。先日古本屋で日本語訳を見かけて、訳書なら今からでも挑戦できるかもと思っていたところ。

短いインタビューだが、注目はChatGPTをはじめとする最近のAIの進化の速度に対する驚きと、”Soon”訪れるであろう人類が主役の座を明け渡す日を恐れていると語る後半。こうした変化が何百年もかけてゆっくり起こるなら受け入れられるだろうが、それが数年で起きてしまう可能性があるということ、それが信じられない速度で襲ってくる津波のようで恐ろしいと。ゴキブリが人類を見てまったく理解できないのと同じように、いずれ到来するスーパーインテリジェンスを我々が理解することは到底できない。「それは面白い例えですね」と笑う質問者に「面白いんじゃない。恐ろしいことだ。実質一日中このことを考えているし、酷く落ち込んでいる」と真顔で返していたのが印象的だった。

一方方向だけのトランスフォーマーの仕組みから、これだけの「思考」が生まれるとは思わなかったとも驚いていた。自分がナイーブだったと。人間の思考は思っていたほど複雑でも、ミステリアスでもないのかもしれないと。人間は覚えも悪いし、すぐ混乱するし、矛盾することだって日常茶飯事だ。これは人間の思考が「その程度」である証拠かもしれないと。

今のAIの進化を他の事象を例えると何だろうかという質問に「火災」と即答していた。ではどうすればよいのでしょうかという質問には「わからない。もう山火事になっているような気がする。もう後戻りできないのでは」と。