マストドンとか人工知能とか世界の滅亡とか最近のこと

しばらくほったらかしにしてしまったはてな日記。

今年に入ってからマストドンを始め、そこである程度発散できてしまうことで、すっかりブログを忘れてしまっていた。別に誰が読んでいるわけではないからいいんだけども、でもこんな自分でもわりといろいろと考えることはあって、それが日に日に流れて言ってしまっているのはなんだか残念ではある。まあ、そんなことはマストドンで発散していた。

しかし、chatGPTに「出会って」からのここ数か月、忘れかけていたコンピューターサイエンス脳が活性化されたのか、単にAIの進化が恐ろしいほど速いからなのか、最近はAI・人工知能と未来の社会のことをよく考えている。

最初はchatGPTなんか触りたくなかった。最初に使い始めたのは妻で、それを横目にあんまり触るまいと、なぜか自制していた記憶がある。とはいえ、やはり好奇心には勝てないのか、何がきっかけだったのかわからないが、なんとなく使ってみたら、とにかく衝撃的だった。すぐに自分の仕事がなくなるかもしれないという恐怖心に襲われた。

思えば、機械翻訳については懐疑的だった。ここ数年どころか、十数年は人間翻訳に勝てるはずがないと、傲慢にも安心しきっていた。いままでの機械翻訳とchatGPTは何が違うのか。翻訳の性能についてはそれほど大きな改善はないように思う（そもそもchatGPTは翻訳に最適化された技術ではない）。なぜ仕事の心配が頭に浮かんだのか、恐らくコンテキストをしっかりと理解しているように見えたから。さらに言うと、自分が「専門」にしているコンピューター技術の背景知識を自分以上に持っているように見えたから。思えば、社会に出てから今までの仕事を振り返ると、自分は2つのスキルをベースに食べてきた。英語とコンピューター技術。底に出てきたのが生成AI。トランスフォーマー、ディープラーニング、RLHF。数か月前までまったく知らなかった技術や仕組みによって、テキストにすこぶる強い、それもかなり広範な知識を備えているように見えるAIが登場した。翻訳に最適化されていないとはいえ、今の段階でも言語能力は相当高い（翻訳に最適化された「transGPT」が生まれる頃には手も足も出ないかもしれない）だけでなく、自分よりも専門知識が高い。聞き慣れない英語表現や業界用語もchatGPTに質問すると、かなり正確に教えてくれる。自分が誇っていた専門知識、スキルが、一夜にしてどこかに消えてしまったかのように。

それからchatGPTと最近のAIのことを学び始め、いわゆるアライメント問題、安全性の問題、AGI（汎用人工知能）、ASI（超絶人工知能）到来の可能性、そして人類滅亡レベルの脅威を知った。

思えば、20代の頃は、日本の企業で働きながら、いつかアメリカの大学院に進学して人工知能の専門分野に進もうと計画していた時期があった。カーツワイルの本を読み、ジェフホーキンスの本を読み、AIのニュースを追って、いつかは学問の世界へ、と夢見ていた。結局その後も、いわゆる人生ってやつが起こって、結婚して、転職して、無職になって、世界旅行に行って、フリーで独立して、そして今に至る。

振り返ってみれば、コンピューターサイエンティストとしては落第したわけで、でもコンピューターや人工知能への探究心はまだ若干ながら残っていて、でもそんな中、今回の生成AIの登場で、自分の中のコンピューターサイエンティストの火がまた灯ったのだろう。

別にそんなロマンティックなものでもない。下手すれば人類滅亡レベルの危機だ。その前にも恐らく世の中が大きく混乱するだろう。すでにAIの「Arms race」は始まってしまっており、走り出した世界は止まるようにみえない。

マストドンでもたまにAIの話をしてみるのだが、これがまた誰も反応してくれない。別に反応が欲しいわけではないんだけど、なんだか一人で場違いな騒ぎ方をしているようで、みっともなく思えてきた（恐らく世界のAI研究者やテクノロジー信者が似たような気持ちを抱いていると思う）。でもこれだけ毎日心配して、考えて、また心配しているのだから、自分の考えや、見たり読んだりしたことをどこかに残しておかないとと思えて、そこで思い出したのがこの日記サイトだった。ここなら誰かに読まれていることをあまり気にせずに残せるだろう。そもそも、このサイトは、自分がもしいなくなった場合でも、妻に思い出してもらえるような文章を残しておこうという意図がほとんどだった。妻にも毎日のようにAIの話をしているが、残念ながら反応は悪い。そのうち世の中の理解が進めば（あるいは彼女が大ファンのBTSのメンバーが話し始めれば？）気になってくるだろうし、まだ自分が先にいなくなってしまう可能性の方が高いので、やはりここに残しておくべきなんだろう。

今日は2023年の6月27日。来年はどんな世界になっているのか、まったく想像がつかない。今までこんな不透明な時代があったのだろうか。速度があまりに速い。毎週、毎日レベルで何か新しい技術・発表が出ているような気がする。この過程であまりに多くのことが起こってしまえば、自分という存在の中でも、その過程を把握しておくのが難しいだろう。やはり、できるだけここに残していければと思う。