ここ数週間、何人かと話す中で、近い将来についての自分の見方が、周りの多くの人とどれほどかけ離れているかを痛感させられた。もし自分がツイートをするタイプの人間だったら、こんなことをつぶやいていただろう：

• AIが人類を滅亡させる可能性は非常に現実的だ。ただ、おそらくそうはならないと思っている。多くの人がその結末を避けるために必死に努力するはずだからだ。

• AIはあまりにも速いペースで、非常に多くの分野で人間の専門家レベルに迫り、あるいは超えつつある。だからほとんどの人は、あと1〜3年しか生産的に貢献できる期間が残されていないという前提で計画を立てるべきだ。残された時間を有効に使ってほしい。

• とはいえ、それ以上かかった場合に困窮するような生き方をすべきでもない。この先どれだけ速く進むかには、まだ大きな不確実性があるのだから。

• すでにAIが人間の専門知識を代替することで、AI自身の開発を加速させているのを目の当たりにしている。人間の寄与がさらに小さくなるにつれ、この効果は劇的に増幅すると予想しており、今日と比べても急速な進歩を目にすることになるだろう。

• 適切な比喩が「ゴールポストの移動」なのか「ゆでガエル」なのかはわからないが、もし最新のトップモデルを2006年に送り込んだら、間違いなく「AGI」と見なされていただろう。

• AIが急速に進歩していないと感じるなら、十分に難しい問題に使っていないか、十分なコンテキストやツールやトークンを与えていないか、あるいはトップモデルを使っていないか、そのいずれか、もしくは組み合わせが原因だ。

• データセンターが環境に与える影響も懸念している。近い将来、世界が現在よりはるかに大量のエネルギーを生み出し、そのほとんどすべてがコンピューターを動かすために費やされるという未来が、十分にあり得ると思えるからだ。

• しかるべき真剣な対応につながる道筋の多くは、何らかの「警告」を経由するもので、我々はすでにいくつか経験している。今のところそれはハッキングという形で現れており、今後もさらに出てくるだろう。余談だが、公にすべきでない情報を抱え続けることは、ますます危険になっている。

• 多くの人が、Xを改善してYを改善し、それによってZを改善することで世界を良くしようという計画を持っている。重要なのはZだ。もしZが3年以上先のことなら、別の計画を考えた方がいい。

• AIがうまくいけば、世界はとてつもなく良いものになり得ると思う。下位10％の人々が、今の上位10％よりもはるかに良い暮らしを送るような世界だ。この可能性こそが、これほど危険なものを人々があれほど必死に作り続けている理由なのだ。

ここでは少し手を抜いている。ツイートという形式なら、根拠を示さずに大胆な主張だけを並べられるからだ。もしこれらのどれかが間違っていると思うなら、コメント欄で喜んで根拠を示そう。