過去幾週我和不少人聊過，發現我對近未來的看法和許多人的想法落差很大。如果我平常有在發推文，大概會發這些：

• AI 真的很有可能讓我們全都喪命。我覺得大概不會走到那一步，是因為我預期會有很多人非常努力去避免這種結果。

• AI 在眾多領域正以極快的速度逼近（甚至超越）人類專家的能力，大多數人應該要有心理準備，自己還能做出實質貢獻的時間大概只剩一到三年。好好把握這段時間！

• 但也別把人生規劃成如果發展比預期慢就會一無所有；這整件事究竟會多快發生，仍有很大的不確定性。

• 我們已經看到 AI 正在加速 AI 自身的發展，因為它正在取代人類的專業。隨著人類剩下的貢獻越來越小，我預期這種效應會劇烈疊加，即使以現在的標準來看，進步速度也會非常快。

• 我不確定該用「移動門柱」還是「溫水煮青蛙」來比喻，但如果你把現在最頂尖的模型丟回 2006 年，它絕對會被視為「AGI」。

• 如果你覺得 AI 沒有在快速進步，那可能是因為你沒有拿它去處理夠難的問題、沒有給它足夠的脈絡／工具／token，或是根本沒在用最頂尖的模型——或是以上皆是。

• 我很擔心資料中心對環境的衝擊，因為我可以想見在可預見的近未來，世界生產的能源將遠遠超過今日，而其中絕大多數都用來驅動電腦。

• 許多通往真正嚴肅行動的路徑，都需要經過一些警示事件，而我們已經看到一些了。到目前為止，這些事件看起來像是駭客攻擊，未來還會有更多。題外話：那些不該公開的資訊，留著只會越來越危險。

• 很多人計畫透過改善 X 來改善 Y，再來改善 Z，而真正重要的是 Z。如果 Z 是三年後以後的事，不妨考慮換個計畫。

• 如果 AI 發展順利，我覺得世界可以變得非常好。最底層的 10% 過得比現在最頂層的 10% 還要好。這正是讓人們如此拚命去打造這麼危險之物的願景。

我在這裡有點偷懶，因為推文的形式讓我可以大膽斷言，卻不用一一提出佐證。如果你覺得其中哪一點錯了，歡迎在留言區提出，我很樂意說明我的理由。