过去几周我和不少人聊过，愈发感到我对近未来的看法与许多交谈对象相去甚远。如果我是个爱发推的人，大概会发下面这些内容：

• AI 很有可能让我们所有人丧命。我认为大概率不会走到那一步，因为我相信会有很多人竭尽全力去避免这一结局。

• AI 在众多领域正以极快的速度逼近甚至超越人类专家的能力，大多数人应该做好打算，自己还能做出实质性贡献的时间大概只剩 1 到 3 年。好好利用这段时间！

• 但也别把生活安排成一旦超过这个期限就一贫如洗的样子；这一切究竟会以多快的速度展开，仍有很大的不确定性。

• 我们已经看到 AI 正在通过替代人类专业知识来加速 AI 自身的发展。随着人类贡献的占比越来越小，我预计这种效应会急剧叠加放大，即便与今天相比，我们也会看到飞速的进步。

• 我不确定该用“移动球门”还是“温水煮青蛙”来比喻，但如果把一个顶尖模型丢回 2006 年，它无疑会被认定为“通用人工智能”。

• 如果你觉得 AI 没有在快速进步，那你很可能是在做以下几件事的某种组合：没有把它用在足够难的问题上，没有给它足够的上下文／工具／token，或是没有使用最顶尖的模型。

• 我担心数据中心对环境的影响，因为我能看到一些可信的近未来图景：世界生产的能源将远超今天，而其中绝大部分都将用于为计算机供电。

• 许多通往足够严肃行动的路径都要经过警示性事件，而我们已经经历了一些。目前它们看起来像是黑客攻击，未来还会有更多。题外话：那些本不该公开的信息，继续保存下去正变得越来越危险。

• 很多人计划通过改进 X 来改进 Y，再通过 Y 来改进 Z，以此让世界变得更好，而真正重要的是 Z。如果 Z 要到 3 年后才实现，不妨考虑换个计划。

• 如果 AI 发展顺利，我认为世界可能会变得非常美好。最底层的 10% 会过得比现在最顶层的 10% 还要好。正是这一前景，驱使人们如此努力地去打造如此危险的东西。

我在这里有点偷懒，因为推文的形式让我可以大胆断言，而不必逐一论证。如果你认为其中任何一条是错的，欢迎在评论区指出，我很乐意给出理由。