Software 3.0 與 AI 工程師版圖（演講筆記與投影片）
原文由 Shawn Wang 于 發布，訂閱此部落格
2024 年更新
我在 CascadiaJS 2024 發表了這場演講的更新版本！投影片在此，影片敬請期待。
2023 年演講
連續第三年受邀回到 Infobip Shift，我深感榮幸，而這次更令我又驚又喜的是，被安排在 John Romero 之後登上主題演講的舞台：
看到我的投影片和「作品」出現在那樣的大舞台上，至今仍覺得不可思議，而且歐洲的觀眾即使在工作中還沒實際接觸這些，也能完全理解。Shift 推特帳號的小編現場即時筆記做得特別好。我也意外接受了半島電視台一位非常親切的記者的採訪。
摘要
大家都為 AI 瘋狂，充斥著各種雜訊、炒作和展示，卻鮮少有針對實際應用場景的指引。我們將介紹一個心智模型，說明誰在做什麼，並解釋機會在哪裡，以及非 AI 背景的開發者可以從何開始深入探索。
投影片
https://docs.google.com/presentation/d/1WPULCJsbdsYLTEnAzkdVtqKRDdx4MrfMH04u5HAD4Wc/edit?usp=sharing
我曾在 Daily.dev 發表過它的精簡版
影片
以及 20 分鐘的 React Summit 版本
原始筆記
目標 25 分鐘
- 5 分鐘：DATA 時間軸、資料佐證
- 瘋狂現象
- AI AI I/O
- Agent 崛起
- 企業尚未採用？ https://twitter.com/bentossell/status/1686387000260358145
- HN 引言
- Sarah Guo 引言
- 人物
- 論文發表速度令人難以負荷
- AGI 爆發 https://x.com/swyx/status/1653887955474460672?s=20
- 以及對 AGI 的恐懼 -> wait but why、not kill everyone 迷因
- https://x.com/swyx/status/1653885657448841216?s=20
- 開源 AI 模型發展 https://x.com/swyx/status/1653891330668658689?s=20 與 Transformer 變體 https://x.com/swyx/status/1653890389039013889?s=20
- Chegg 教科書與 Stack Overflow 崩跌
- 誰靠 AI 賺到錢
- Jasper
- Midjourney
- Copilot
- ChatGPT
- Character.ai
- Agents？
- 案例研究
- Levelsio
- Headlime
- Zapier AI
- Notion AI
- Vercel AI
- 瘋狂現象
- 5 分鐘：趨勢：AI 工程師的崛起
- 什麼是 Software 3.0？
- Software 1.0 vs 2.0
- Software 3.0 -> 程式碼很重要
- ???
- https://huyenchip.com/2023/08/16/llm-research-open-challenges.html
1. 減少並衡量幻覺
2. 最佳化上下文長度與上下文建構
3. 納入其他資料模態
4. 讓 LLM 更快、更便宜
5. 設計新的模型架構
6. 開發 GPU 替代方案
7. 讓 Agent 變得實用
8. 改進從人類偏好中學習
9. 提升聊天介面的效率
10. 為非英語打造 LLM - AI 工程師的專業領域
- 提示工程與結構化回應
- AI UX
- 開源 AI - 託管與基礎設施
- 小心本地 LLM 的 U 型曲線
- 開源 AI - 微調與評估
- AI 生產力開發工具
- AI 工具
- AI Agent
- 什麼是 Software 3.0？
- 5 分鐘：範例：Latent Space 精選
- 基礎：資料集、基準測試、演算法
- 名人：Geohot、Chris Lattner、Code Interpreter、AI 工程師崛起、Replit、逆向提示工程
- 違反直覺的教訓
- Bitter Lesson - 把知識編碼進去只是暫時的提升
- RAG - 第二大腦
- 程式碼永遠更好
- Replit 模型
- 更大不一定更好
- Chinchilla - Llama
- Phi-1 資料論文、tinystories
- 我們有擴展的技巧 - Geohot 1.7 兆
- 模型的尺寸分級
- 原始資料集被高估了
- 不需要每年不斷更新
- 在資料集上做深度學習 -> 4 種訓練方式
- https://twitter.com/altryne/status/1661236778458832896
- Llama 2 - 預估成本 25 億
- Agent 就是未來
- 5 分鐘：版圖總覽
- 對各類別給予同等權重是錯誤的
- 問卷調查
- 基礎模型
- OpenAI
- Anthropic
- 函式庫／框架
- LangChain
- LlamaIndex
- Deepset Haystack
- Vercel AI
- Semantic Kernel
- Guardrails
- Guidance
- 向量資料庫
- Vector DBs
- 開源託管／訓練
- ?
- 其他
- 提示管理
- 監控／可觀測性
- 5 分鐘：Latent Space University - 沿用 cityjs 演講的內容 - 0: 學習如何下提示 1. OpenAI GPT3 API 基礎（已完成） 1. 什麼是 token https://twitter.com/swyx/status/1653893171787747329 2. 提示工具與記憶（已完成） 3. 使用 GPT3 生成程式碼（已完成） 4. 使用 Dall-E、Stability AI、Lexica 和 Midjourney 生成圖片（製作中） 5. 使用 Whisper 語音轉文字（待定） 6. 微調與執行開源模型（待定） 7. AI Agent
- 你還不算老
- https://www.latent.space/p/not-old
- AI 工程師的機會
- 提示工程
- AI UX
- 開源 AI - 託管與基礎設施
- 開源 AI - 微調與評估
- AI 生產力開發工具
- AI 工具
- AI Agent
- 思考面向
- 倫理、資料來源
- 安全性 - Software 2.0 安全性
- 多模態
- 要排除的內容：
- AGI 很難
- Google vs OpenAI vs Meta 大戰
- 存在風險、監管、法律
- Threadbois
背景
今年我很榮幸在 Infobip Shift 大會擔任主題演講，緊接在傳奇人物 John Romero 之後：
留言
登入後參與討論