2024年アップデート

CascadiaJS 2024でこのトークのアップデート版を発表しました！スライドはこちら、動画は公開待ちです。

2023年の講演

3年連続でInfobip Shiftに招待していただき光栄でしたが、今回は驚いたことに、そして大変光栄なことに、伝説のJohn Romeroの直後に基調講演のステージを任せていただきました。

あのような大きなステージで自分のスライドや「アートワーク」が披露されるのを見るのは今でも信じられない思いですし、ヨーロッパの人々が、まだ仕事で日常的に触れていなくても、それをしっかり理解してくれたことも印象的でした。ShiftのTwitterアカウント担当者はライブでの実況メモがとりわけ見事でした。さらに、とても親切な記者の方からたまたまAl Jazeeraのインタビューも受けました。

概要

誰もがAIに夢中になり、ノイズやハイプ、デモがあふれていますが、実践的なユースケースについての指針はあまりありません。このトークでは、誰が何をしているのかを整理するためのメンタルモデルを紹介し、どこに機会があるのか、そしてAI専門ではない開発者がどこからその深みにハマっていけるのかを解説します。

スライド

https://docs.google.com/presentation/d/1WPULCJsbdsYLTEnAzkdVtqKRDdx4MrfMH04u5HAD4Wc/edit?usp=sharing

この内容の短縮版をDaily.devでも発表しました

React Summit USで発表した20分バージョン

動画

そしてReact Summit版の20分バージョン

未整理ノート

目標25分

• 5分：DATAタイムライン、データによる裏付け
  • 狂騒
    • AI AI I/O
    • エージェントの台頭
    • エンタープライズでは採用が進んでいない？ https://twitter.com/bentossell/status/1686387000260358145
      • HNの引用
    • Sarah Guoの引用
  • 人々
  • 論文の公開スピードが圧倒的
  • AGIの急騰（foom） https://x.com/swyx/status/1653887955474460672?s=20
    • そしてAGIへの恐怖 -> Wait But Why、「みんなを殺さないで」ミーム
    • https://x.com/swyx/status/1653885657448841216?s=20
  • オープンソースAIモデルの開発 https://x.com/swyx/status/1653891330668658689?s=20 とTransformerの派生モデル https://x.com/swyx/status/1653890389039013889?s=20
  • Cheggの教科書とStack Overflowの凋落
  • AIで誰が稼いでいるのか
    • Jasper
    • Midjourney
    • Copilot
    • ChatGPT
    • Character.ai
    • エージェント？
    • 事例
      • Levelsio
      • Headlime
      • Zapier AI
      • Notion AI
      • Vercel AI
• 5分：トレンド：AIエンジニアの台頭
  • Software 3.0とは？
    • Software 1.0 vs 2.0
    • Software 3.0 -> コードが重要
    • ???
  • https://huyenchip.com/2023/08/16/llm-research-open-challenges.html
    1. ハルシネーションの削減と測定
    2. コンテキスト長とコンテキスト構築の最適化
    3. 他のデータモダリティの統合
    4. LLMの高速化と低コスト化
    5. 新たなモデルアーキテクチャの設計
    6. GPUの代替手段の開発
    7. エージェントを使いやすくする
    8. 人間の嗜好からの学習の改善
    9. チャットインターフェースの効率向上
    10. 非英語向けLLMの構築
  • AIエンジニアの専門分野
    • プロンプトエンジニアリングと構造化レスポンス
    • AI UX
    • OSS AI — ホスティングとインフラ
      • ローカルLLMのU字カーブに注意
    • OSS AI — ファインチューニングと評価
    • AI生産性向上のための開発ツール
    • AIのためのツーリング
    • AIエージェント
• 5分：事例：Latent Spaceハイライト
  • 基礎：データセット、ベンチマーク、アルゴリズム
  • 著名人：Geohot、Chris Lattner、Code Interpreter、AIエンジニアの台頭、Replit、リバースプロンプトエンジニアリング
  • 直感に反する教訓
    • 苦い教訓 — エンコードすることは一時的なブーストに過ぎない
    • RAG — セカンドブレイン
    • コードは常に優れている
      • Replitモデル
    • 大きければ良いとは限らない
      • Chinchilla - Llama
      • Phi-1データ論文、TinyStories
      • スケールさせるトリックはある — Geohotの1.7兆
      • モデルのTシャツサイズ分類
    • 生データセットは過大評価されている
      • 毎年更新し続ける必要はない
      • データセットでのディープラーニング -> 4種類のトレーニング
      • https://twitter.com/altryne/status/1661236778458832896
      • Llama 2 — 推定コスト25億
    • エージェントが未来だ
• 5分：ランドスケープの紹介
  • カテゴリに均等な重み付けをするのは誤り
    • https://twitter.com/swyx/status/1701472499840532853/photo/2
  • 調査
  • 基盤モデル
    • openai
    • anthropic
  • ライブラリ／フレームワーク
    • LangChain
    • LlamaIndex
    • Deepset Haystack
    • Vercel AI
    • Semantic Kernel
    • Guardrails
    • Guidance
  • ベクターデータベース
    • Vector DBs
  • OSSホスティング／トレーニング
    • ?
  • その他
    • プロンプト管理
    • モニタリング／オブザーバビリティ
• 5分 Latent Space University — CityJSトークからの再利用 — 0: プロンプトの書き方を学ぶ 1. OpenAI GPT3 APIの基礎（完了） 1. トークンとは何か https://twitter.com/swyx/status/1653893171787747329 2. プロンプトのツーリングとメモリ（完了） 3. GPT3によるコード生成（完了） 4. Dall-E、Stability AI、Lexica、Midjourneyによる画像生成（制作中） 5. Whisperによる音声テキスト変換（未定） 6. オープンソースモデルのファインチューニングと実行（未定） 7. AIエージェント
• 君は年を取りすぎてなんかいない
  • https://www.latent.space/p/not-old
  • AIエンジニアの機会
    • プロンプトエンジニアリング
    • AI UX
    • OSS AI — ホスティングとインフラ
    • OSS AI — ファインチューニングと評価
    • AI生産性向上のための開発ツール
    • AIのためのツーリング
    • AIエージェント
  • 検討すべきこと
    • 倫理、出典
    • セキュリティ — Software 2.0のセキュリティ
    • マルチモーダル
  • 対象外とすること：
    • AGIは困難
    • Google vs OpenAI vs Metaの覇権争い
    • 存在リスク、規制、法律
    • Threadbois

背景

今年のInfobip Shiftカンファレンスで基調講演を務める栄誉にあずかりました。伝説のJohn Romeroの直後の登壇でした。