2024년 업데이트

CascadiaJS 2024에서 이 발표의 업데이트 버전을 선보였습니다! 슬라이드는 여기에서 보실 수 있으며, 영상은 공개 예정입니다.

2023년 발표

3년 연속으로 Infobip Shift에 초청받아 영광이었는데, 이번에는 정말 놀랍고 영광스럽게도 전설적인 존 로메로 바로 다음 순서로 키노트 무대에 섰습니다:

이렇게 큰 무대에서 제 슬라이드와 “아트워크”가 소개되는 걸 보는 건 아직도 비현실적으로 느껴지고, 유럽 분들이 아직 업무에서 매일 겪는 일은 아니면서도 내용을 완전히 이해해 주셔서 인상 깊었습니다. Shift 트위터 계정 담당자분은 실시간으로 노트를 정말 잘 정리해 주셨습니다. 또 정말 친절한 기자분 덕분에 Al Jazeera와 즉석 인터뷰도 진행했습니다.

개요

모두가 AI에 열광하면서 노이즈와 과장, 데모는 넘쳐나지만 정작 실전 활용 사례에 대한 가이드는 부족합니다. 누가 무엇을 하고 있는지에 대한 멘탈 모델을 짚어보고, 기회가 어디에 있으며 AI를 전공하지 않은 개발자가 어디서부터 이 세계에 발을 들여야 하는지 설명합니다.

슬라이드

https://docs.google.com/presentation/d/1WPULCJsbdsYLTEnAzkdVtqKRDdx4MrfMH04u5HAD4Wc/edit?usp=sharing

이 발표의 축약 버전을 Daily.dev에서 선보였습니다

React Summit US에서 발표한 20분 버전

영상

그리고 React Summit 20분 버전

원본 노트

목표 25분

• 5분: DATA 타임라인, 데이터 근거
  • 광풍
    • AI AI I/O
    • 에이전트의 부상
    • 엔터프라이즈에서는 도입이 지지부진? https://twitter.com/bentossell/status/1686387000260358145
      • HN 인용
    • Sarah Guo 인용
  • 사람들
  • 압도적인 논문 발행 속도
  • AGI 폭증 https://x.com/swyx/status/1653887955474460672?s=20
    • 그리고 AGI에 대한 두려움 -> wait but why, not kill everyone 밈
    • https://x.com/swyx/status/1653885657448841216?s=20
  • 오픈소스 AI 모델 개발 https://x.com/swyx/status/1653891330668658689?s=20 및 트랜스포머 변형 https://x.com/swyx/status/1653890389039013889?s=20
  • Chegg 교과서와 Stack Overflow의 붕괴
  • AI로 누가 돈을 벌고 있는가
    • Jasper
    • Midjourney
    • Copilot
    • ChatGPT
    • Character.ai
    • Agents?
    • 사례 연구
      • Levelsio
      • Headlime
      • Zapier AI
      • Notion AI
      • Vercel AI
• 5분: 트렌드: AI 엔지니어의 부상
  • 소프트웨어 3.0이란 무엇인가?
    • 소프트웨어 1.0 vs 2.0
    • 소프트웨어 3.0 -> 코드가 중요하다
    • ???
  • https://huyenchip.com/2023/08/16/llm-research-open-challenges.html
    1. 할루시네이션 감소 및 측정
    2. 컨텍스트 길이 및 컨텍스트 구성 최적화
    3. 다른 데이터 양식 통합
    4. LLM을 더 빠르고 저렴하게 만들기
    5. 새로운 모델 아키텍처 설계
    6. GPU 대안 개발
    7. 에이전트를 쓸 만하게 만들기
    8. 인간 선호로부터의 학습 개선
    9. 채팅 인터페이스의 효율성 개선
    10. 비영어권을 위한 LLM 구축
  • AI 엔지니어의 분야
    • 프롬프트 엔지니어링 & 구조화된 응답
    • AI UX
    • OSS AI - 호스팅 및 인프라
      • 로컬 LLM U자 곡선 주의
    • OSS AI - 파인튜닝 및 평가
    • AI 생산성 개발 도구
    • AI를 위한 툴링
    • AI 에이전트
• 5분: 사례: Latent Space 하이라이트
  • 기초: 데이터셋, 벤치마크, 알고리즘
  • 셀럽: Geohot, Chris Lattner, Code Interpreter, AI 엔지니어의 부상, Replit, 리버스 프롬프트 엔지니어링
  • 직관에 반하는 교훈
    • Bitter Lesson - 인코딩하는 것은 일시적인 향상일 뿐이다
    • RAG - 두 번째 뇌
    • 코드가 항상 더 낫다
      • Replit 모델
    • 더 크다고 항상 더 좋은 건 아니다
      • Chinchilla - Llama
      • Phi-1 데이터 논문, tinystories
      • 확장을 위한 트릭이 있다 - Geohot 1.7T
      • 모델의 티셔츠 사이징
    • 원시 데이터셋은 과대평가되어 있다
      • 매년 계속 업데이트할 필요는 없다
      • 데이터셋에 대한 딥러닝 -> 4가지 학습 유형
      • https://twitter.com/altryne/status/1661236778458832896
      • Llama 2 - 예상 비용 25억
    • 에이전트가 미래다
• 5분: 지형도 발표
  • 카테고리에 동일한 가중치를 두는 것은 잘못이다
    • https://twitter.com/swyx/status/1701472499840532853/photo/2
  • 설문조사
  • 파운데이션 모델
    • openai
    • anthropic
  • 라이브러리/프레임워크
    • LangChain
    • LlamaIndex
    • Deepset Haystack
    • Vercel AI
    • Semantic Kernel
    • Guardrails
    • Guidance
  • 벡터 DB
    • 벡터 DB
  • OSS 호스팅/학습
    • ?
  • 기타
    • 프롬프트 관리
    • 모니터링/관측 가능성
• 5분 Latent Space University - cityjs 발표 자료 재활용 - 0: 프롬프트 하는 법 배우기 1. OpenAI GPT3 API 기초 (완료) 1. 토큰이란 무엇인가 https://twitter.com/swyx/status/1653893171787747329 2. 프롬프트 툴링 및 메모리 (완료) 3. GPT3로 코드 생성 (완료) 4. Dall-E, Stability AI, Lexica, Midjourney로 이미지 생성 (제작 중) 5. Whisper로 음성을 텍스트로 변환 (미정) 6. 오픈소스 모델 파인튜닝 및 실행 (미정) 7. AI 에이전트
• 당신은 너무 늙지 않았다
  • https://www.latent.space/p/not-old
  • AI 엔지니어의 기회
    • 프롬프트 엔지니어링
    • AI UX
    • OSS AI - 호스팅 및 인프라
    • OSS AI - 파인튜닝 및 평가
    • AI 생산성 개발 도구
    • AI를 위한 툴링
    • AI 에이전트
  • 고려 사항
    • 윤리, 소싱
    • 보안 - 소프트웨어 2.0 보안
    • 멀티모달리티
  • 배제할 것:
    • AGI는 어렵다
    • Google vs OpenAI vs Meta 전쟁
    • X-risk, 규제, 법률
    • Threadbois

맥락

올해 Infobip Shift 컨퍼런스에서 전설적인 존 로메로 바로 다음 순서로 키노트를 맡게 되어 영광이었습니다: