AI Researcher & Engineer

4 minute read

https://github.com/chiphuyen/aie-book

GitHub - chiphuyen/aie-book: [WIP] Resources for AI engineers. Also contains supporting materials for the book AI Engineering (C

책 소개

이 책의 내용
기본 모델(Foundation Model)의 등장으로 AI는 전문 분야에서 누구나 사용할 수 있는 강력한 개발 도구로 변모했습니다. 이 책은 기본 모델을 활용하여 실제 문제를 해결하기 위한 엔드 투 엔드 과정과 기존 엔지니어링 분야에서 검증된 기술 및 기본 모델과 함께 등장한 새로운 기술을 다룹니다.

책이 판매되는 곳

  • 아마존
  • O’Reilly
  • Kindle
  • 기타 대부분의 기술 서적 판매처

이 책은 튜토리얼 책이 아닙니다. 코드 스니펫이 많지 않습니다.

이 책의 내용

이 책은 대규모 언어 모델(LLM)과 대규모 멀티모달 모델(LMM)을 특정 애플리케이션에 적합하도록 조정하는 프레임워크를 제공합니다. 다양한 AI 애플리케이션 구축 솔루션뿐만 아니라, 필요에 따라 최적의 솔루션을 평가할 수 있는 질문도 제시합니다. 이 책이 도와줄 수 있는 질문은 다음과 같습니다:

  • 이 AI 애플리케이션을 만들어야 할까?
  • 애플리케이션을 어떻게 평가할까? AI를 사용해 AI 출력을 평가할 수 있을까?
  • 헛소리(Hallucination)는 왜 발생하며, 이를 탐지하고 완화하는 방법은?
  • 프롬프트 엔지니어링의 모범 사례는?
  • RAG(Retrieval-Augmented Generation)는 왜 효과적이며, 전략은?
  • 에이전트란 무엇이며, 어떻게 만들고 평가할까?
  • 모델을 언제 파인튜닝해야 하고, 언제 하지 말아야 할까?
  • 필요한 데이터의 양과 데이터 품질 검증 방법은?
  • 모델을 더 빠르고, 저렴하며, 안전하게 만드는 방법은?
  • 피드백 루프를 통해 애플리케이션을 지속적으로 개선하는 방법은?

이 책은 또한 복잡한 AI 환경에서 모델 유형, 평가 기준, 다양한 사용 사례와 애플리케이션 패턴을 이해하는 데 도움을 줍니다.

내용은 실제 사례 연구를 바탕으로 설명되며, 풍부한 참고 자료와 다양한 배경의 전문가 검토를 통해 완성되었습니다. 이 책은 2년에 걸쳐 작성되었으며, 지난 10년간의 언어 모델 및 머신러닝 시스템 작업 경험을 토대로 하고 있습니다.

AI 엔지니어링(AIE)와 머신러닝 시스템 설계(DMLS)의 연관성

AIE는 DMLS와 상호 보완적입니다.

  • DMLS: 전통적인 머신러닝 모델(주로 표 형식 데이터, 특징 엔지니어링, 모델 훈련)에 초점.
  • AIE: 기본 모델에 기반한 애플리케이션(주로 프롬프트 엔지니어링, 컨텍스트 구성, 파라미터 효율적 파인튜닝)에 초점.

두 책은 독립적으로 읽을 수 있으나, 기본 모델과 전통적인 머신러닝 시스템이 모두 포함된 실제 시스템 작업에서는 두 분야에 대한 지식이 필요합니다.

이 책은 누구를 위한 것인가

이 책은 기본 모델을 활용하여 실제 문제를 해결하려는 사람을 대상으로 합니다. 기술적인 내용이 중심이며, AI 엔지니어, ML 엔지니어, 데이터 과학자, 엔지니어링 관리자, 기술 제품 관리자 등 기술적 역할을 가진 독자를 대상으로 합니다.

다음 상황에 해당하는 경우 이 책이 유용할 것입니다:

  • AI 애플리케이션을 구축하거나 최적화하려고 하며, 초기 단계 또는 프로덕션 단계로 발전시키고자 함.
  • 팀의 AI 개발 프로세스를 체계적이고 빠르며 신뢰할 수 있도록 만들고자 함.
  • 조직이 기본 모델을 활용해 비즈니스 성과를 개선하는 방법을 이해하고, 이를 위한 팀을 구축하고자 함.

또한 다음 그룹에도 유익합니다:

  • AI 엔지니어링 도구를 개발하며 시장의 니즈를 파악하려는 도구 개발자.
  • AI 활용 사례를 더 잘 이해하고자 하는 연구자.
  • AI 엔지니어로의 커리어를 준비하며 필요한 기술을 명확히 하고자 하는 구직자.
  • AI의 가능성과 한계를 이해하고, AI가 다양한 역할에 미칠 영향을 파악하고자 하는 사람.

리뷰

  • “이 책은 생성형 AI 시스템을 구축하기 위한 종합적이고 잘 구조화된 가이드를 제공합니다. 기업에서 AI를 확장하려는 전문가라면 꼭 읽어야 할 책입니다.” - Vittorio Cretella
  • “Chip Huyen은 생성형 AI의 전문가입니다. 실질적이고 홀리스틱한 가이드를 제공합니다.” - Luke Metz
  • “현실 세계 애플리케이션을 구축하려는 모든 AI 엔지니어에게 필수적인 책.” - Andrei Lopatenko
  • “툴과 트렌드가 아닌, 시대를 초월한 기본 지식에 초점을 맞춘 책.” - Aileen Bui
  • “AI 엔지니어링 분야에 입문하려는 사람들을 위한 결정적인 책.” - swyx
  • “생성형 AI 시스템을 실제로 구현하는 데 가장 최신 정보를 제공하는 실용적 가이드.” - Vicki Reyzelman

더 많은 정보를 Twitter @aisysbooks에서 확인하세요!

자료(Resource)

AI Engineering을 집필하는 동안, 저는 수많은 논문, 사례 연구, 블로그 게시물, 코드 저장소, 도구 등을 참고했습니다. 이 책에는 1,200개 이상의 참고 링크가 포함되어 있으며, 1,000개 이상의 생성형 AI 관련 GitHub 저장소를 추적해왔습니다. 이 문서는 다양한 주제를 이해하는 데 가장 유용했던 자료들을 담고 있습니다.

만약 유용한 자료가 있지만 여기에 포함되지 않았다면, PR(Pull Request)을 통해 자유롭게 추가해주세요.

목차

  • ML 이론 기초
  • Chapter 1. 기본 모델로 애플리케이션 설계
  • Chapter 2. 기본 모델 이해
    • 대규모 모델 훈련(Training large models)
    • 샘플링(Sampling)
    • 문맥 길이와 문맥 효율성(Context length and context efficiency)
  • Chapters 3 + 4. 평가 방법론(Evaluation Methodology)
  • Chapter 5. 프롬프트 엔지니어링(Prompt Engineering)
    • 프롬프트 엔지니어링 가이드(Prompt engineering guides)
    • 방어적 프롬프트 엔지니어링(Defensive prompt engineering)
  • Chapter 6. RAG와 에이전트(RAG and Agents)
    • RAG
    • 에이전트(Agents)
  • Chapter 7. 파인튜닝(Finetuning)
  • Chapter 8. 데이터셋 엔지니어링(Dataset Engineering)
    • 공개 데이터셋(Public datasets)
  • Chapter 9. 추론 최적화(Inference Optimization)
  • Chapter 10. AI 엔지니어링 아키텍처와 사용자 피드백(AI Engineering Architecture and User Feedback)
  • 보너스: 조직의 엔지니어링 블로그(Organization Engineering Blogs)

ML 이론 기초

기본 모델을 활용해 애플리케이션을 개발하기 위해 반드시 ML 배경지식이 필요하지는 않지만, AI가 내부적으로 어떻게 작동하는지 대략적으로 이해하면 잘못된 사용을 방지할 수 있습니다. ML 이론에 익숙해지면 훨씬 더 효과적으로 작업할 수 있습니다.

추천 자료

  • [강의 노트] Stanford CS 321N: 신경망 기초에 대한 오랜 인기 입문 강의.
  • [비디오] 2017년 강의 영상의 1~7강을 추천합니다. AI의 기본 개념을 다루며, 현재까지도 변하지 않은 핵심 내용을 포함하고 있습니다.
  • [비디오] Andrej Karpathy의 *“Neural Networks: Zero to Hero”*는 실습 위주의 강의로, 여러 모델을 직접 구현하는 방법을 보여줍니다.
  • [도서] Machine Learning: A Probabilistic Perspective (Kevin P Murphy, 2012)
    • 기초적이고 포괄적인 내용을 다루며, 다소 난이도가 높을 수 있습니다. 이 책은 연구직 이론 면접 준비를 위한 참고서로 많이 사용되었습니다.

추가 참고 자료

  • Aman’s Math Primers: 기본적인 미분 계산 및 확률 개념을 다루는 좋은 요약 자료.
  • MLOps 자료 목록: ML 및 엔지니어링 기초를 포함한 MLOps 관련 자료 목록 작성.
  • 1500자 요약: ML 모델의 학습 과정과 목적 함수(objective function), 학습 절차에 대한 간략한 설명 작성.

AI Engineering에서 다루는 주요 개념

  • Transformer 아키텍처 (Chapter 2)
  • 임베딩(Embedding) (Chapter 3)
  • 역전파(Backpropagation)와 학습 가능한 파라미터 (Chapter 7)

이 개념들은 논의와 직접적으로 관련이 있는 중요한 내용입니다. ML에 대한 기초 지식을 쌓으면 더욱 깊이 있는 AI 활용이 가능할 것입니다.

Chapter 1. 기본 모델을 활용한 애플리케이션 설계

GPTs are GPTs: 대규모 언어 모델의 노동 시장 영향에 대한 초기 분석 (OpenAI, 2023)

OpenAI(2023)는 다양한 직업군이 AI에 얼마나 노출되어 있는지에 대한 우수한 연구를 수행했습니다.

  • 노출된 작업: AI 및 AI 기반 소프트웨어가 작업 소요 시간을 50% 이상 단축할 수 있는 작업으로 정의.
  • 예: 80% 노출도는 해당 직업군 작업 중 80%가 AI에 의해 영향을 받을 수 있음을 의미.
  • 연구에 따르면, 100% 또는 거의 100% 노출된 직업군은 통역사와 번역가, 세무사, 웹 디자이너, 작가 등이 포함됩니다.
  • 반대로, AI에 전혀 노출되지 않는 직업군은 요리사, 석공, 운동선수 등이 있습니다.
    이 연구는 AI가 적합한 사용 사례가 무엇인지에 대해 유용한 통찰을 제공합니다.

Applied LLMs (Yan et al., 2024)

Eugene Yan과 연구진이 LLM 애플리케이션을 1년간 배포한 경험에서 얻은 교훈과 실용적인 팁을 공유합니다.

Comments

You May Also Enjoy