10-202: 현대 인공지능 입문 (CMU)

3 weeks ago 11

  • 카네기멜론대학(CMU) 에서 개설된 이 강의는 현대 인공지능 시스템의 작동 원리를 다루는 입문 과정임
  • 머신러닝과 대규모 언어모델(LLM) 을 중심으로, ChatGPT·Gemini·Claude 같은 시스템의 기반 기술을 학습함
  • 수강자는 기초 지도학습, 신경망, 트랜스포머, 사후 학습(post-training) 을 익히고, 오픈소스 LLM을 직접 구현할 수 있음
  • 온라인 버전은 무료로 제공되며, CMU 수업보다 2주 지연된 일정으로 강의 영상과 과제가 공개됨
  • AI 도구 활용을 허용하되, 최종 제출물은 스스로 작성할 것을 권장하며, 이는 학습 이해도를 높이기 위한 정책임

강의 개요

  • 본 강의는 현대적 의미의 인공지능(AI), 즉 머신러닝과 대규모 언어모델(LLM) 을 중심으로 구성됨
    • ChatGPT, Gemini, Claude 등과 같은 시스템의 기반 기술을 다룸
    • LLM의 기본 구현은 소수의 머신러닝 기법과 구조로 구성되며, 수백 줄의 코드로 작성 가능함
  • 수강자는 지도학습, LLM, 사후 학습(post-training) 의 기본 원리를 익히고, AI 챗봇을 직접 구현할 수 있음
  • 다루는 주요 주제는 다음과 같음
    • AI의 간략한 역사
    • 지도학습: 선형모델, 손실함수, 최적화, 신경망
    • 대규모 언어모델: 자기어텐션, 트랜스포머, 토크나이저, 효율적 추론
    • 사후 학습: 지도 미세조정, 정렬 및 명령 튜닝, 추론 모델, 안전 및 보안

온라인 과정

  • 무료 온라인 버전이 CMU 수업과 동시에 개설되며, CMU 일정보다 2주 지연된 콘텐츠를 제공함
    • 강의 영상, 과제(mugrade 시스템), Colab 노트북 등이 포함됨
    • 퀴즈, 중간·기말시험은 온라인 버전에 포함되지 않음
  • Enroll here를 통해 강의 및 과제 공개 시 이메일 알림을 받을 수 있음
  • TA, 오피스아워, 성적평가 등은 CMU 수업에만 해당됨

평가 및 선행 요건

  • 성적 구성
    • 과제 및 프로그래밍 20%
    • 과제 퀴즈 40%
    • 중간·기말시험 40% (각 중간 10%, 기말 20%)
  • 필수 선행 과목
    • 프로그래밍: Python 기반 객체지향 프로그래밍 숙련 필요 (15-112 또는 15-122)
    • 수학: 미분 계산을 포함한 기초 미적분(21-111 또는 21-120), 선형대수·확률 기초 권장

과제 및 프로그래밍

  • 주요 과제는 AI 챗봇의 점진적 구현을 목표로 함
    • mugrade 시스템을 통해 제출하며, Colab 및 Marimo 노트북 버전 제공
    • 일부 과제는 이전 과제의 결과를 기반으로 진행됨
  • 과제 목록
    • HW0: 자동 채점 및 프로그래밍 기초
    • HW1: 선형대수 및 PyTorch
    • HW2: 자동미분 및 선형모델 학습
    • HW3: 신경망 학습
    • HW4: 트랜스포머 구현
    • HW5: 최소 LLM 구현
    • HW6: 지도 미세조정 및 챗봇 학습
    • HW7: 강화학습
  • 각 과제 후에는 15분 퀴즈가 있으며, 과제 코드나 개념을 기반으로 출제됨

시험 및 강의 일정

  • 중간고사 2회, 기말고사 1회로 구성되며, 모두 오프라인·폐쇄형 시험임
    • 중간 1: 지도학습
    • 중간 2: 대규모 언어모델
    • 기말: 누적 평가(후반부 비중 높음)
  • 강의 일정은 학기 중 업데이트되며, 온라인 버전은 2주 후 공개됨
    • 예: 1/12 ‘AI의 역사’, 1/28 ‘선형모델’, 2/16 ‘중간고사 1’, 3/18 ‘중간고사 2’, 4/20 ‘HW7 마감’ 등

AI 도구 사용 정책

  • AI 도우미 사용 허용: 과제 및 프로그래밍 시 AI 도구를 참고용으로 사용할 수 있음
  • 단, 최종 제출물은 직접 작성할 것을 강력히 권장함
  • 수업 중 평가(퀴즈·시험)에서는 AI 및 외부 자료 사용 금지
  • 정책의 목적은 학습 효율 향상에 있음
    • AI는 학습 보조에 유용하지만, 과도한 의존은 이해도 저하로 이어질 수 있음
    • 스스로 과제를 해결한 학생이 퀴즈·시험에서 더 좋은 성과를 내는 경향이 있음

Read Entire Article