문제 설명

링크

• 항목 단위의 첫 자리에 달러표시 2개로 시작하는 수식이 오면 에러가 난다..
• Notion과는 달리 \argmin, \argmax는 없는 기호이다..
• | 기호(Shift + backslash)는 \vert로 대체하여 표현해야 수식이 안 깨진다..
• 수식 내에 변수를 굵게 표현해야 할 때가 있다. \bold 대신 \mathbf를 써야 한다..
• Notion의 수식 표현과 github blog의 수식 표현간의 호환을 고려해야 하는 피곤함이 아직 존재한다..
• 하나 더 추가하자면, \text내에 공백을 넣기 위해 \;를 삽입하는 대신 스페이스바를 이용해 공백처리를 하면 된다..
• 굉장히 귀찮다.

Generative Models Part 1

IT 기술 용어가 배경지식이 없으면 생소할 수 있어서 한글 표현을 많이 써보려고 했는데, 부스트캠프/부스트코스 강의 내용의 영어 용어 등을 번역 내지는 순화하여 블로그 포스팅하는 것은 시간 소모가 크다보니 후순위 작업으로 밀리게 될 듯하다.

Recurrent Neural Networks (RNNs)

Convolutional Neural Networks

• 30분 내 담기에 너무 방대한 주제
• 각각의 분야마다 최소 한 학기 이상 공부하는 분야
• 줄이고 줄여서 실제로 적용 시 중요하게 알아두어야 할 개념들 위주로

멀티 GPU

모델 병렬화(Model parallel)

• 다중 GPU에 학습 분산을 하는 두 가지 방법
  • 모델 나누기
  • 데이터 나누기
• 모델 나누는 것은 예전부터 쓰였음(AlexNet)
• 모델의 병목, 파이프라인의 어려움 등으로 인해 모델 병렬화는 고난도 과제
  \(\rightarrow\) Q. 컴퓨터 아키텍처, 운영체제 등을 잘 알아야 하는 이유가 되는 부분?

읽을거리

• Machine Learning: Why xW+b instead of Wx+b?
• 부스트코스 - PyTorch 강의