728x90
1. 강의 복습 내용
- 과거엔 트렌드였지만 현재는 잘 쓰이진않지만 컨셉을 알고가야하는 핵심적인 모델 구조 몇가지를 배웠다.
- 완전 기초적으로 MLP(Multi Layer Perceptron)와 Optimization기법들을 배우면서 빈칸을 채우는 실습을 진행했다.
- RNN을 기본으로 LSTM과 BERT의 기본인 Transformer의 구조를 파헤쳐봤다. (개인적으로 써보긴했으나 이렇게 분석적으로 코드까지 접근한 적이 없기 때문에 매우 유익했다.)
- GAN같은 경우 적용해본적이 있어 익숙하다 생각했지만, 수식과 코드적으로 접근하니 매우 색달라서 주말에 시간을 할애해서 다시 학습해야할 것 같다.
- 특이하게 Data Visualization을 같이 진행했는데, Data Scientist 직무를 지향하기 때문에 매우 유익했고, 안수빈 선생님의 Kaggle 노트북을 보며 좀 더 와닿게 접근했다.
2. 학습 수행 과정 / 결과물 정리
- 도메인이 NLP인지라 사실 CNN의 컨볼루젼 연산을 이해했지만 기본적으로 Self-Attention에 집중을 더욱 하였다.
- Attention의 과제는 빈칸채우기라 유익했지만 좀 더 직관적으로 이해하기 위해서 "가르쳐준다"는 마인드로 접근해보았다.
- 실제로 Q, K, V값을 손으로 풀어보는 과정을 정리했고, 이 과정으로 피어세션 때 팀원들에게 설명까지 성공적으로 했다.
3. 피어세션 정리
- 대회 코딩 진행속도가 너무 빨라 팀원과의 편차를 몸소 느꼈다. 그렇다고 놓고 간다는게 아니라 오히려 너무 빠른 사람이 속도를 늦춰 다같이 가는 팀워크적인 부분을 더욱 부각시켰다. (장기적으로 서로 인재인건 확실하니까 배운게 다르더라도 배울 점은 있기 때문에 같이 간다!!)
- 왜? 라는 질문이 한번 정도는 아는 선에서 처리가 가능했지만, 두세번이 지났을 때 막히는 것을 확인했다. 부스트캠프에 Pretrained Model에 의존하지 않고 단독적인 모델도 구성할 정도의 Skill을 얻고 싶어 지원했기 때문에 안다고 착각하지말고 끝까지 파고드는 연습을 해야할 것 같다.
4. 학습회고
- 확실히 최성준 교수님의 말대로 누굴 가르쳐준다는 것은 또다른 개념이고 물론 처음부터 남을 이해시키기란 어렵지만, 거기서 나오는 경험과 정보가 있다.
- 그렇기 때문에 블로깅을 잘 해야하는 것이 내가 얼마나 이해를 했는지 재차 확인도 하면서 직관적으로 배출까지 해야 기업의 면접에서도 Killing Point가 될 수 있다!!
세 줄 요약
- 모르는 걸 인정하자
- Attention 이해하고 나면 꿀잼!!
- 무언가 습득할 때, 스스로 5Why 프로세스를 밟자
'지속적 메타인지 (Continuous Metacognition, CM) > 회고록' 카테고리의 다른 글
부스트캠프 Final Project의 막바지.. (0) | 2023.02.08 |
---|---|
[네이버 부스트 캠프 AI Tech 4기] Week 5 주간 회고록 (0) | 2022.10.21 |
[네이버 부스트캠프 AI Tech 4기] Week_4_주간 회고록 (0) | 2022.10.14 |
[네이버 부스트캠프 AI Tech 4기] Week_2_주간 회고록 (1) | 2022.09.30 |
[네이버 부스트캠프 AI Tech 4기] Week_1_주간 회고록 (0) | 2022.09.23 |