대학원생 1학기 13주차 후기

6/16. 이제 회사 일이 잠깐 없는 공백기(?)라 13-15주차 밀린 글들을 써본다. ㅠ

 

- 기계 학습 특론

CNN과 함수형 API에 대해 배웠다. 학생들의 이해를 돕기 위한 ppt 내 손그림 st. 그림들이 인상적이다.

 

마지막 추가 과제가 나왔다. ai hub에 있는 상하수도 누수감지 관련해서 분류 모델을 만들고, 이에 대해 레포트를 제출하는 거였다. 6/15 자정까지였는데, 아슬아슬하게 제출했다.

학부 때 레포트 쓸 일이 별로 없었는데, 계속 쓰다 보니까 조금 익숙해졌다.

 

- 응용 데이터 분석

Transformer에 대해 배웠다.

Encoder 기반의 Bert, Decoder 기반의 GPT...

오픈ai 뜬 거 보면 요즘 빅테크 기업들이 논문 공개를 안 할 만도 하다 ^^...

 

SKT에서 공개했던 kobert 활용 분석 모델과 github에 공개된 네이버 영화 데이터로

영화 줄거리를 바탕으로 장르를 맞추는 LLM을 만들어보았다.

 

- 딥러닝

GAN에 대해 이어서 배웠다. (info Gan, cycle Gan)

근데 GAN보다는.. 다른 개념들이 더 main이 된 게 함정이다...ㅋㅋㅋㅋ 그래서 MobileNet을 그 다음주에 배웠다;;

 

mode collapse의 수식을 설명하던 중..  

조건부 확률과 MI, likelihood, maximum likelihood estimation

... entropy, cross entropy, KL divergence에 대해 설명을 쭉 듣게 되었다. ^^!

수식의 의미를 명확하게 설명해주셔서 였을까,

학부 때 교수님께 확률을 제대로 못 배운 거 같다는 생각이 문득 든다. ㅎ...