반응형 대학원/대학원 생활37 대학원생 2학기 5주차 후기 이때 인공지능을 위한 수학의 중간고사 공지가 떴다.중간고사 3주 전이라니.. 공부해야겠는데..10월까지 플젝이 있어서 휴가를 쓰지 못하는 점이 걱정... T.T 1. 자연어 처리 1) 수업 내용- online 강의지난 주에 배웠던 확률 및 정보이론의 기초에 이어서 배웠다.NLP에서는 엔트로피는 불확실성에 대한 지표라서, 모델이 언어의 구조를 더 많이 파악할수록, 엔트로피는 낮다.엔트로피는 모델의 품질을 측정할 때 사용한다. - zoom 강의KL Divergence 에서 KL(p|q)는 0이상이고, KL(p|q)와 KL(q|p)는 다르다.KL Divergence 를 Symmetric하게 개량한 Jensen-Shannon Divergence에 대해 배웠다. 2) Summarization 관련 논문 발표 내용.. 2024. 10. 27. 대학원생 2학기 4주차 후기 10/26, 드디어 한가해졌다... 밀린 글들을 하나 씩 올려본다. 1. 자연어 처리 1) 수업 내용 - online 강의확률 및 정보이론의 기초에 대해 배웠다. 뭐, 베이즈 정리, MLE, entropy, KL divergence 이런 거다.NLP랑 어떻게 엮일까..라는 궁금증이 있었는데, 이번 기회에 정보이론이라는 걸 알게 되면서 해소되었다. - zoom 강의online은 질의응답 + 논문 발표이다. 수강 당시에 내용 정리를 텍스트로 안 해놔서 이부분은 대강 올린다........MLE는 likelihood 함수의 최대값을 찾는 방법이다.Cross entropy가 loss function으로 사용 가능하다. 2) Machine Translation 관련 논문 발표 내용 요약 - 기존의 기계번역(이하 N.. 2024. 10. 26. 대학원생 2학기 3주차 후기 (Feat. 첫 스터디 모임) 3주차 토요일에야... 이번 학기 처음으로 학교를 가게 되었다.회사갈 때보다 더 일찍 일어나야 1교시 수업을 들을 수 있다 보니, 혜화까지 통학하는 게 굉장히 힘들다.하지만, 역시 오프라인을 하나는 들어야 하는 거 같다. 학교 오니까... 좋다!ㅎ 다변량 통계 (토요일 1교시) 수업이 끝나고 나서 다같이 점심을 먹었다.이날 없는 분도 있었지만, 일단 대략적으로 슬슬 계획을 세워야 하니까점심 먹고 나서 교내 도서관으로 향했다. 스터디룸이 생각보다 잘 돼 있다. 도서관에 이날 따라 사람이 많았다. 일단은 인당 상관없이 2회 씩 발표하기로 했다.뭐.. 방학 전에 발표 다 못 하게 된다면, 방학에도 킵고잉 하기로 ㅇ...대충 CV를 좋아하면 비전을 발표하고, NLP를 좋아하면 자연어를 발표하는 식이다.다 같이 .. 2024. 9. 28. 대학원생 2학기 2주차 후기 (Feat. 자연어처리 수업은요.) 2주차. 추석이 있어 다행이었다. 이번주 평균 수면 시간이 4시간일 듯?그와중에 업스테이지 강의까지 들으려고 고생 고생했다 ㅂㄷㅂㄷ이번 글은 자연어 처리 빼고 배운 게 없는 지라 이거 위주로 설명한다.1. 자연어 처리1) 수업 방식수업은 플립러닝 방식이라 온라인 사전학습 반, 실시간 zoom 반이다.온라인 사전학습 후 학습 내용에 대해 질문을 남기는 게 과제이고,zoom에서는 그 과제(질문) 중 일부에 대해 답변을 하시면서 30분 가량 설명해 주시고,2인 1조로 각 논문 당 15분 정도로 발표를 하게 되고, 이후에 교수님이 추가적으로 설명을 해주신다.2) 수업 내용ambiguity resolution ~ classification ~ MLP- number로 단어의 의미를 표현하는 knowledge rep.. 2024. 9. 24. 이전 1 2 3 4 5 6 ··· 10 다음 반응형