반응형 대학원45 대학원생 1학기 14주차 후기 중간고사가 늦게 끝나서 기말고사가 너무 빨리 다가오는 거 같다 ㅂㄷㅂㄷ - 기계 학습 특론RNN, 그리고 LSM과 GRU에 대해 배웠다.RNN으로 IMDB 리뷰 분류를 실습하는 시간을 가졌다. - 응용 데이터 분석prompt engeering.LLM의 할루시네이션 문제를 보완하는 RAG를 배웠다.성능 향상 기법과 관련해서 top K, HyDE 등에 대해서도 배웠다. 신형 LLM에 대한 얘기 중 미스트랄이라는 회사를 알게 되었다.온톨로지 개념과 관련해 팔란티어 소개해 주셨다.그리고 claude 3도 알게 되었다. 오픈ai에 있었던 사람들이 나와 하나 씩 창업을 하는 가보다.여기서 올리는 글도 봐볼까 싶다.https://www.anthropic.com/news/mapping-mind-language-mode.. 2024. 6. 18. 대학원생 1학기 13주차 후기 6/16. 이제 회사 일이 잠깐 없는 공백기(?)라 13-15주차 밀린 글들을 써본다. ㅠ - 기계 학습 특론CNN과 함수형 API에 대해 배웠다. 학생들의 이해를 돕기 위한 ppt 내 손그림 st. 그림들이 인상적이다. 마지막 추가 과제가 나왔다. ai hub에 있는 상하수도 누수감지 관련해서 분류 모델을 만들고, 이에 대해 레포트를 제출하는 거였다. 6/15 자정까지였는데, 아슬아슬하게 제출했다.학부 때 레포트 쓸 일이 별로 없었는데, 계속 쓰다 보니까 조금 익숙해졌다. - 응용 데이터 분석Transformer에 대해 배웠다.Encoder 기반의 Bert, Decoder 기반의 GPT...오픈ai 뜬 거 보면 요즘 빅테크 기업들이 논문 공개를 안 할 만도 하다 ^^... SKT에서 공개했던 kober.. 2024. 6. 16. 대학원생 1학기 12주차 후기 3주 연속 하루에 3과목을 연달아 오프라인 수업을 들었더니 체력적으로 조금 힘들다 (?) 회사 플젝은 왜 즐줄이 있는건지 ㅠ그나마 (셀털 방지) 다음 학기부턴 잘- 하면 평일에 수업을 들을 수 있을지도…? ㅎㅎ그나저나 방학에 뭐 할 지가 고민이다. 일단 여행은 확정인데…논문 졸업 요건에 있는 영어 성적부터 (700인가) 해볼까 싶기도 하다.얼마 전에 딥러닝 같이 듣는 특대 지인에게 방학 계획을 물어봤는데, 토익 볼 거래서 해서 솔깃했다. 영어 공부나 좀 해볼까?- 스터디가 막바지로 가고 있다. 이번 주는 갑자기 쉬게 되었다.다음주에 소스 다같이 보고 튜닝하고 마무리하지 않을까 싶다.kaggle 이미지 데이터를 이용한 분류에 대해서 미니 프로젝트를 하게 되었다.실제로 competition에 참여한다면 더 .. 2024. 5. 30. 대학원생 1학기 11주차 후기 - 스터디쉬는 날이라서 생략. - 딥러닝Transformer를 배웠다.교수님은 수식이 아닌 자신만의 언어로 표현하시는 것에 능하신 거 같다.Attention만 해도... 이는 정보를 조합하는 과정이고,(query) content와 (x들) condition으로 content와 유사한 새로운 z를 만들어내는 과정이고,content가 condition에 있는 거면 self attention, condition에 없는 단어이면 cross attention이라고.이렇게 수식을 말할 수 있어야 정말 이해한 거라고 하셨다. 다시 복습 좀 해야겠다 ;; - 기계 학습 특론이번 주까지는 수업이 없다. 다음 주까지 계속 발표가 있다. 물론 다음 주부터는 다시 online 강의가 있지만 ㅋ사람들 발표를 듣는 건 꽤나 흥미.. 2024. 5. 29. 이전 1 ··· 3 4 5 6 7 8 9 ··· 12 다음 반응형