uomnf97

1. What I Learned... 이번주는 NLP 도메인의 Level 1 기초 대회가 마무리되었다. STS(semantic Textual Similarity)라는 Task의 NLP 도메인 대회를 ai.stages에서 Kaggle과 Dacon과 유사한 플랫폼에서 진행했는데, public 전체 2위 private 전체 1위를 달성하였다. 대회를 진행하며 팀장으로 Github관리 및 Notion 관리를 하고 데이터에 대한 EDA를 진행하고 end-to-end로 Hugging Face 모델을 이용해서 학습하고 튜닝을 진행했다. 그리고 팀에서 내가 한 EDA를 바탕으로 데이터 증강을 진행했는데, 해당 증강으로 성능에 유의미한 향상에 기여한 것 같아 의미가 있는 대회였다. 2주간 많은 노력을 했고, 협업이나 모..

1. What I Learned... 이번주는 NLP 도메인의 Level 1 기초 대회가 시작되었다. 따라서 부스트캠프에서는 NLP 대회에 참여할 수 있도록 전반적인 NLP Task에 대해서 강의를 제공해주었다. 정상근 마스터님 수업을 들었는데, NLP에서 문제를 어떻게 정의하고 어떻게 추상화하고 구조화하여 정리할 수 있는지 N21, N2N, N2M Task로 나누어서 설명해주셨다. 그리고 이후에 Pytorch Lightning, Hugging Face와 같이 모델의 기본적인 베이스라인을 작성해줄 수 있는 툴을 알려주었다. 그리고 N21, N2N, N2M 각 테스크별로 어떻게 다뤄야할지 상세하게 강의해주셨고, 실습을 진행했다. 그리고 스페셜 미션을 통해서 데이터 분석 방법(EDA), 하이퍼파라미터 튜닝 ..

1. What I Learned... 이번주는 도메인 관련 NLP 강의를 듣는 두번째 주였다. 이번주 강의에서는 Seq2seq 모델 부터 BERT 모델까지 많은 내용의 모델에 대해 배웠다. sequence to sequence 모델의 기본적인 구조인 Encode, Decoder 구조, 그리고 발전된 seq2seq with Attention 모델까지 공부하였고, 최근에 가장 각광받고 기본이 되는 모델인 Transformer 모델과 Attention module 그리고, multi head Attention의 연산방식까지 학습했다. 이후에는 GPT-1, BERT 등 새롭게 출시된 다양한 모델의 기본적인 컨셉에 대해서 학습을 한 뒤 2주간의 짧지만 긴 커리큘럼이 마무리 됬다. 특히 이번주에는 과제가 어려웠는데..

1. What I Learned... 이번주에 도메인 관련 NLP강의가 시작되었다. 2주차 강의중에서 NLP의 Word Embedding방법과 발전에대한 History, 그리고 Bag of words 등을 배웠다. 그리고 기본 RNN 모델, LSTM모델, GRU 모델에 대해서 배웠다. 또한, 멘토님과 논문 리뷰를 하며, Sequence to. sequence with Attention 논문을 읽고, Attention의 탄생 배경 원리등을 이해할 수 있는 시간이었다. 이외에도 Data Visualization을 배웠고 이고잉 님과 Github관련 실습을 진행하며, Github에 대한 기초에 대해서 다시 한번 다질 수 있는 시간이었다. 2. Study Evaluation 지난 주차에 이어서 이번 주차에서도 ..

1. What I Learned... 이번주에는 Deep Learning Basic & Data Visualization에 대해서 배웠다. Deep Learning Basic 에서는 Deep Learning의 기초적인 부분과 여러 도메인에서 살펴봐야할 필수적인 모델구조에 대해서 배웠다. 조금 더 세세하게 기술한다면, Deep Learning의 역사와 다양한 Regularization 방법(Drop Out, L1 Regularization, L2 Regularization) 그리고 기본적인 CNN구조와 학습방법, 그리고 파라미터 갯수를 파악하는 방법에 대해서 배웠다. 또한 기본적인 RNN, LSTM, GRU 구조에 대해서 배웠고 추가로 Transformer구조에 대해서도 학습하였다. 마지막으로 GAN에 대..

안녕하세요? 제이덥 입니다. 오늘은 Visual Studio로 진행할 수 있는 디버깅 방법에 대해서 다루려고 합니다. 💡 저는 Visual Studio Code 마이크로소프트에서 제공한 코드 편집기를 가장 많이 사용합니다. 아무래도 컴퓨터공학부를 전공하다보니 다양한 언어를 배우고 사용하게 되었는데, 여러 언어 개발환경을 Extension설치를 통해 빠르게 설정할 수 있어서 애용하게 되었습니다. 그리고 코딩 테스트를 준비하며 연습을 할 때 디버깅(Debugging)을 하며 연습을 하고는 했는데요. 알면 누구나 쉽게 사용할 수 있지만 생소한 부분이기에 여러분께 설명드리고, 저도 어떻게 하면 보다 디버깅을 잘 할 수 있을지 고민하여 여러 디버깅 관련 자료를 찾아보면서 VS Code를 이용한 디버깅은 어떻게 할..

1. What I Learned... 이번주에는 PyTorch 모듈에 대한 내용을 배웠다. PyTorch 모듈에 대한 배경지식과 Tensorflow에 비교한 장단점 등 모듈의 기본적인 내용 부터, 연산, 템플릿 만드는 방법에 이르기까지 PyTorch 전반적인 내용에 대해서 학습하였다. 특히 광범위한 내용을 다뤘지만 view, reshape의 차이, matmul, mm의 차이 등 자주 사용되지만 미묘하게 쓰임이 다른 내용까지 세심하게 다룰 수 있어서 좋았다. 이외에도 Troubleshooting, transfershooting, Tensorboard 만드는 방법 등 실습에 유용한 내용들을 배웠고, 나중에 실제로 작업을 하게 될 때 많은 도움이 될 것 같다는 생각이 들었다. 그리고 이번 과제에서 custom..

시작하기에 앞서... 지난 12월에 올라온 네이버 부스트캠프 AI-Tech 설명회를 듣고 프로젝트 경험과 Domain Knowledge를 쌓을 수 있다는 생각에 자소서 포트폴리오 준비, 1차 온라인 역량 테스트부터 1월 26일에 있었던 2차 코딩테스트까지 2개월간 열심히 준비했던 것 같아요. 노력이 결실을 맺고 합격하여 현재 부스트캠프에서 여러 운영진님, 멘토님, 마스터님, 조교님들께 도움을 받게 되었습니다. 5개월간 AI/ML 엔지니어로 피어나는 여정을 기록하려고 하니, 관심을 가져주시면 좋을 것 같네요~ 또한 나중에 도움이 되도록 합격 수기까지 올리도록 할테니 프로그램에 관심있는 분은 그 글을 기대해주시면 좋을 것 같습니다! 네이버 부스트캠프 AI-Tech의 첫 글! 3월 1주차 학습회고 지금 바로 ..

안녕하세요~ Google Developers Machine Learning BootCamp 3기 수료생 제이덥입니다~지난 글에서는 Google ML BootCamp 3기 프로그램의 전반적인 내용 및 후기 이야기를 포스팅에서 다뤘는데요.  오늘 포스팅에서는 제가 6월 22일부터 9월 19일까지 참여했던 Google Developers Machine Learning BootCamp 3기 프로그램 합격 후기에 대해서 포스팅을 하려고 합니다.  구글 머신러닝 부트캠프는 무엇인지, 어떤 프로세스를 거쳐 참가자들을 뽑게 되었는지, 저는 어떤 방식으로 합격하기 위해 노력했는지 정리해보려고 합니다. 한번 확인 해볼까요? 1. Google Developers Machine Learning BootCamp란?Google ..

안녕하세요~ Google Machine Learning BootCamp 3기 수료생 제이덥입니다~ 오늘 포스팅에서는 제가 6월 22일부터 9월 19일까지 참여했던 Google Machine Learning BootCamp 3기 프로그램에 대해서 소개해드릴까 합니다! 본 포스팅에서는 프로그램의 역사와 구성 그리고 제가 활동하면서 배운 점과 후기를 나누며 구글 부트 캠프의 목적과 더불어 캠프를 참여하면서 어떤 것들을 얻어갈 수 있을지 확인하실 수 있도록 글을 구성해두었습니다. 길더라도 끝까지 읽어주세요~! 1. Google Machine Learning BootCamp란? 우선 한국에서 열리는 구글 머신러닝 부트캠프(Google Machine Learning BootCamp)는 2020년부터 현재까지 3년 ..