uomnf97

1. What I Learned... 이번주는 NLP 도메인의 Level 1 기초 대회가 마무리되었다. STS(semantic Textual Similarity)라는 Task의 NLP 도메인 대회를 ai.stages에서 Kaggle과 Dacon과 유사한 플랫폼에서 진행했는데, public 전체 2위 private 전체 1위를 달성하였다. 대회를 진행하며 팀장으로 Github관리 및 Notion 관리를 하고 데이터에 대한 EDA를 진행하고 end-to-end로 Hugging Face 모델을 이용해서 학습하고 튜닝을 진행했다. 그리고 팀에서 내가 한 EDA를 바탕으로 데이터 증강을 진행했는데, 해당 증강으로 성능에 유의미한 향상에 기여한 것 같아 의미가 있는 대회였다. 2주간 많은 노력을 했고, 협업이나 모..

1. What I Learned... 이번주에는 Deep Learning Basic & Data Visualization에 대해서 배웠다. Deep Learning Basic 에서는 Deep Learning의 기초적인 부분과 여러 도메인에서 살펴봐야할 필수적인 모델구조에 대해서 배웠다. 조금 더 세세하게 기술한다면, Deep Learning의 역사와 다양한 Regularization 방법(Drop Out, L1 Regularization, L2 Regularization) 그리고 기본적인 CNN구조와 학습방법, 그리고 파라미터 갯수를 파악하는 방법에 대해서 배웠다. 또한 기본적인 RNN, LSTM, GRU 구조에 대해서 배웠고 추가로 Transformer구조에 대해서도 학습하였다. 마지막으로 GAN에 대..

1. What I Learned... 이번주에는 PyTorch 모듈에 대한 내용을 배웠다. PyTorch 모듈에 대한 배경지식과 Tensorflow에 비교한 장단점 등 모듈의 기본적인 내용 부터, 연산, 템플릿 만드는 방법에 이르기까지 PyTorch 전반적인 내용에 대해서 학습하였다. 특히 광범위한 내용을 다뤘지만 view, reshape의 차이, matmul, mm의 차이 등 자주 사용되지만 미묘하게 쓰임이 다른 내용까지 세심하게 다룰 수 있어서 좋았다. 이외에도 Troubleshooting, transfershooting, Tensorboard 만드는 방법 등 실습에 유용한 내용들을 배웠고, 나중에 실제로 작업을 하게 될 때 많은 도움이 될 것 같다는 생각이 들었다. 그리고 이번 과제에서 custom..