23.06.19 ~ 23.12.06
주의
- Reference 빠짐
- Fundamental 10, 13만 챙김
| 기간 | 배운단계 | 주요배운 내용 |
|---|---|---|
| 06.19~06.23 | OnboardingQuest | Github Sync |
| 06.26~07.07 | Fundamental | AI의 기본적인 개념을 수박 겉핥기식으로 다룸 (활성함수 종류 및 평가지표 등) |
| 07.10~07.20 | Exploration | AI에 필요한 함수 클론코딩 |
| 07.21 | MainQuest | MainQuest |
| 07.24~07.25 | 딥러닝 한번에 끝내기 | DL_Master |
| 07.26~08.9 | DeppLearningwithPython_2ndEdition | 케창딥 책 훑어봄 https://github.com/shinnew99/DeepLearningwithPython_2ndEdition |
| 08.10 | MainQuest2 | 암환자맞추기 |
| 08.11~08.24 | GoingDeeper~05 | |
| 08.25~08.30 | DL_thon | KoreaHateSpeech |
| 08.31 | DL_Thon | MainQuest03 |
| 09.01~09.08 | 여름방학 | 방학일기남김 |
| 09.11.월~09.20.목 | GoingDeeper~09 | 논문작성가이드까지 |
| 09.21.목 | MainQuest04 | 논문씀 |
| 논문읽기 | SlowPaper 논문목록 (https://www.notion.so/modulabs/SLOW-PAPER-NLP-adedecbe5b904e6d9ee7c530161960b3) | |
| 09.22~09.25 | SlowPaper01 | AttentionIsAllYouNeed(https://docs.google.com/presentation/d/1MqeNU0JrgaY8Als9QuuVYFhvXENMPFtc3FbOT5IpL6g/edit?usp=drive_web&ouid=106009627944923904485) |
| 09.26~09.27 | SlowPaper02 | LoRA(https://docs.google.com/presentation/d/1CqXfSn_tHaPKUpVcuWkhvRCnQ7nT-5DtMo-OtIQqrUg/edit) |
| 10.04~10.05 | SlowPaper03 | LLM.int8()(https://docs.google.com/presentation/d/1YLOhDiw4ktLE6nK9sKNPesNTHo92wsFDss5dnSY1ILk/edit) |
| 10.06~10.10 | SlowPaper04 | QLoRA(https://docs.google.com/presentation/d/199tFaio2voXvMHDA0TPmK9atrxr5boVSZbEFj5FlHjg/edit?usp=drive_web&ouid=106009627944923904485) |
| 10.16~12.06 | AiFFELThon | GiTi-4 (visit the page: https://github.com/shinnew99/GiTi-4) |
| No. | Project | Task |
|---|---|---|
| Not | Yet | Uploaded |
| No. | Project | Task |
|---|---|---|
| 1 | 날씨 좋은 월요일 오후 세 시, 자전거 타는 사람은 몇 명? | Linear Regression |
| 2 | 나의 첫 번째 캐글 경진대회, 무작정 따라해보기 | Kaggle ML month with KaKR |
| 3 | 카메라 스티커앱 만들기 첫걸음 | Face Detection |
| 4 | 영화리뷰 텍스트 감성분석하기 | Text Classification |
| 5 | 인물사진을 만들어 보자 | Semantic Segmentation |
| 6 | 뉴스 요약봇 만들기 | Text Summarization |
| 7 | 난 스케치를 할 테니 너는 채색을 하거라 | Conditional GAN |
| 8 | 트랜스포머로 만드는 대화형 챗봇 | Transformer |
딥러닝 한번에 끝내기 모듈
| Proejct | Contents |
|---|---|
| Project 1 | Boston 주택 가격 예측 프로젝트 |
| Project 2 | Reuters 데이터 분류 프로젝트 |
| Project 3 | CIFAR10 데이터 분류 프로젝트 |
| GD# | Node Number | Title | Contents |
|---|---|---|---|
| GD01 | 1 | 텍스트 데이터 다루기 Handling Text Data |
다양한 텍스트 데이터 전처리 기법을 소개, Word나 형태소 레벨의 tokenizer 및 subword 레벨 tokenizing 기법(BPE, sentencepiece) 학습 Introducing various text data preprocessing techniques, including tokenizers at the word or morpheme level, and subword-level tokenizing techniques (BPE, sentencepiece) |
| GD01 | 2&3 | 멋진 단어사전 만들기 Creating an Impressive Vocabulary |
[PROJECT] 단어사전을 만들어보고 이를 토대로 perplexity를 측정해보는 프로젝트 Create a vocabulary and measure perplexity based on it as a project |
| GD02 | 4 | 텍스트의 분포로 벡터화 하기 Vectorizing Text Based on Distribution |
텍스트 분포를 이용한 텍스트의 벡터화 방법들(BoW, DTM, TF-IDF, LSA, LDA) Methods for vectorizing text using text distributions (BoW, DTM, TF-IDF, LSA, LDA) |
| GD02 | 5&6 | 뉴스 카테고리 다중분류 News Category Multi-Classification |
[PROJECT] 뉴스 텍스트의 주제를 분류하는 task를 다양한 기법으로 시도해보고 비교, 분석 하는 프로젝트 [PROJECT] Attempting and comparing various techniques for classifying the topics of news text, with analysis, as a project |
| GD03 | 7 | 워드 임베딩 Word Embeddings |
워드 임베딩 벡터(Word2Vec, FastText, Glove)의 원리와 사용법을 학습 Learning the principles and usage of word embedding vectors (Word2Vec, FastText, Glove) |
| GD03 | 8&9 | WEAT | [PROJECT] WEAT(Word Embedding Association Test) 기법으로, Word Embedding Model 의 편향성 측정 Measuring the bias of Word Embedding Models using the WEAT (Word Embedding Association Test) technique |
| GD04 | 10 | Seq2seq와 Attention Seq2seq and Attention |
언어 모델이 발전해 온 과정에 대해 배우고, Seq2seq에 대해 학습 Learning about the evolution of language models and understanding Seq2seq |
| GD04 | 11&12 | Seq2seq으로 번역기 만들기 Creating a Translator with Seq2seq |
Attention 기법을 추가하여 Seq2seq 기반의 번역기 성능을 높여보기 Improving the performance of a Seq2seq-based translator by adding Attention |
| GD05 | 13 | Transformer가 나오기까지 Until the Emergence of Transformers |
Attention 복습 및 트랜스포머에 포함된 모듈을 심층적으로 이해하는 단계 Reviewing Attention and deeply understanding the modules included in Transformers |
| GD05 | 14&15 | Transformer로 번역기 만들기 Creating a Translator with Transformers |
트랜스포머를 이용해 번역기를 만드는 프로젝트 Creating a translator using Transformers as a project |
| GD06 | 16 | 기계 번역이 걸어온 길 The Journey of Machine Translation |
자연어 처리에서 Data Augmentation은 어떻게 하는지, 자연어 처리 성능은 어떻게 측정할 수 있는지 학습 Learning how Data Augmentation is done in natural language processing and how the performance of natural language processing is measured |
| GD06 | 18&19 | 번역가는 대화에도 능하다 Translators Are Proficient in Conversations Too |
다양한 디코딩 방식을 활용해 모델 구현 후 BLEU Score를 이용하여 성능 평가, 한국어 챗봇 구현 프로젝트 수행 Implementing a model using various decoding methods, evaluating performance using BLEU Score, and performing a Korean chatbot implementation project |
| GD07 | 20 | modern NLP의 흐름에 올라타보자 Riding the Flow of Modern NLP |
트랜스포머를 바탕으로 한 최근 NLP 모델에 대해 학습 Learning about recent NLP models based on Transformers |
| GD07 | 21 | BERT pretrained model 제작 Creating a BERT Pretrained Model |
대표적인 pretrained language model인 BERT 원리에 대해 학습 Learning about the principles of BERT, a representative pretrained language model |
| GD08 | 22 | NLP Framework의 활용 Utilizing NLP Frameworks |
최다양한 NLP Framework에 대해 학습하고, Huggingface transformer를 중심으로 설계구조와 활용법 학습 Learning about various NLP frameworks, focusing on the design structure and usage of Hugging Face Transformer |
| GD08 | 23&24 | 16 | HuggingFace 커스텀 프로젝트 만들기 Creating a Custom Project with Hugging Face |
| GD09 | 25 | #NLP Trend Note 1 | 최신 LLM 소개, InstructGPT의 SFT, RM, PPO 학습 메커니즘 소개 ntroduction to the latest LLM, introduction to the training mechanisms of InstructGPT's SFT, RM, PPO |
| GD09 | 26&27 | #NLP Trend Note 2 |
KochatGPT 구현 Implementation of KochatGPT |
| GD# | Node Number | Title | Contents |
|---|---|---|---|
| GD01 | 1 | 수정예정 영어번역예정 |
수정예정 영어번역예정 |
| GD01 | 2&3 | 없다면 어떻게 될까? 영어번역예정 |
[PROJECT]ResNet Ablation Study |
| GD02 | 4 | 수정예정 영어번역예정 |
수정예정 영어번역예정 |
| GD02 | 5&6 | 이미지 어디까지 우려볼까 영어번역예정 |
[PROJECT]Data Augmentation |
| GD03 | 7 | 수정예정 영어번역예정 |
수정예정 영어번역예정 |
| GD03 | 8&9 | 나를 찾아줘 - Class Activation Map 만들기 영어번역예정 |
수정예정 영어번역예정 |
| GD04 | 10 | 수정예정 영어번역예정 |
수정예정 영어번역예정 |
| GD04 | 11&12 | GO/STOP! - Object Detection 시스템 만들기 영어번역예정 |
Class Activation Map |
| GD05 | 13 | 수정예정 영어번역예정 |
수정예정 영어번역예정 |
| GD05 | 14&15 | 도로 영역을 찾자! - 세그멘테이션 모델 만들기 영어번역예정 |
수정예정 영어번역예정 |
| GD06 | 16 | 수정예정 영어번역예정 |
수정예정 영어번역예정 |
| GD06 | 17&18 | 직접 만들어보는 OCR_Optical Character Recognition 영어번역예정 |
OCR_Optical Character Recognition |
| GD07 | 19 | 수정예정 영어번역예정 |
수정예정 영어번역예정 |
| GD07 | 20&21 | 멀리 있는 사람도 스티커를 붙여주자 영어번역예정 |
One-Stage Object Detection |
| GD08 | 22 | 수정예정 영어번역예정 |
수정예정 영어번역예정 |
| GD08 | 23&24 | 행동 스티커 만들기 영어번역예정 |
OCR_Optical Character RecognitionHuman Pose Estimation |
| GD09 | 25 | 수정예정 영어번역예정 |
수정예정 영어번역예정 |
| GD09 | 26&27 | Stable Diffusion, 너 Do? 나 Do! 영어번역예정 |
Stable Diffusion |
| No | Project | Contents |
|---|---|---|
| 1 | 폐렴아 기다려라! | 폐사진 보고 환자/비환자 예측하기 |
| 2 | PASCAL VOC 2012 | Image Augmentation |
| 3 | Motorcycle Night Road | 수정예정 |
| 4 | 논문쓰기 | SentimentAnalysis관련해서 간단하게 논문씀 |
React
Typescript
Django
Laravel
Facebook
Microsoft
Google
Alibaba
D3
Tencent