ML \ DL/PyTorch Zero To All 9

RNN II (Classification)

방학동안 학회에서 김성훈 교수님의 PyTorch Zero To All 강의로 공부를 하게 된 김에 스스로 정리해보려고 합니다. 좋은 강의 공유해주신 김성훈 교수님께 감사드립니다. 강의링크: https://www.youtube.com/playlist?list=PLlMkM4tgfjnJ3I-dbhO9JTw7gNty6o_2m PyTorchZeroToAll (in English) Basic ML/DL lectures using PyTorch in English. www.youtube.com 일반적인 RNN 모델은 아래와 같은 구조를 지닙니다. Input X가 Embedding Layer(수치화되어 있지 않은 자연어를 수치화, 벡터화 해주는 Layer)를 거친 후 RNN의 input으로 들어가게 되고, 그로 인해 ..

PyTorch Lecture 12: RNN

방학동안 학회에서 김성훈 교수님의 PyTorch Zero To All 강의로 공부를 하게 된 김에 스스로 정리해보려고 합니다. 좋은 강의 공유해주신 김성훈 교수님께 감사드립니다. 강의링크: https://www.youtube.com/playlist?list=PLlMkM4tgfjnJ3I-dbhO9JTw7gNty6o_2m PyTorchZeroToAll (in English) Basic ML/DL lectures using PyTorch in English. www.youtube.com RNN은 텍스트, 음성 데이터와 같이 순서가 있는 Sequence Data를 다루기에 적합한 Neural Network입니다. Sequence Data란 말 그대로 순서가 있는 데이터를 의미하는데, 해당 데이터는 순서가 있기 ..

PyTorch Lecture 11: Advanced CNN

방학동안 학회에서 김성훈 교수님의 PyTorch Zero To All 강의로 공부를 하게 된 김에 스스로 정리해보려고 합니다. 좋은 강의 공유해주신 김성훈 교수님께 감사드립니다. 강의링크: https://www.youtube.com/playlist?list=PLlMkM4tgfjnJ3I-dbhO9JTw7gNty6o_2m PyTorchZeroToAll (in English) Basic ML/DL lectures using PyTorch in English. www.youtube.com Inception Modules CNN을 사용할 때, 주어진 이미지에 대해 다양한 size의 filter를 사용하여 특정 output을 산출할 수 있습니다. 사용가능한 다양한 size의 filter 중 어떤 것을 사용해야할지에..

PyTorch Lecture 10: Basic CNN

방학동안 학회에서 김성훈 교수님의 PyTorch Zero To All 강의로 공부를 하게 된 김에 스스로 정리해보려고 합니다. 좋은 강의 공유해주신 김성훈 교수님께 감사드립니다. 강의링크: https://www.youtube.com/playlist?list=PLlMkM4tgfjnJ3I-dbhO9JTw7gNty6o_2m PyTorchZeroToAll (in English) Basic ML/DL lectures using PyTorch in English. www.youtube.com CNN(Convolutional Neural Network) CNN(Convolutional Neural Network)은 Convolution Layer와 Pooling Layer로 구성된 네트워크입니다. CNN은 Local..

PyTorch Lecture 09: Softmax Classifier

방학동안 학회에서 김성훈 교수님의 PyTorch Zero To All 강의로 공부를 하게 된 김에 스스로 정리해보려고 합니다. 좋은 강의 공유해주신 김성훈 교수님께 감사드립니다. 강의링크: https://www.youtube.com/playlist?list=PLlMkM4tgfjnJ3I-dbhO9JTw7gNty6o_2m PyTorchZeroToAll (in English) Basic ML/DL lectures using PyTorch in English. www.youtube.com Softmax Classifier 다음과 같은 image dataset을 각각 0부터 9까지 10개의 label에 분류하기 위해서는 이전에 배웠던 bianary classifier인 logistic regression만으로는 ..

PyTorch Lecture 06: Logistic Regression

방학동안 학회에서 김성훈 교수님의 PyTorch Zero To All 강의로 공부를 하게 된 김에 스스로 정리해보려고 합니다. 좋은 강의 공유해주신 김성훈 교수님께 감사드립니다. 강의링크: https://www.youtube.com/playlist?list=PLlMkM4tgfjnJ3I-dbhO9JTw7gNty6o_2m PyTorchZeroToAll (in English) Basic ML/DL lectures using PyTorch in English. www.youtube.com Logistic Regression 이전까지는 저희는 input x를 제공받아 linear opearation을 거쳐 output y를 출력해내는 linear model들에 대해서 다루었습니다. 이 때, input값, outp..

Pytorch Lecture 04: Back-Propagation and Autograd

방학동안 학회에서 김성훈 교수님의 PyTorch Zero To All 강의로 공부를 하게 된 김에 스스로 정리해보려고 합니다. 좋은 강의 공유해주신 김성훈 교수님께 감사드립니다. 강의링크: https://www.youtube.com/playlist?list=PLlMkM4tgfjnJ3I-dbhO9JTw7gNty6o_2m PyTorchZeroToAll (in English) Basic ML/DL lectures using PyTorch in English. www.youtube.com 설명에 들어가기에 앞서 backpropagation에 관해서는 Michigan University의 Justion Johnson교수가 강의한 Deep Learning for Computer Vision에서 설명이 정말 잘 되었..

PyTorch Lecture 03: Gradient Descent

방학동안 학회에서 김성훈 교수님의 PyTorch Zero To All 강의로 공부를 하게 된 김에 스스로 정리해보려고 합니다. 좋은 강의 공유해주신 김성훈 교수님께 감사드립니다. 강의링크: https://www.youtube.com/playlist?list=PLlMkM4tgfjnJ3I-dbhO9JTw7gNty6o_2m PyTorchZeroToAll (in English) Basic ML/DL lectures using PyTorch in English. www.youtube.com Gradient Descent 2강의 예제는 단순한 예제이기 때문에 loss를 최소화하는 w를 찾는 것이 어렵지 않았습니다. 하지만 실제 data에서 이런 경우는 없다고 해도 무방합니다. 따라서 우리는 loss를 최소화하는 w..

PyTorch Lecture 02: Linear Model

방학동안 학회에서 김성훈 교수님의 PyTorch Zero To All 강의로 공부를 하게 된 김에 스스로 정리해보려고 합니다. 좋은 강의 공유해주신 김성훈 교수님께 감사드립니다. 강의링크: https://www.youtube.com/playlist?list=PLlMkM4tgfjnJ3I-dbhO9JTw7gNty6o_2m PyTorchZeroToAll (in English) Basic ML/DL lectures using PyTorch in English. www.youtube.com Linear Model 저희는 input x를 받아 output y를 예측하는 모델을 만들고자 합니다. 이번 강의에서는 그 모델이 linear model인 경우에 대해서 다루고 있습니다. Linear model, 즉 선형 모델..