복습용

3.0 Intro Chapter 2에서 다룬 linear model의 핵심 idea는 x를 w와 선형결합한 signal이었다. linear regression과 linear classification은 모두 이를 바탕으로 한 model이었다. 이 때 linear classification은 'Hard' binary classification이었고 0이라는 Hard한 threshold를 기준으로 binary한 결과값을 출력했다. logistic regression은 'Soft' binary classification으로써 binary response에 대한 probability를 출력하는 model이다. 3.1 Logistic Regression Intro에서 이야기한 바와 같이 Logistic regre..

2.1 Binary Classification 이 챕터에서 쭉 다루게 되는 Linear Model이란 line들의 집합으로 이루어진 model로, 많은 문제들에 대해 종종 good choice가 된다. start로써 나쁘지 않다. Chapter3에서는 크게 두가지의 중요한 문제에 대해 이런 linear model을 적용해볼 것이다. classification regression 2.1.1 Binary classifcation binary classification을 위한 linear model을 정의해보자. d+1차원의 input vector x를 받아 출력을 내는 우리의 가설 h(x)에 대해 $$ h(x)=sign(w^Tx) $$ 로 정의할 수 있다. 이 때 w는 d+1의 weight column ve..

perceptron은 신경망의 기원이 되는 알고리즘으로, 신경망과 딥러닝으로 나아가는데 배경이 되는 알고리즘이다. 오래된 알고리즘이지만 제대로 이해해보자. 1.1 Perceptron의 정의 perceptron은 다음 요소들에 의해 정의되는 알고리즘 모델이다. 입력(x) 가중치(w) 출력(y) 임계값(t) 이 때 입력은 n차원의 벡터일 수 있고, 가중치 w는 이 입력과 동일한 차원을 가져야 한다. 이 때 출력은 입력과 가중치의 내적인 x*w가 설정한 임계값 t를 넘을 경우 1, 임계값 t를 넘지 않을 경우 0이 된다. 다음 은 이런 perceptron을 그림으로 나타낸 것이다. x의 weighted sum이라는 용어는 x와w의 내적을 말한다. 1.2 Perceptron으로 논리 회로 만들기 이렇게 기본적으..

이 주에는 Neural Network의 탄생 Intuition과 그 개념, 간단한 적용 예제들에 대해 배운다. 과제는 전 주의 Multiclass 분류와 이번 주의 Neural Network의 계산 방법 등에 대한 문제를 포함한다. Neural Network문제는 주어진 weight에 대한 계산과 Predict만을 하기 때문에 아직 "학습"이라는 주제와는 거리가 조금 있어 보인다. 이번 과제도 역시 PDF를 잘 읽어보고 하자. 1. IrCostFunction.m 우선, 구체적으로 프로그램을 구현하기에 앞서, 자료들이 어떻게 표현되어 있는지 알아야한다. 이 과제에서는 어떤 20x20 pixel의 그림 5000장에 대해 학습을 시키는데, 이것은 X라는 5000x400짜리 배열로 주어진다. 따라서 어떤 행에 ..

이 주에는 Data의 Classification문제를 다룬다. 내용 참고는 wiki docs에서 하는게 좋다. (https://wikidocs.net/book/587)한글 자막 없는 강의도 있고 사실 강의를 듣는거보다 wiki docs를 읽는게 영어 못하는 우리의 입장에서는 더 잘 이해가 된다. 이번 거는 내용 이해가 진짜 중요하다. 내용 잘 이해하고 과제를 풀어보도록 하자. 나같이 똑똑하지 않은 사람들에게 팁을 주자면 옆에 종이든 뭐든 메모할 수 있는 것을 놓고 풀어보자.. 행렬 연산은 복잡하니까 그냥 암산으로 척척!하기가 힘들다.. 물론 똑똑한 사람들은 잘 한다. 아 그냥 5개 채우면 되겠구나, 그리고 읽어보면 ex2.m이랑 ex2_reg.m이 메인 실행파일인 것 같다. 아마 reg가 붙은 건 reg..

이 챕터에서는 과제하는 과정을 소개해본다. 이런 과제에 안 익숙한 사람들은 힘들 것 같아서,, 일단 과제 다운 받는 것부터 해보자. 이렇게 과제에 커서를 대고 클릭해보면 저렇게 here로 표시되어 있는 곳이 있다. 클릭하면 과제가 다운받아진다. 아무데나 저 폴더를 받아놓고 들어가자 그러면 이렇게 과제에 대한 설명PDF와 code들이 들어있는 폴더가 있다. pdf는 최대한 꼼꼼하게 읽어보자. 변수 설명 같은 것은 조금 이해하기 힘들겠지만 그래도 읽어야 풀기 편하다. 같이 읽어보자. 아 저 4개말고는 optional이라니까 저 4개만 일단 과제로 하면 될 것 같다는 생각이 든다. 그럼 저 넷 중 아무 코드나 열어보자. 저 넷 중 아마 아무 코드나 까서 열어보면 왼쪽과 같은 창이 나올 것이다. (matlab기..

배우는 내용 중에 조금 어려운 내용이랑 과제들 정리할 생각 모든 지식과 코드 출처는 이곳이다. https://www.coursera.org/learn/machine-learning/home/welcome