복습용

1. 문제 상황 분명히 내 윈도우 데스크톱에서는 이미지를 지웠는데 Mac의 Git에서는 관련 파일이 트래킹되는 문제가 있다. 아래와 같이 Menu 폴더 밑에 대부분의 이미지들을 지웠다. 그런데 내 맥북에서는 그걸 풀 받아도 해당 파일들이 남아있는 문제가 보였다. 게다가 해당 자산~ 파일들에 대한 meta 파일들은 추적이 또 된다... 이미지는 추적이 안 되는데. 2. 원인 알아보니 Mac에서는 *한글 이름으로 된 * 파일 저장시 파일명의 자소가 분리되어 제대로 Tracking되지 않는 문제가 있는 것 같다. 따라서 Mac에서 파일을 추가했을 때, 그걸 지워도 그 파일을 지웠다고 추적되지 않았음. -> 따라서 Mac에서 아무 세팅을 하지 않은 채로 한글명 파일을 추가해버리면 안된다. 아래에 동일한 문제를 ..

이 글은 하단의 Reference에 있는 강의, 교재를 보고 정리한 것입니다. 11.0 Intro 지금까지 다룬 Fully connected layer, word2vec, CNN 등은 항상 신호가 단방향으로 흐르는 피드포워드라는 유형의 신경망이었다. 이런 유형의 신경망은 그 구조가 단순하여 이해하기 쉽다는 장점이 있다. 그러나 시계열 데이터를 잘 다루지 못한다는 단점이 있다. 더 정확히는 단순한 피드포워드 신경망에서는 시계열 데이터의 성질(패턴)을 충분히 학습할 수 없다. 그래서 순환 신경망Recurrent Neural Network(RNN)을 도입하게 된다. 이번 장에서는 언어 모델의 확률적 관점에서의 기술 RNN구조 RNN구현 RNNLM RNNLM의 구현과 평가 에 대해 다룬다. 11.1 Probab..

이 글은 하단의 Reference에 있는 강의, 교재를 보고 정리한 것입니다. 10.0 Intro 이 장에서는 word2vec을 개선하는 것을 목표로 한다. 이는 구체적으로 계산 병목이 발생하는 부분의 구조를 바꾸는 것으로 embedding layer 도입 negative sampling기법 사용 을 통해 수행된다. 10.1 Word2vec의 개선 방향 이전 장에서 다룬 Word2vec의 CBOW 모델은 맥락으로 2개의 단어를 사용할 때 다음 과 같은 구조다. 이 구조는 어휘 수가 작은 corpus에 대해서는 별 문제없이 계산이 수행되나 어휘 수가 100만 정도 되는 corpus를 다룰 때는 다음 와 같은 구조가 되고 계산 병목이 발생한다. 계산 병목이 발생하는 부분은 구체적으로 다음과 같다. 입력층으로..

이 글은 하단의 Reference에 있는 강의, 교재를 보고 정리한 것입니다. 9.0 Intro 앞 장에 이어 이번 장의 주제도 단어의 분산 표현이다. 저번 장에서는 '통계 기반 기법'을 통해 단어의 분산 표현을 얻었으나, 이번 장에서는 '추론 기반 기법'을 이용해 단어의 분산 표현을 얻는 법에 대해 살펴본다. 최종적인 이번 장의 목표는 간단한 word2vec 구현하기다. 9.1 추론 기반 기법과 신경망 단어를 벡터로 표현하는 가장 대표적인 두 방법으로는 통계 기반 기법과 추론 기반 기법이 있다. 이 절에서는 통계 기반 기법의 문제점을 알아보고 추론 기반 기법의 이점을 설명한다. 9.1.1 통계 기반 기법의 문제 이전 장에서 다룬 통계 기반 기법에서는 주변 단어의 빈도를 기초로 단어를 표현했다. 그러나 ..

이 글은 하단의 Reference에 있는 강의, 교재를 보고 정리한 것입니다. 8.0 Intro 이 글에서는 자연어 처리 분야에서 컴퓨터가 자연어를 이해하게 만드는 방법 파이썬으로 텍스트를 처리하는 방법 에 대해 다룬다. 8.1 What is Natural Language Processing?(NLP) 영어, 일본어, 한국어 등 일상에서 의사소통을 위해 사용하는 말을 자연어Natural language라 한다. 그러니, 자연어 처리란 '우리가 하는 말을 컴퓨터가 이해하도록 만드는 작업' 정도로 정의할 수 있다. 이것이 어려운 이유는 컴퓨터가 이해할 수 있는 것은 명확한 규칙에 따라 해석될 수 있는 코드들 뿐이기 때문이다. 그 의미가 모호하거나 변화하는 자연어는 이런 코드와는 상당히 다른 성격을 갖고 있으..

이 글은 하단의 Reference에 있는 강의, 교재를 보고 정리한 것입니다. 7.0 Intro 이번 장에서는 합성곱 신경망(Convolutional Neural Network)에 대해 다룬다. 이미지 인식에서 주로 사용되는 기법이다. 7.1 Overall Structure 합성곱 신경망은 기존의 신경망을 구성하는 Layer들에 추가로 Convolutional Layer, Pooling Layer를 추가로 이용해 만든다. 우선, 기존의 신경망은 인접하는 Layer간 모든 뉴런이 완전연결(Fully-Connected)되어있다는 특징이 있었고, 이 완전 연결된 계층을 Afiine 계층이라는 이름으로 구현했다. 이를 그림으로 표현해보면 다음과 같다. CNN은 다음 과 같이 Conv layer, Pooling ..

파이썬에서 알고리즘 문제를 풀다보면 리스트나 객체를 변형해야 할 일이 있다. ex) permutation 문제, 그런데 파이썬에서는 모든 변수가 다 객체이므로 리스트를 그냥 a= examplelist로 복사하면 파이썬 특성상 a는 example list를 지시하게 된다. 따라서 a.append(7)같은 명령을 할 시 examplelist도 변해버려서 문풀에 문제가 생기는 경우가 있다. 그런 경우 그냥 리스트를 참조 없이 깊은 복사하고 싶다면, a = examplelist[:]와 같이 해야한다. 혹은 .copy() method를 사용할 수도 있으나 리스트 내에 중첩된 리스트가 있는 경우 .deepcopy()를 사용해야 한다.

1. 문제 문제:https://leetcode.com/problems/reverse-linked-list/ 문제는 간단하게 이해되고 쉽게 풀리는 문제. reverse linked list 만드는거임. iterative하게 recursive하게 두 방법 모두로 풀린다. 근데, 파이썬 다중할당에 대해 이해하지 못하고 있다가 iterative way로 풀 때 자꾸 에러가 나서 기억하기 위해 포스팅. 1.1 Recursive way # Definition for singly-linked list. # class ListNode: # def __init__(self, val=0, next=None): # self.val = val # self.next = next class Solution: def reverse..