기본 콘텐츠로 건너뛰기

머신러닝에서의 Feature Engineering

머신러닝에서의 Feature Engineering

피쳐엔지니어링은 문제해결에 용이하게 피쳐들을 설계하는 것이다. 머신러닝에서 문제해결을 더욱 용이하게 한다는 것은 모델의 정확도를 높히거나 불필요한 계산과 데이터 요구를 줄여주는 것이다.

Feature engineering의 목적은 모든 feature들이 target과 학습가능한 관계를 가지게 feature set을 구성하는 것이다.

먼저, 그 목적을 이루기 위해서 기본으로 주어진 feature들과 target간의 관계를 이해해야한다. 그 다음 모든 feature들과 target의 관계가 모델이 학습가능한 관계가 되게끔 feature set을 재설계 해야한다. 각 모델은 그 종류에 따라 자신이 학습가능한 관계가 정해져있다. 예를들어 선형모델은 오직 선형관계만 학습가능하다. 그러기 위해선 관계가 없는 feature들은 버리고 관계가 있지만 모델이 학습하기 어려운 feature들은 수정이 필요하다.

Feature Engineering의 기법들

1. Feature Importance 측정 : Mutual Information(MI)

mutual information은 두 변수간의 상호 의존성을 측정한 것. feature-target간의 MI는 feature importance가 된다. 여기서 측정한 target과의 MI값이 낮은 feature들의 정보들을 조합해서 더 높은 MI값을 가진 새 feature를 만들어 모델에서 정보를 더 잘 활용할 수 있게 하는 것이 Feature Engineering의 핵심이다.

기본 원리

서로다른 두 변수에 대해서, 서로간의 상호 의존성이 클수록 한 변수의 정보 엔트로피(불확실성) 감소가 다른 변수의 정보 엔트로피(불확실성) 감소에 전이되는 정도가 커진다. 따라서 한 변수의 정보 엔트로피가 줄어들때 다른 변수의 정보 엔트로피가 얼만큼 줄어드는지를 측정한다.

정보 엔트로피

어떤 상태에서 얻을 수 있는 정보량의 기대값이다. 이는 어떤 상태가 가진 정보의 불확실성으로 해석된다.

정보량

어떤 사건으로부터 새롭게 얻을수 있는 정보의 양이다. 이는 미래에 시행을 했을때 해당 사건이 발생할 것을 얼마나 확신하는지를 나타낸다. 확신하는 만큼 이미 어느정도의 정보를 알고 있는 것이기에 얻을 수 있는 정보의 양이 적다. 어떤 사건이 발생할 확률의 역수에 로그를 취한 값으로 정의되며 그 단위는 다음과 같다.

어떤 사건이 발생할 확률이 p일때,
$$\log_{2}{1\over p}\ bit = \log_{2}{1\over p}\ Sh = \ln{1\over p}\ nat$$

$n\ bit$의 정보량은 다음과 같다

  • $2^n$개의 면을가진 주사위를 굴리기 전의 정보 엔트로피값
  • 동전던지기를 $n$회 수행하는 확률실험의 정보 엔트로피값
  • 아직 안읽은 n비트짜리 메시지가 가지는 정보 엔트로피값

정보 엔트로피는 확률분포가 균일할수록 높아진다.

엔트로피는 전체 dataset에서 해당 variable의 값이 얼만큼 균일하게 분포하는가로 판단할 수 있다. 그러면 feature importance(로 사용될 m.i)는 해당 feature의 각 value가 주어졌을때의 target의 균일도 감소량을 구하고 그 값들을 평균낸값으로 생각 할 수 있다.

MI의 상관관계 해석

target과의 MI가 높을수록 그 feature-target은 강한 선형관계를 가진다. 모든 지도학습 모델은 강한 선형관계에서 가장 잘 학습되므로 모델에 가장 적합한 feature라 할 수 있다.

구현

2. 새 Feature 생성 : 낮은 MI의 Feature들로부터 높은 MI를 가진 Feature들을 만드는 주요 전략들

Numerical Feature들이 결합된 정보를 가진 Feature

Numerical Feature들의 수학적 결합으로 새 Feature를 만든다. Ordered Categorical도 encoding후 같이 사용 가능하다.

Non-ordered Categorical Feature와 Numerical이 결합된 정보를 가진 Feature

Non-ordered Categorical feature끼리 결합한 feature는 target과 선형상관관계를 만들기 어렵다.

Count Feature

조건을 만족하는 Feature의 개수가 target과의 선형상관관계를 가질때

Feature를 여러 차원(Feature)으로 분해

어떤 Feature의 값들이 서로 다른 정보들의 조합으로 나타내질수 있다면. 그럼 그 Feature는 그 조합을 만드는 세부 Feature들로 분해되어 질 수 있다.
numerical feature가 분해가능한지 알기위해선 그 그래프가 복잡한 비선형 관계를 가지는지 확인하면된다. 
Cat. Feat.은 분해가능한 여부가 그 카테고리 라벨에 명시적으로 나타난다.

Grouped Transform

어떤 feature의 값에따라 다른 feature를 그룹으로 묶고 그 그룹을 대표할수있는 값(평균이나 중간값)을 값으로 가지는 feature를 만든다.

구현

라벨:

댓글

댓글 쓰기

이 블로그의 인기 게시물

윈도우 10 마우스(커서) 옆에 자꾸 Progress bar(진행중 아이콘)가 나타난다면

이 글은 윈도우10 사용자 중 자꾸만 마우스 커서 옆에 뭔가가 실행중이라고 진행 아이콘이 뜨는 사람에게 조그마한 희망을 주는 글 입니다. 또한 백그라운드에서 프로그램이 실행되는 경우는 아주 다양하니 이 글에서 제시하는 방법은 수많은 문제 중 한가지 문제의 해결책일 뿐임을 미리 알려드립니다. 본인은 원래 해당컴퓨터에서 바이러스에 걸릴만한 행위를 일체 하지않았다. 토렌트나 웹하드는 전혀 사용하지 않고 인터넷에서 파일도 대기업의 공인된 파일만 다운받아서 썼었다. 그러나 어느 날 부턴가 다음과 같은 현상이 발생하였다. 아무런 프로그램도 실행중이지 않지만 자꾸 마우스 아이콘에 실행중이라고 뜨는 문제였다. 이해를 돕기위한 삽화 나는 실행한 프로그램이 없지만 뭔가가 실행중이라는 것은 백그라운드 서비스가 원인이라는 것이다. 그렇다면 어떤 서비스가 다음과같은 현상을 야기했을까? 나는 작업관리자에서 의심가는 백그라운드 프로세스를 종료해보았다. 바로 vpwalletservice VP.Inc에서 배포한 프로그램이었다. 아니나 다를까 해당 프로세스를 삭제하자마자 현상은 사라졌다. 백그라운드 서비스인만큼 msconfig의 서비스 목록에서도 제거하였고 이제 확실히 이런 현상은 발생하지 않을 것이다. 해당 프로그램은 현재 여러 문제를 야기시키는 것으로 인터넷에서 유명하다. 얼마전에는 해당프로그램이 윈도우 부팅시에 start process as current user get session user token failed 메시지를 띄우게 만들어 부팅을 방해했던 문제도 직접 경험해 본적이있다. 이 경우에도 해결방법은 같다.
댓글 쓰기
자세한 내용 보기

16진수를 10진수로 변환하기 + 10진수를 16진수로 변환하기 (C,C++)

/*16진수 를 10진수로 변환하는 프로그렘*/ #include <stdio.h> #include <math.h> #include <windows.h> int main(){         char c[8];     //4byte int변수의 최대 표현 범위는 2^31-1이므로 8자리 (16^8-1) 이상으로 필요하지 않다.     int i,sum=0,d;     // 최대 8자리의 16진수를 입력하되 만약 8자리의 16진수는 7까지만 입력가능.         printf("자릿수를 입력(최대 8 자리) : ");     scanf("%d",&d);         printf("%d자리 16진수 입력(최대 7FFFFFFF) : ",d);         scanf("%s",c);     for(i=0;i<d;i++){                      if('A'<=c[i]&&c[i]<='F')c[i]+=10-'A';                      else c[i]-='0';                      sum+=c[i]*pow(16,d-1-i);     }         printf("10진수 변환:  %d\n",sum);         system("PAUSE");     return 0;     }         /*10진수 를 16진수로 변환하는 프로그렘*/ #include <stdio.h> #include <windows.h> int main(){         char c[8];//8자리 이상 필요 없다.     //0~2^31-1까지 입력     //int는 4바이트지만 음수를 표현해야 하므로 31비트 까지만 양수로 표현 가능;     int i,d=0,z;       
댓글 쓰기
자세한 내용 보기

Cubase : Serum 사용법(1) : 소개와 오실레이터, 필터, 모듈레이터의 사용법

큐베이스 가상악기 Serum 사용법(1) Serum 소개와 오실레이터, 필터, 모듈레이터의 사용법 1. Serum 이란? 큐베이스에서 사용가능한 가상악기 VST 플러그인 형태로 나온 Software Synthesizer 이다. 사운드의 시각화가 잘 되어있는게 특징이며, 웨이브테이블을 통해 다체로운 사운드를 만들 수 있는게 특징이다. Serum 사용 화면. 2. Serum 의 구조 소프트웨어 신디사이저는 구조는 다음과 같고 Serum도 이러한 구조로 이루어져있다. 신디사이저의 구조 여기에서 각 모듈들이 하는 역활은 다음과 같다. 오실레이터 (Oscillator) : 소리를 발진 시킨다. 필터 (Filter) : 오실레이터로부터 받은 소리를 필터링 한다. 엠프 (Amp) : 필터를 거쳐온 소리를 증폭시켜서 최종적으로 출력한다. 모듈레이터 (Modulator) : 각 모듈(오실레이터, 필터, 엠프)에 ENV, LFO 신호를 줘서 변형을 준다. ENV (Envelope Generator) : ADSR의 패턴을 가지고 신디사이저의 모듈들을 컨트롤 할 수 있는 Envelope를 생성한다. 보통 키보드 게이트의 신호를 통해 작동되어 시간에 따라 변하는 전압(Envelope)을 생성한다. LFO (Low Frequency Oscillator) : 저주파 발진기로. 저주파 패턴을 만들어서 음성을 변조하는대 사용한다. 그리고 Serum에서 각 모듈의 위치는 다음과 같다. Serum의 모듈 위치 3. Serum 각 모듈별 사용법 - 오실레이터(Oscillator) 오실레이터에서 Osc A, B가 활성화 되어있다 오실레이터는 크게 Sub와 Noise, Osc A, Osc B로 이루어져 있다. Sub는 기본파형을 발생시킬수 있으며 Noise는 치지직거리는 배경 잡음을 발생시키고, Osc A와 B는 각각 웨이브테이블을 이용해 다양한 파형의 소리를 발진시킨다. 각 요소
댓글 쓰기
자세한 내용 보기