소소한 빅데이터 마케팅

* 그래디언트 부스팅(Gradient Boosting) - 앙상블에서 대표적인 부스팅 방식 (부스팅? 모형을 하나 뽑고 잘못한것을 학습해서 다음 모델로 넘긴다 -> '순차적인 직렬구조') - 이전 학습의 결과에서 나온 오차를 다음 학습에 전달해 이전의 오차(잔여 오차)를 점진적으로 개선하는 기법 - '회귀'(Regressor), '분류'(Classifier)모형 모두 사용 가능 - 매게변수 설정에 민감하지만, 잘 조정하면 더 높은 정확도를 보여줌 - 그래디언트 부스팅의 중요 매게변수: 'learning_rate' (높을수록 트리의 오차 보정을 강하게 함, 복잡한 모델 생성 / 너무 높으면 Overfitting 위험) - 종류: XGBoost, LightGbm, CatBoost * Gradient Boos..

* Decision Tree 포스팅 https://soso-bigdatamarketing.tistory.com/21 [Python ML]K-최근접이웃(K-NN), 의사결정나무(Decision Tree) * K-최근접 이웃(K-NN; K-Nearest Neighbor) - 가장 근접하게 있는 데이터 종류에 따라서 해당 데이터의 종류를 정해주는 알고리즘 (유유상종) - 판별하고 싶은 데이터와 인접한 k개의 데이터를 찾아, 해 soso-bigdatamarketing.tistory.com * 랜덤 포레스트 - 앙상블에서 대표적인 배깅 방식 - 수많은 의사결정 나무(Decision Tree)가 모여서 생성됨 - 전체 feature 중 랜덤으로 일부 feature만 선택해 하나의 결정 트리를 만들고, 또 전체 fe..

* 앙상블(Ensemble) - 주어진 자료로부터 여러개의 예측 모델들을 만든 후 예측 모형들을 조합하여 하나의 최종 예측 모형을 만드는 방법 - 다중 모델 조합, 분류기 조합 - 종류: 배깅, 부스팅, 랜덤포레스트, 스태킹 등 1) 보팅(Voting) - 모형을 여러 개 만들어 조합 - 모형 중 성능이 가장 좋은 것을 뽑아서 다시 분석 - 하드 보팅: 다수의 분류기가 예측한 결과값을 최종 결과로 선정 - 소프트 보팅: 모든 분류기가 예측한 레이블 값을 결정 확률 평균을 구한 뒤, 가장 확률이 높은 레이블 값을 최종 결과로 선정 2) 배깅(Bagging) - 데이터 샘플링을 통해 모델을 학습시키고 결과를 집계하는 방법 - 모형을 여러가지 뽑아 평균해서 적절하게 값을 뽑아줌, '병렬구조'를 가짐 - '랜덤..

* 딥 러닝(Deep Learning) 1) DNN(Deep Neural Network) - 인공신경망 모델 내 은닉층을 많이 늘려 학습의 결과를 향상시킨 방법 - 은닉층이 2개 이상인 학습 방법 - 컴퓨터가 스스로 분류레이블을 만들어 내고 공간을 왜곡하고 데이터를 구분짓는 과정 반복 - DNN을 응용한 알고리즘: CNN, RNN, LSTM, GRU 2) CNN(합성곱 신경망, Convoluntion Neural Network) - 주로 이미지나 영상 데이터를 처리할 때 사용 - 기존의 방식: 데이터에서 지식을 추출하여 학습 - CNN: 데이터의 특징을 추출하여 특징들의 패턴을 파악하는 구조 - Convolution과정과 Pooling과정을 통해 진행 3) RNN(순환 신경망, Recurrent Neur..

* 인공지능 vs. 머신러닝 vs. 딥러닝 - 인공지능(Artificial Intelligence): 말 그대로 인공적으로, 컴퓨터를 통해 지적 능력을 구현하는, 좀 더 개념적인 단어를 의미 - 머신러닝(Machine Learning): 컴퓨터가 '학습'을 통해 스스로 그 성능을 향상 시키는 방법론 - 딥러닝(Deep Learning): 인간의 뉴런을 모티브로 한 '인공신경망' 방식을 바탕으로 컴퓨터를 학습시키는 것 * 인공 신경망(Artificial Neural Network) - 인간의 뇌를 기반으로 한 추론 모델 - 신경망은 가중치를 반복적으로 조정하며 학습 - 뉴런은 링크로 연결되어 있고, 각 링크에는 수치적인 가중치가 있음 - 인공 신경망은 신경망의 가중치를 초기화하고 훈련 데이터를 통해 가중치..