스터디 노트

머신러닝 알고리즘 소개(형태/기능 유사성 알고리즘 분류)

알럽뷰 2023. 11. 11. 23:58

가장 인기 있는 머신러닝 알고리즘이며, 실무에서 주로 쓰는 알고리즘입니다.

알고리즘을 소개할 때 분류하는 방식이 2가지 있습니다.

 

  1. 학습 스타일에 따른 알고리즘 분류
  2. 형태나 기능 유사성에 따른 알고리즘 분류

학습 스타일에 따른 알고리즘 분류는 서적, 강의에서 많이 보는 분류입니다.

  • 지도 학습, 비지도 학습, 반지도 학습, 강화학습

형태나 기능 유사성에 따른 알고리즘 분류는 통계, 기술적인 지식이 있는 사람이라면 이해하기 쉬운 방식입니다.

모든 알고리즘이 딱 들어맞게 분류되는 것은 아니며 가장 적합하다고 생각하는 방식으로 분류되었습니다.

분류 및 회귀에 사용되는 머신러닝 알고리즘 위주로 작성되었습니다.

 

※ 원문이 영어인 점으로 용어에 어색함이 있을 수 있습니다.

※  모든 내용을 번역한 것이 아닌 일부만 발췌해왔습니다.

 

Regression Algorithms 회귀 알고리즘

 

  • Ordianry Least Squares Regression (OLSR)
  • Linear Regression
  • Logistic Regression
  • Stepwise Regression
  • Multivariate Adaptive Regression Splines (MARS)
  • Locally Estimated Scatterplot Smoothing (LOESS)

 

Instance-based Algorithms 인스턴스 기반 알고리즘

 

  • k-Nearest Neighbor (kNN)
  • Learning Vector Quantization (LVQ)
  • Self-Organizing Map (SOM)
  • Locally Weighted Learning (LWL)
  • Support Vector Machines (SVM)

 

Regularization Algorithms 정규화 알고리즘

 

  • Ridge Regression
  • Least Absolute Shrinkage and Selection Operator (LASSO)
  • Elastic Net
  • Least-Angle Regression (LARS)

 

Decision Tree Algorithms 의사결정나무 알고리즘

 

  • Classification and Regression Tree (CART)
  • Iterative Dichotomiser 3 (ID3)
  • C4.5 and C5.0 (different versions of a powerful approach)
  • Chi-squared Automatic Interaction Detection (CHAID)
  • Decision Stump
  • M5
  • Conditional Decision Trees

 

Bayesian Algorithms 베이지안 알고리즘

 

  • Naive Bayes
  • Gaussian Naive Bayes
  • Multinomial Naive Bayes
  • Averaged One-Dependence Estimators (AODE)
  • Bayesian Belief Network (BBN)
  • Bayesian Network (BN)

 

Clustering Algorithms 클러스터링 알고리즘

 

  • k-Means
  • k-Medians
  • Expectation Maximisation (EM)
  • Hierarchical Clustering

 

Association 연결 규칙 학습 알고리즘

 

  • Apriori algorithm
  • Eclat algorithm

 

Artificial Neural Network Algorithms인공신경망 알고리즘

 

  • Perceptron
  • Multilayer Perceptrons (MLP)
  • Back-Propagation
  • Stochastic Gradient Descent
  • Hopfield Network
  • Radial Basis Function Network (RBFN)

 

Deep Learning Algorithms 딥러닝 알고리즘

 

  • Convolutional Neural Network (CNN)
  • Recurrent Neural Networks (RNNs)
  • Long Short-Term Memory Networks (LSTMs)
  • Stacked Auto-Encoders
  • Deep Boltzmann Machine (DBM)
  • Deep Belief Networks (DBN)

 

Dimensionality Reduction Algorithms 차원축소 알고리즘

 

  • Principal Component Analysis (PCA)
  • Principal Component Regression (PCR)
  • Partial Least Squares Regression (PLSR)
  • Sammon Mapping
  • Multidimensional Scaling (MDS)
  • Projection Pursuit
  • Linear Discriminant Analysis (LDA)
  • Mixture Discriminant Analysis (MDA)
  • Quadratic Discriminant Analysis (QDA)
  • Flexible Discriminant Analysis (FDA)

 

Ensemble Algorithms 앙상블 알고리즘

 

  • Boosting
  • Bootstrapped Aggregation (Bagging)
  • AdaBoost
  • Weighted Average (Blending)
  • Stacked Generalization (Stacking)
  • Gradient Boosting Machines (GBM)
  • Gradient Boosted Regression Trees (GBRT)
  • Random Forest

 

 

과거 프로젝트 수행 시 유용한 자료를 발견하여 공유하고 싶었습니다.

특히나 실무경험 없이 지도학습, 비지도학습이란 말이 크게 와닿지 않았었고, 알고리즘에 대한 이해가 부족한 상태로 진도를 빼지 못하곤 했었지만, 다행히도 통계학과라는 베이스가 있어서 그런지 알고리즘의 탄생비화(?) 같은 것으로 분류해 놓은 점이 마음에 들었습니다.

이걸 토대로 알고리즘을 하나씩 공부해나가면 좀 더 성장할 수 있을 거라 생각합니다.

 

모든 글을 다 번역한 것은 아닙니다.

아래 링크에 들어가보시면 더 자세한 내용이 나와있습니다.

 

 

출처

 

2019년 8월 12일 작성, 2020년 8월 14일 마지막 업데이트

https://machinelearningmastery.com/a-tour-of-machine-learning-algorithms/

 

A Tour of Machine Learning Algorithms

Tour of Machine Learning Algorithms: Learn all about the most popular machine learning algorithms.

machinelearningmastery.com