Classificatore lineare

Nel campo dell'apprendimento automatico, l'obiettivo della classificazione statistica è utilizzare le caratteristiche di un oggetto per identificare a quale classe (o gruppo) appartiene. Un classificatore lineare realizza ciò prendendo una decisione di classificazione basata sul valore di una combinazione lineare delle caratteristiche. Le caratteristiche di un oggetto sono anche conosciute come valori di caratteristiche e sono tipicamente presentate alla macchina in un vettore chiamato vettore di caratteristiche. Questi classificatori funzionano bene per problemi pratici come la classificazione dei documenti e, più in generale, per problemi con molte variabili (caratteristiche), raggiungendo livelli di accuratezza paragonabili ai classificatori non lineari mentre richiedono meno tempo per allenarsi ed essere usati.

Se il vettore delle caratteristiche d'ingresso è un vettore di numeri reali ${\displaystyle {\vec {x}}}$ allora il punteggio d'uscita è

${\displaystyle y=f({\vec {w}}\cdot {\vec {x}})=f\left(\sum _{j}w_{j}x_{j}\right),}$

dove ${\displaystyle {\vec {w}}}$ è un vettore reale di pesi e f è una funzione che converte il prodotto scalare dei due vettori nell'uscita desiderata. In altre parole, ${\displaystyle {\vec {w}}}$ è una funzione lineare che mappa ${\displaystyle {\vec {x}}}$ in R. Il vettore peso ${\displaystyle {\vec {w}}}$ è appreso da un insieme di campioni d'allenamento etichettati. Spesso f è una semplice funzione che mappa tutti i valori sopra una certa soglia alla prima classe e tutti gli altri valori alla seconda classe. Una f più complessa da la probabilità che un elemento appartenga a una certa classe.

Per un problema di classificazione a due classi, una può visualizzare l'operazione di un classificatore lineare come la divisione di un ingresso di uno spazio multidimensionale con un iperpiano: tutti i punti su un lato dell'iperpiano sono classificati come "si" e gli altri come "no".

• Macchine a vettori di supporto

V · D · M Apprendimento automatico
Problemi	Teoria dell'apprendimento statistico · Classificazione · Regressione · Regole di associazione · Apprendimento non supervisionato · Apprendimento supervisionato · Apprendimento per rinforzo · Apprendimento profondo
Apprendimento non supervisionato	Clustering · Clustering gerarchico · K-means · Algoritmo EM · DBSCAN · Mean shift · Rete generativa avversaria (cGAN · VAE-GAN · cycleGAN)
Apprendimento supervisionato	Albero di decisione · Foresta casuale · Conditional random fields CRF · Modello di Markov nascosto · K-nearest neighbors · Classificatore bayesiano · Rete neurale artificiale · Regressione lineare · Regressione logistica · Modelli grafici · Macchine a vettori di supporto
Apprendimento per rinforzo	Q-learning · SARSA · TD
Riduzione della dimensionalità	Analisi fattoriale · Analisi della correlazione canonica (CCA) · Analisi delle componenti indipendenti (ICA) · Analisi discriminante lineare (LDA) · Analisi delle componenti principali (PCA) · Selezione delle caratteristiche · Estrazione di caratteristiche · t-distributed stochastic neighbor embedding (t-SNE)
Reti neurali artificiali	Percettrone · Rete neurale a base radiale · Rete bayesiana · Rete neurale feed-forward · Rete di Hopfield · Percettrone multistrato · Rete neurale ricorrente (LSTM) · Macchina di Boltzmann ristretta · Mappa auto-organizzata · Rete neurale convoluzionale · Rete neurale a ritardo · Rete neurale spiking · Rete neurale grafica · Trasformatore
Software	Keras · Microsoft Cognitive Toolkit · Scikit-learn · TensorFlow · Theano · Torch · Weka
Altro	Algoritmo genetico · Particle Swarm Optimization · Caratteristica · Compromesso bias-varianza · Minimizzazione del rischio empirico

Portale Informatica

Portale Statistica