Gli algoritmi di regressione rientrano nella famiglia degli algoritmi di apprendimento automatico supervisionato che è un sottoinsieme degli algoritmi di apprendimento automatico. Una delle caratteristiche principali degli algoritmi di apprendimento supervisionato è che essi modellano le dipendenze e le relazioni tra l’obiettivo di uscita e le caratteristiche di ingresso per prevedere il valore dei nuovi dati. Gli algoritmi di regressione predicono i valori di uscita basati sulle caratteristiche di ingresso dai dati immessi nel sistema. La metodologia è che l’algoritmo costruisce un modello sulle caratteristiche dei dati di allenamento e usa il modello per predire il valore per i nuovi dati.
Secondo Oracle, ecco una grande definizione di Regressione – una funzione di data mining per predire un numero. Per esempio, come i modelli di regressione vengono sfruttati per prevedere il valore degli immobili in base alla posizione, alle dimensioni e ad altri fattori. Oggi, i modelli di regressione hanno molte applicazioni, in particolare nelle previsioni finanziarie, nell’analisi delle tendenze, nel marketing, nella previsione delle serie temporali e persino nella modellazione della risposta ai farmaci. Alcuni dei tipi popolari di algoritmi di regressione sono la regressione lineare, gli alberi di regressione, la regressione lasso e la regressione multivariata.
Analytics India Magazine elenca gli algoritmi di regressione più popolari
1. Modello di regressione lineare semplice: La regressione lineare semplice è un metodo statistico che permette di riassumere e studiare le relazioni tra due variabili continue (quantitative). La regressione lineare è un modello lineare in cui si assume una relazione lineare tra le variabili di input (x) e la singola variabile di output (y). Qui la y può essere calcolata da una combinazione lineare delle variabili di input (x). Quando c’è una singola variabile di input (x), il metodo è chiamato regressione lineare semplice. Quando ci sono più variabili di input, la procedura è chiamata regressione lineare multipla.
Applicazione: alcune delle applicazioni più popolari dell’algoritmo di regressione lineare sono nella previsione del portafoglio finanziario, nella previsione dei salari, nelle previsioni immobiliari e nel traffico per arrivare agli orari di arrivo previsti.
2. Regressione Lasso: LASSO è l’acronimo di Least Absolute Selection Shrinkage Operator in cui il restringimento è definito come un vincolo sui parametri. L’obiettivo della regressione Lasso è quello di ottenere il sottoinsieme di predittori che minimizza l’errore di predizione per una variabile di risposta quantitativa. L’algoritmo opera imponendo un vincolo sui parametri del modello che fa sì che i coefficienti di regressione per alcune variabili si riducano verso lo zero.
Le variabili con un coefficiente di regressione uguale a zero dopo il processo di restringimento sono escluse dal modello. Le variabili con coefficienti di regressione non nulli sono più fortemente associate alla variabile di risposta. Le variabili esplicative possono essere quantitative, categoriche o entrambe. Questa analisi di regressione Lasso è fondamentalmente un metodo di restringimento e selezione delle variabili e aiuta gli analisti a determinare quali predittori sono più importanti.
Applicazione: Gli algoritmi di regressione Lasso sono stati ampiamente utilizzati nelle reti finanziarie e nell’economia. In finanza, la sua applicazione è vista nella previsione delle probabilità di default e i modelli di previsione basati su Lasso sono usati nella valutazione del quadro di rischio aziendale. Le regressioni di tipo Lasso sono anche utilizzate per eseguire piattaforme di stress test per analizzare scenari di stress multipli.
3. Regressione logistica: Una delle tecniche di regressione più comunemente usate nel settore che sono ampiamente applicate nel rilevamento delle frodi, nello scoring delle carte di credito e negli studi clinici, ovunque la risposta sia binaria ha un grande vantaggio. Uno dei maggiori vantaggi di questo popolare algoritmo è che si può includere più di una variabile dipendente che può essere continua o dicotomica. L’altro grande vantaggio di questo algoritmo di apprendimento automatico supervisionato è che fornisce un valore quantificato per misurare la forza dell’associazione secondo il resto delle variabili. Nonostante la sua popolarità, i ricercatori hanno evidenziato i suoi limiti, citando una mancanza di tecnica robusta e anche una grande dipendenza del modello.
Applicazione: Oggi le imprese impiegano la Regressione Logistica per prevedere i valori delle case nel settore immobiliare, il valore di vita dei clienti nel settore assicurativo e sono sfruttate per produrre un risultato continuo come ad esempio se un cliente può comprare/comprerà lo scenario.
4. Support Vector Machines: Support Vector Machine (SVM) è un altro algoritmo più potente con forti basi teoriche basate sulla teoria di Vapnik-Chervonenkis, come definito dai documenti Oracle. Questo algoritmo di apprendimento automatico supervisionato ha una forte regolarizzazione e può essere sfruttato sia per la classificazione che per le sfide di regressione. Sono caratterizzati dall’uso di kernel, dalla scarsità della soluzione e dal controllo della capacità ottenuto agendo sul margine, o sul numero di vettori di supporto, ecc. La capacità del sistema è controllata da parametri che non dipendono dalla dimensionalità dello spazio delle caratteristiche. Poiché l’algoritmo SVM opera nativamente su attributi numerici, utilizza una normalizzazione z-score sugli attributi numerici. Nella regressione, gli algoritmi Support Vector Machines usano la funzione di perdita epsilon-insensitivity (margine di tolleranza) per risolvere i problemi di regressione.
Applicazione: gli algoritmi di regressione delle Support Vector Machines hanno trovato diverse applicazioni nell’industria del petrolio e del gas, nella classificazione di immagini e testi e nella categorizzazione degli ipertesti. Nei campi petroliferi, è specificamente sfruttato per l’esplorazione per capire la posizione degli strati di rocce e creare modelli 2D e 3D come rappresentazione del sottosuolo.
5. Algoritmo di regressione multivariata: Questa tecnica è usata quando c’è più di una variabile predittiva in un modello di regressione multivariata e il modello è chiamato regressione multipla multivariata. Definito come uno dei più semplici algoritmi di apprendimento automatico supervisionato dai ricercatori, questo algoritmo di regressione è usato per prevedere la variabile di risposta per un insieme di variabili esplicative. Questa tecnica di regressione può essere implementata in modo efficiente con l’aiuto di operazioni di matrice e in Python, può essere implementata tramite la libreria “numpy” che contiene definizioni e operazioni per gli oggetti matrice.
Applicazione: L’applicazione industriale dell’algoritmo di regressione multivariata è vista pesantemente nel settore della vendita al dettaglio dove i clienti fanno una scelta su una serie di variabili come la marca, il prezzo e il prodotto. L’analisi multivariata aiuta i responsabili delle decisioni a trovare la migliore combinazione di fattori per aumentare le visite nel negozio.
6. Algoritmo di regressione multipla: Questo algoritmo di regressione ha diverse applicazioni in tutto il settore per i prezzi dei prodotti, i prezzi degli immobili, i dipartimenti di marketing per scoprire l’impatto delle campagne. A differenza della tecnica di regressione lineare, la regressione multipla, è una classe più ampia di regressioni che comprende regressioni lineari e non lineari con variabili esplicative multiple.
Applicazione: Alcune delle applicazioni commerciali dell’algoritmo di regressione multipla nel settore sono nella ricerca delle scienze sociali, nell’analisi comportamentale e anche nel settore assicurativo per determinare la validità delle richieste di risarcimento.
Abbonati alla nostra Newsletter
Ottieni gli ultimi aggiornamenti e le offerte rilevanti condividendo la tua email.
0 commenti