Clinical prediction tools have failed in the correct risk stratification of syncope patients in the emergency department. To assess the possible strengths and weaknesses and to compare the different statistical methodologies to derive prediction tools, we decided to derive both a multivariate logistic regression model and an artificial neural network (ANN) on a large retrospective database and to prospectively validate them in a new dataset of 354 patients. The area under the ROC curve of multivariate regression and ANN in the validation cohort were 0.726 and 0.694, respectively. Since the poor predictive accuracy of the analyzed models, we tried to identify alternative methods. We hypothesized that accurate pretest probability assessments can be obtained by matching an individual patient to a group of previously studied patients who shared the same clinical characteristic and determining the percentage of these previously studied patients who had the outcome of interest. In theory, the ideal attribute matching system would allow a very detailed clinical profile to be matched against a very large reference database to provide accurate risk estimates. Therefore, we do not offer a clinically useful prediction tool at this stage, but this method seems promising. Future studies should focus on building large prospective datasets to assess if attribute matching adds any value to both the traditional clinical decision tools and the implicit estimate of probability from clinicians. Moreover, the introduction of new and more complex input attributes and the possibility to provide as output a detailed risk assessment will create a more specific and potentially more accurate clinical profile.

Gli strumenti fino ad ora disponibili hanno fallito nel tentativo di predire gli eventi avversi dei pazienti con sincope in pronto soccorso. Per valutare i possibili punti di forza e di debolezza e confrontare i diversi metodi statistici usati per la derivazione di score e scale di rischio, abbiamo deciso di derivare dei modelli basati su regressione logistica multivariata e reti neurali artificiali (ANN) a partire da un database retrospettivo e di validarli in un nuovo dataset di 354 pazienti. L’area sotto la curva ROC di regressione multivariata e ANN è risultata rispettivamente di 0.726 e 0.694 nella coorte di validazione. Vista la bassa accuratezza predittiva dei modelli analizzati, abbiamo provato a identificare metodi alternativi per predire il rischio di eventi avversi dei pazienti con sincope. Abbiamo ipotizzato che si potesse stimare una probabilità pre-test accurata appaiando ogni singolo paziente ad un gruppo di pazienti con le stesse caratteristiche cliniche, e valutando la proporzione che aveva sviluppato l’outcome di interesse (attribute matching). In teoria, il funzionamento ideale di tale sistema consentirebbe di confrontare un profilo clinico tanto più dettagliato e di avere stime di rischio molto precise quanto più il database di riferimento è ampio. Pertanto, questo strumento non è ancora utilizzabile nella pratica clinica, ma sembra un metodo promettente. Studi futuri dovrebbero costruire database prospettici che arruolino un gran numero di pazienti per valutare se l’attibute matching possa aggiungere informazioni agli strumenti predittivi tradizionali e alla stima del rischio da parte di medici esperti. Inoltre, la possibilità di introdurre variabili nuove e sempre più complesse e di poter predire nel dettaglio diversi tipi di outcome, potrebbe creare un profilo clinico più specifico e potenzialmente sempre più accurato.

SYNCOPE RISK STRATIFICATION IN THE EMERGENCY DEPARTMENT: COMPARISON OF DIFFERENT PREDICTION MODELS AND THE POSSIBLE ROLE OF ATTRIBUTE MATCHING / M. Solbiati ; tutor: P. Duca ; coordinatore: C. Lavecchia. DIPARTIMENTO DI SCIENZE BIOMEDICHE E CLINICHE "L. SACCO", 2018 Mar 07. 30. ciclo, Anno Accademico 2017. [10.13130/solbiati-monica_phd2018-03-07].

SYNCOPE RISK STRATIFICATION IN THE EMERGENCY DEPARTMENT: COMPARISON OF DIFFERENT PREDICTION MODELS AND THE POSSIBLE ROLE OF ATTRIBUTE MATCHING

M. Solbiati
2018

Abstract

Clinical prediction tools have failed in the correct risk stratification of syncope patients in the emergency department. To assess the possible strengths and weaknesses and to compare the different statistical methodologies to derive prediction tools, we decided to derive both a multivariate logistic regression model and an artificial neural network (ANN) on a large retrospective database and to prospectively validate them in a new dataset of 354 patients. The area under the ROC curve of multivariate regression and ANN in the validation cohort were 0.726 and 0.694, respectively. Since the poor predictive accuracy of the analyzed models, we tried to identify alternative methods. We hypothesized that accurate pretest probability assessments can be obtained by matching an individual patient to a group of previously studied patients who shared the same clinical characteristic and determining the percentage of these previously studied patients who had the outcome of interest. In theory, the ideal attribute matching system would allow a very detailed clinical profile to be matched against a very large reference database to provide accurate risk estimates. Therefore, we do not offer a clinically useful prediction tool at this stage, but this method seems promising. Future studies should focus on building large prospective datasets to assess if attribute matching adds any value to both the traditional clinical decision tools and the implicit estimate of probability from clinicians. Moreover, the introduction of new and more complex input attributes and the possibility to provide as output a detailed risk assessment will create a more specific and potentially more accurate clinical profile.
7-mar-2018
Gli strumenti fino ad ora disponibili hanno fallito nel tentativo di predire gli eventi avversi dei pazienti con sincope in pronto soccorso. Per valutare i possibili punti di forza e di debolezza e confrontare i diversi metodi statistici usati per la derivazione di score e scale di rischio, abbiamo deciso di derivare dei modelli basati su regressione logistica multivariata e reti neurali artificiali (ANN) a partire da un database retrospettivo e di validarli in un nuovo dataset di 354 pazienti. L’area sotto la curva ROC di regressione multivariata e ANN è risultata rispettivamente di 0.726 e 0.694 nella coorte di validazione. Vista la bassa accuratezza predittiva dei modelli analizzati, abbiamo provato a identificare metodi alternativi per predire il rischio di eventi avversi dei pazienti con sincope. Abbiamo ipotizzato che si potesse stimare una probabilità pre-test accurata appaiando ogni singolo paziente ad un gruppo di pazienti con le stesse caratteristiche cliniche, e valutando la proporzione che aveva sviluppato l’outcome di interesse (attribute matching). In teoria, il funzionamento ideale di tale sistema consentirebbe di confrontare un profilo clinico tanto più dettagliato e di avere stime di rischio molto precise quanto più il database di riferimento è ampio. Pertanto, questo strumento non è ancora utilizzabile nella pratica clinica, ma sembra un metodo promettente. Studi futuri dovrebbero costruire database prospettici che arruolino un gran numero di pazienti per valutare se l’attibute matching possa aggiungere informazioni agli strumenti predittivi tradizionali e alla stima del rischio da parte di medici esperti. Inoltre, la possibilità di introdurre variabili nuove e sempre più complesse e di poter predire nel dettaglio diversi tipi di outcome, potrebbe creare un profilo clinico più specifico e potenzialmente sempre più accurato.
Settore MED/01 - Statistica Medica
Settore MED/09 - Medicina Interna
syncope; risk stratification; clinical prediction tools; attribute matching; emergency department; prognosis
DUCA, PIERGIORGIO
LA VECCHIA, CARLO VITANTONIO BATTISTA
Doctoral Thesis
SYNCOPE RISK STRATIFICATION IN THE EMERGENCY DEPARTMENT: COMPARISON OF DIFFERENT PREDICTION MODELS AND THE POSSIBLE ROLE OF ATTRIBUTE MATCHING / M. Solbiati ; tutor: P. Duca ; coordinatore: C. Lavecchia. DIPARTIMENTO DI SCIENZE BIOMEDICHE E CLINICHE "L. SACCO", 2018 Mar 07. 30. ciclo, Anno Accademico 2017. [10.13130/solbiati-monica_phd2018-03-07].
File in questo prodotto:
File Dimensione Formato  
phd_unimi_R10909.pdf

Open Access dal 26/08/2018

Tipologia: Tesi di dottorato completa
Dimensione 687.03 kB
Formato Adobe PDF
687.03 kB Adobe PDF Visualizza/Apri
Pubblicazioni consigliate

I documenti in IRIS sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/2434/555557
Citazioni
  • ???jsp.display-item.citation.pmc??? ND
  • Scopus ND
  • ???jsp.display-item.citation.isi??? ND
social impact