Skip to main content

Table 3 Bias, variance (standard deviation), and RMS for different error estimators, with different base classification rules, for prostate cancer mass-spectrometry data, and dimensionality .

From: Small-Sample Error Estimation for Bagged Classification Rules

Rule

stat

resb

boot

bresb

loo

b632

oob

sbresb

b632plus

cv5

lda

20

bias

0.0506

0.0181

0.0277

0.0033

0.0072

0.0044

0.0050

0.0019

0.0006

  

sd

0.0871

0.1025

0.0879

0.1031

0.0949

0.1037

0.0993

0.0985

0.1071

  

rms

0.1007

0.1041

0.0921

0.1031

0.0951

0.1038

0.0994

0.0985

0.1071

lda

40

bias

0.0283

0.0079

0.0189

0.0051

0.0054

0.0042

0.0029

0.0039

0.0031

  

sd

0.0609

0.0688

0.0626

0.0673

0.0647

0.0683

0.0674

0.0655

0.0693

  

rms

0.0672

0.0693

0.0654

0.0675

0.0649

0.0684

0.0675

0.0656

0.0694

lda

60

bias

0.0192

0.0045

0.0141

0.0042

0.0042

0.0044

0.0008

0.0035

0.0017

  

sd

0.0514

0.0572

0.0524

0.0542

0.0542

0.0549

0.0559

0.0546

0.0577

  

rms

0.0549

0.0573

0.0542

0.0544

0.0544

0.0550

0.0560

0.0547

0.0577

cart

20

bias

0.1504

0.0409

0.0500

0.0164

0.0295

0.0248

0.0441

0.0014

0.0059

  

sd

0.0693

0.1082

0.0765

0.1198

0.0847

0.1223

0.0791

0.1053

0.1169

  

rms

0.1655

0.1157

0.0914

0.1209

0.0897

0.1247

0.0905

0.1054

0.1170

cart

40

bias

0.1412

0.0320

0.0436

0.0047

0.0317

0.0096

0.0418

0.0108

0.0044

  

sd

0.0461

0.0701

0.0497

0.0753

0.0539

0.0773

0.0503

0.0646

0.0787

  

rms

0.1485

0.0771

0.0661

0.0755

0.0625

0.0779

0.0654

0.0655

0.0788

cart

60

bias

0.1397

0.0284

0.0404

0.0021

0.0334

0.0088

0.0393

0.0155

0.0049

  

sd

0.0347

0.0580

0.0418

0.0626

0.0441

0.0648

0.0424

0.0521

0.0636

  

rms

0.1439

0.0646

0.0581

0.0627

0.0554

0.0654

0.0578

0.0544

0.0637

3nn

20

bias

0.0820

0.0554

0.0488

0.0165

0.0048

0.0200

0.0371

0.0233

0.0104

  

sd

0.0748

0.1041

0.0757

0.1100

0.0871

0.1129

0.0805

0.0993

0.1037

  

rms

0.1110

0.1179

0.0901

0.1112

0.0872

0.1147

0.0886

0.1020

0.1043

3nn

40

bias

0.0673

0.0405

0.0377

0.0029

0.0008

0.0067

0.0271

0.0099

0.0040

  

sd

0.0458

0.0643

0.0460

0.0679

0.0536

0.0695

0.0504

0.0585

0.0644

  

rms

0.0814

0.0760

0.0595

0.0680

0.0536

0.0698

0.0572

0.0593

0.0645

3nn

60

bias

0.0660

0.0304

0.0375

0.0015

0.0051

0.0040

0.0269

0.0016

0.0006

  

sd

0.0389

0.0534

0.0393

0.0560

0.0451

0.0563

0.0435

0.0482

0.0557

  

rms

0.0766

0.0614

0.0543

0.0560

0.0454

0.0564

0.0511

0.0482

0.0557