Small-Sample Error Estimation for Bagged Classification Rules

Vu, T. T.; Braga-Neto, U. M.

doi:10.1155/2010/548906

EURASIP Journal on Advances in Signal Processing

Table 1 Bias, variance (standard deviation), and RMS for different error estimators, with different base classification rules, for breast cancer gene expression data, and dimensionality .

From: Small-Sample Error Estimation for Bagged Classification Rules

Rule		stat	resb	boot	bresb	loo	b632	oob	sbresb	b632plus	cv5
lda	20	bias	0.0388	0.0287	0.0104	0.0063	0.0039	0.0076	0.0244	0.0092	0.0143
		sd	0.0908	0.0944	0.0789	0.1004	0.0912	0.1003	0.0933	0.0938	0.1140
		rms	0.0988	0.0986	0.0795	0.1006	0.0913	0.1006	0.0964	0.0942	0.1149
lda	40	bias	0.0198	0.0082	0.0084	0.0012	0.0021	0.0002	0.0168	0.0011	0.0044
		sd	0.0657	0.0642	0.0614	0.0671	0.0638	0.0673	0.0676	0.0641	0.0714
		rms	0.0686	0.0647	0.0620	0.0671	0.0639	0.0673	0.0696	0.0641	0.0716
lda	60	bias	0.0157	0.0000	0.0097	0.0045	0.0058	0.0036	0.0104	0.0054	0.0011
		sd	0.0577	0.0559	0.0544	0.0580	0.0560	0.0581	0.0586	0.0560	0.0586
		rms	0.0598	0.0559	0.0553	0.0582	0.0563	0.0582	0.0595	0.0563	0.0587
cart	20	bias	0.1554	0.0456	0.0330	0.0226	0.0284	0.0267	0.0225	0.0096	0.0094
		sd	0.0653	0.1047	0.0671	0.1210	0.0798	0.1229	0.0700	0.1059	0.1187
		rms	0.1686	0.1142	0.0747	0.1231	0.0847	0.1258	0.0735	0.1063	0.1190
cart	40	bias	0.1583	0.0323	0.0358	0.0095	0.0378	0.0143	0.0284	0.0094	0.0058
		sd	0.0484	0.0697	0.0502	0.0774	0.0533	0.0799	0.0516	0.0671	0.0810
		rms	0.1655	0.0769	0.0616	0.0780	0.0653	0.0812	0.0589	0.0677	0.0812
cart	60	bias	0.1722	0.0211	0.0377	0.0001	0.0501	0.0043	0.0317	0.0232	0.0050
		sd	0.0400	0.0624	0.0473	0.0705	0.0473	0.0701	0.0472	0.0590	0.0695
		rms	0.1768	0.0658	0.0605	0.0705	0.0689	0.0703	0.0569	0.0634	0.0697
3nn	20	bias	0.0964	0.0575	0.0478	0.0270	0.0009	0.0269	0.0176	0.0273	0.0076
		sd	0.0716	0.0996	0.0649	0.1174	0.0835	0.1167	0.0778	0.1005	0.1156
		rms	0.1201	0.1150	0.0806	0.1204	0.0835	0.1197	0.0798	0.1041	0.1159
3nn	40	bias	0.0952	0.0406	0.0481	0.0109	0.0094	0.0139	0.0214	0.0075	0.0036
		sd	0.0529	0.0687	0.0493	0.0787	0.0590	0.0785	0.0577	0.0669	0.0801
		rms	0.1089	0.0798	0.0689	0.0794	0.0598	0.0797	0.0615	0.0673	0.0802
3nn	60	bias	0.0962	0.0316	0.0504	0.0034	0.0154	0.0054	0.0261	0.0012	0.0008
		sd	0.0432	0.0625	0.0452	0.0693	0.0526	0.0693	0.0514	0.0595	0.0680
		rms	0.1054	0.0701	0.0677	0.0694	0.0548	0.0695	0.0576	0.0595	0.0680

Back to article page