Skip to main content

Table 1 Measure of migration prediction accuracy for all profiles

From: Restriction Landmark Genomic Scanning (RLGS) spot identification by second generation virtual RLGS in multiple genomes with multiple enzyme combinations

   Human NotI-EcoRV-HinfI (n = 795) Human AscI-EcoRV-HinfI (n = 133) Mouse NotI-EcoRV-HinfI (n = 530)
Func   Median Mean RMSc 90%d 90%-RMS Median Mean RMS 90% 90%-RMS Median Mean RMS 90% 90%-RMS
(1)a X 0.17b 0.22 0.28 0.45 0.20 0.14 0.25 0.44 0.52 0.19 0.35 0.49 0.99 0.79 0.35
(2) X 0.14 0.17 0.23 0.34 0.16 0.13 0.23 0.55 0.34 0.14 0.15 0.23 0.76 0.36 0.17
(3) X 0.13 0.15 0.20 0.31 0.14 0.12 0.13 0.17 0.26 0.13 0.11 0.18 0.74 0.29 0.12
(4) X 0.10 0.14 0.20 0.30 0.12 0.09 0.19 0.53 0.27 0.11 0.13 0.22 0.77 0.34 0.15
(5) X 0.09 0.11 0.16 0.24 0.10 0.07 0.10 0.13 0.20 0.09 0.09 0.16 0.75 0.23 0.10
(6) X 0.08 0.11 0.15 0.22 0.10 0.06 0.09 0.12 0.18 0.08 0.09 0.16 0.75 0.22 0.10
(7) X 0.06 0.09 0.14 0.18 0.08 0.07 0.08 0.11 0.18 0.08 0.05 0.12 0.74 0.15 0.06
(8) Y 0.26 0.48 0.85 1.08 0.36 0.26 0.37 0.53 0.82 0.32 0.28 0.49 0.94 1.04 0.37
(9) Y 0.25 0.40 1.77 0.71 0.30 0.23 0.37 0.81 0.61 0.26 0.29 0.47 1.11 0.80 0.34
(10) Y 0.21 0.45 4.44 0.55 0.24 0.19 0.30 0.44 0.64 0.25 0.25 0.38 0.83 0.65 0.28
(11) Y 0.19 0.34 1.67 0.62 0.24 0.17 0.30 0.70 0.44 0.21 0.24 0.41 1.07 0.64 0.27
(12) Y 0.16 0.27 1.42 0.43 0.18 0.17 0.23 0.33 0.40 0.19 0.17 0.30 0.77 0.52 0.21
(13) Y 0.15 0.26 1.42 0.43 0.18 0.18 0.21 0.29 0.40 0.18 0.17 0.29 0.76 0.50 0.20
(14) Y 0.14 0.25 1.43 0.39 0.17 0.12 0.18 0.28 0.37 0.15 0.15 0.28 0.75 0.50 0.19
(1/8) Eucl.e 0.38 0.58 0.90 1.13 0.44 0.37 0.51 0.69 1.14 0.43 0.52 0.79 1.37 1.64 0.62
(2/9) Eucl. 0.32 0.48 1.78 0.76 0.36 0.30 0.51 0.97 0.90 0.34 0.37 0.57 1.34 0.89 0.40
(3/10) Eucl. 0.29 0.52 4.45 0.64 0.30 0.25 0.36 0.47 0.67 0.30 0.30 0.46 1.12 0.69 0.32
(4/11) Eucl. 0.26 0.40 1.68 0.67 0.29 0.24 0.42 0.88 0.56 0.27 0.30 0.51 1.32 0.80 0.33
(5/12) Eucl. 0.22 0.32 1.43 0.48 0.23 0.21 0.27 0.36 0.44 0.23 0.22 0.37 1.07 0.57 0.24
(6/13) Eucl. 0.21 0.31 1.43 0.46 0.22 0.20 0.25 0.31 0.42 0.21 0.21 0.36 1.07 0.53 0.24
(7/14) Eucl. 0.18 0.28 1.43 0.44 0.20 0.16 0.22 0.30 0.38 0.18 0.18 0.34 1.05 0.53 0.21
  1. aSee Materials and Methods for descriptions of functions according to the number; bAll values in cm; cRoot Mean Square; dMaximum error of the 90th percentile of spots (dropping the 10th percentile of spots with the worst error). eEuclidean distance.