Skip to main content

Table 1 Measure of migration prediction accuracy for all profiles

From: Restriction Landmark Genomic Scanning (RLGS) spot identification by second generation virtual RLGS in multiple genomes with multiple enzyme combinations

  

Human NotI-EcoRV-HinfI (n = 795)

Human AscI-EcoRV-HinfI (n = 133)

Mouse NotI-EcoRV-HinfI (n = 530)

Func

 

Median

Mean

RMSc

90%d

90%-RMS

Median

Mean

RMS

90%

90%-RMS

Median

Mean

RMS

90%

90%-RMS

(1)a

X

0.17b

0.22

0.28

0.45

0.20

0.14

0.25

0.44

0.52

0.19

0.35

0.49

0.99

0.79

0.35

(2)

X

0.14

0.17

0.23

0.34

0.16

0.13

0.23

0.55

0.34

0.14

0.15

0.23

0.76

0.36

0.17

(3)

X

0.13

0.15

0.20

0.31

0.14

0.12

0.13

0.17

0.26

0.13

0.11

0.18

0.74

0.29

0.12

(4)

X

0.10

0.14

0.20

0.30

0.12

0.09

0.19

0.53

0.27

0.11

0.13

0.22

0.77

0.34

0.15

(5)

X

0.09

0.11

0.16

0.24

0.10

0.07

0.10

0.13

0.20

0.09

0.09

0.16

0.75

0.23

0.10

(6)

X

0.08

0.11

0.15

0.22

0.10

0.06

0.09

0.12

0.18

0.08

0.09

0.16

0.75

0.22

0.10

(7)

X

0.06

0.09

0.14

0.18

0.08

0.07

0.08

0.11

0.18

0.08

0.05

0.12

0.74

0.15

0.06

(8)

Y

0.26

0.48

0.85

1.08

0.36

0.26

0.37

0.53

0.82

0.32

0.28

0.49

0.94

1.04

0.37

(9)

Y

0.25

0.40

1.77

0.71

0.30

0.23

0.37

0.81

0.61

0.26

0.29

0.47

1.11

0.80

0.34

(10)

Y

0.21

0.45

4.44

0.55

0.24

0.19

0.30

0.44

0.64

0.25

0.25

0.38

0.83

0.65

0.28

(11)

Y

0.19

0.34

1.67

0.62

0.24

0.17

0.30

0.70

0.44

0.21

0.24

0.41

1.07

0.64

0.27

(12)

Y

0.16

0.27

1.42

0.43

0.18

0.17

0.23

0.33

0.40

0.19

0.17

0.30

0.77

0.52

0.21

(13)

Y

0.15

0.26

1.42

0.43

0.18

0.18

0.21

0.29

0.40

0.18

0.17

0.29

0.76

0.50

0.20

(14)

Y

0.14

0.25

1.43

0.39

0.17

0.12

0.18

0.28

0.37

0.15

0.15

0.28

0.75

0.50

0.19

(1/8)

Eucl.e

0.38

0.58

0.90

1.13

0.44

0.37

0.51

0.69

1.14

0.43

0.52

0.79

1.37

1.64

0.62

(2/9)

Eucl.

0.32

0.48

1.78

0.76

0.36

0.30

0.51

0.97

0.90

0.34

0.37

0.57

1.34

0.89

0.40

(3/10)

Eucl.

0.29

0.52

4.45

0.64

0.30

0.25

0.36

0.47

0.67

0.30

0.30

0.46

1.12

0.69

0.32

(4/11)

Eucl.

0.26

0.40

1.68

0.67

0.29

0.24

0.42

0.88

0.56

0.27

0.30

0.51

1.32

0.80

0.33

(5/12)

Eucl.

0.22

0.32

1.43

0.48

0.23

0.21

0.27

0.36

0.44

0.23

0.22

0.37

1.07

0.57

0.24

(6/13)

Eucl.

0.21

0.31

1.43

0.46

0.22

0.20

0.25

0.31

0.42

0.21

0.21

0.36

1.07

0.53

0.24

(7/14)

Eucl.

0.18

0.28

1.43

0.44

0.20

0.16

0.22

0.30

0.38

0.18

0.18

0.34

1.05

0.53

0.21

  1. aSee Materials and Methods for descriptions of functions according to the number; bAll values in cm; cRoot Mean Square; dMaximum error of the 90th percentile of spots (dropping the 10th percentile of spots with the worst error). eEuclidean distance.
Back to article page

BMC Genomics

ISSN: 1471-2164

Contact us