Skip to main content

Table 6 Error rates in real mutation screening data using shadow linear regression and smoothing spline approaches

From: Empirical estimation of sequencing error rates using smoothing splines

Samples

SRER

EER_CS

EER_RS

SRR032565

0.0753

0.1167

0.1206

SRR032566

0.0584

0.0746

0.0745

SRR032567

0.0846

0.1420

0.1446

SRR032568

0.0686

0.1566

0.1566

SRR032569

0.0597

0.1015

0.1020

SRR032570

0.0691

0.0973

0.0954

SRR032571

0.0724

0.1400

0.1400

SRR032572

0.0818

0.1611

0.1593

SRR032573

0.1602

0.2756

0.2752

SRR032574

0.0557

0.1004

0.1053

SRR032575

0.0882

0.1191

0.1179

SRR032576

0.1101

0.1915

0.1899

SRR032577

0.0762

0.1282

0.1280

SRR032578

0.1365

0.1874

0.1873

SRR032580

0.0727

0.1262

0.1266

SRR032581

0.0981

0.0506

0.0511

SRR032582

0.0941

0.1689

0.1679

SRR032583

0.1141

0.2057

0.2042

SRR032584

0.0849

0.0963

0.0742

SRR032586

0.0623

0.3606

0.3621

SRR032587

0.0857

0.1524

0.1532

SRR032588

0.0701

0.1446

0.1440

SRR033543

0.0802

0.1084

0.1102

SRR033544

0.1175

0.1588

0.1586

  1. SRER error rate estimated using shadow regression
  2. EER_CS empirical error rate estimated using cubic smoothing spline
  3. EER_RS empirical error rate estimated using robust smoothing spline