Skip to main content

Table 5 Error rates in real MAQC data using shadow linear regression and smoothing spline approaches

From: Empirical estimation of sequencing error rates using smoothing splines

Samples

SRER

EER_CS

EER_RS

SRR037452

0.2695

0.3124

0.3362

SRR037453

0.1598

0.1819

0.1822

SRR037454

0.1596

0.2041

0.2196

SRR037455

0.1482

0.1694

0.1700

SRR037456

0.1657

0.2062

0.2162

SRR037457

0.1541

0.1796

0.1793

SRR037458

0.2386

0.2573

0.2575

SRR037459

0.1996

0.2216

0.2233

SRR037460

0.2027

0.2504

0.2647

SRR037461

0.1779

0.2058

0.2093

SRR037462

0.1858

0.2329

0.2319

SRR037463

0.1771

0.2019

0.2072

SRR037464

0.1850

0.2377

0.2448

SRR037465

0.1842

0.2019

0.2070

  1. SRER error rate estimated using shadow regression
  2. EER_CS empirical error rate estimated using cubic smoothing spline
  3. EER_RS empirical error rate estimated using robust smoothing spline