Data Process chapter

16
Hasiib Bintang Purnama
140210110016

Ct

Noise

Scaled Noise Gauss + Noise

5 pt. MA

7 pt. MA

15 pt. MA

5 pt. EMA

7 pt. SG

0,2

0,431214

0,129364245 0,329364246

0,329364

0,329364

0,329364

0,329364

0,329364

0,2

0,040663

0,012198941 0,212198944

0,212199

0,212199

0,212199

0,212199

0,212199

10

0,2

-0,48333

-0,144998949 0,055001058

0,205206

0,055001

0,055001

0,055001

0,055001

15

0,2

0,095392

0,028617507 0,228617526

0,189577

0,193778

0,228618

0,228618

0,176598

20

0,2

0,00283

0,00084908 0,200849131

0,162977

0,191994

0,200849

0,219359

0,172829

25

0,2

0,17073

0,05121886 0,251218996

0,215352

0,17888

0,251219

0,229977

0,224976

30

0,2

-0,40268

-0,120804306 0,079196048

0,193709

0,206516

0,079196

0,179715

0,189171

35

0,200001

0,389594

0,116878085 0,316878985

0,203229

0,192817

0,194881

0,225434

0,202266

40

0,200002

-0,26534

-0,079601015 0,120401204

0,179531

0,186019

0,186234

0,190421

0,193409

45

0,200005

0,161474

0,048442214 0,248447538

0,194344

0,167724

0,180621

0,209761

0,20303

50

0,200012

-0,22428

-0,067283217 0,132729206

0,155599

0,18676

0,187202

0,184082

0,143399

Smoothing Data Gaussian

Chromatograpic Peak
55

0,200028

-0,15589

-0,046766462 0,153261727

0,174008

0,178556

0,189562

0,173807

0,153862

60

0,200062

-0,25636

-0,076906945 0,12315527

0,176209

0,189878

0,189494

0,156921

0,158889

65

0,200134

0,041037

0,012311001 0,212444552

0,189594

0,172671

0,194828

0,175427

0,205717

70

0,200279

0,197253

0,059175979 0,259454807

0,184541

0,17567

0,201802

0,203434

0,21087

75

0,200566

-0,00304

-0,000912959 0,19965323

0,190655

0,191492

0,18709

0,202172

0,192688

3.5

2.5
gausian plus noise
15 pt. MA

5 pt.MA
7 pt. MA

1.5

0.5

0
0

100

200

300

400

Smoothing data

500

600

700

t,s

gaussian 1

gaussian 2

signal

15 pt. smooth

21 pt. smooth

4,3474E-229

3,000000165

3,000000761

4,3775E-222

3,000000357

3,0000016

3,000001

3,4328E-215

3,000001

3,000000761

3,000003308

3,000002

2,0965E-208

3,000002

3,0000016

3,000006734

3,000003

9,9719E-202

3,000003

3,000003308

3,000013498

3,000007

3,6939E-195

3,000007

3,000006734

3,000026635

3,000013

1,0656E-188

3,000013

3,000013498

3,000051743

3,000027

2,3943E-182

3,000027

3,000026635

3,000098961

3,000052

4,1894E-176

3,000052

3,000051743

3,000186333

3,000099

5,709E-170

3,000099

3,000098961

3,000345406

10

3,000186

6,059E-164

3,000186

3,000186333

3,000630355

11

3,000345

5,008E-158

3,000345

3,000345406

3,001132543

removal of features by filtering

12

3,00063

3,2237E-152

3,00063

3,000630355

3,002003265

13

3,001133

1,6161E-146

3,001133

3,001132543

3,003488479

14

3,002003

6,3097E-141

3,002003

3,002003265

3,005980644

15

3,003488

1,9186E-135

3,003488

3,000300111

3,010094248

60

50

40

30

20

10

0
0

20

40
signal

60
15 pt smooth

80

100

21 pt smooth

removal of features by filtering

120

t,s

signal

1st deriv.

3,000001

3,000004

2,74673E-06

3,000012

8,4329E-06

3,000037

2nd deriv.

gaussian 2

signal plus

1st deriv.

2,16782E-34

3,0000012

1,39824E-32

3,000004

2,74673E-06

2,27447E-05

8,07028E-31

3,0000124

8,4329E-06

2,27447E-05

2,48477E-05

6,56592E-05

4,16811E-29

3,0000372

2,48477E-05

6,56592E-05

3,000108

7,02593E-05

0,000181646

1,92635E-27

3,0001075

7,02593E-05

0,000181646

3,000298

0,000190627

0,000481472

7,96664E-26

3,0002981

0,000190627

0,000481472

3,000794

0,000496228

0,001222403

2,94823E-24

3,0007944

0,000496228

0,001222403

3,002034

0,001239187

0,002971837

9,76318E-23

3,0020335

0,001239187

0,002971837

3,005002

0,002968173

0,006915941

2,89312E-21

3,0050017

0,002968173

0,006915941

3,01182

0,006818149

0,015399904

7,67164E-20

3,0118199

0,006818149

0,015399904

10

3,026837

0,015017141

0,032795972

1,82035E-18

3,026837

0,015017141

0,032795972

Enhancement of features by
differentiation

2nd deriv.

11

3,058544

0,031707183

0,066760167

3,86514E-17

3,0585442

0,031707183

0,066760167

12

3,122705

0,064160661

0,12981391

7,3438E-16

3,1227049

0,064160661

0,12981391

13

3,247097

0,124392378

0,24092687

1,2486E-14

3,2470972

0,124392378

0,24092687

14

3,478082

0,230984599

0,426368883

1,89962E-13

3,4780818

0,230984599

0,426368883

15

3,88872

0,410637891

0,71861317

2,58618E-12

3,8887197

0,410637891

0,71861317

100

80

60
Series1
40

1st deriv.
2nd deriv.

20

0
0

20

40

60

80

100

120

-20

Enhancement of features by
differentiation