有效数字修约的一点看法

春风十里。 · 发表于 2024-5-27 13:45:14

您需要登录才可以下载或查看，没有帐号？立即注册

x

现在遵循的都是四舍六入五成双，但是用在稳定性考察里感觉不太适用。如稳定性考察的标准要求该杂质不得过0.3%，检测结果为0.25%，修约后为0.2%，上一时间段结果为0.15%，修约为0.2%，两个阶段的数据相同，但实际结果未真实反映杂质的增长趋势。仅个人看法，往各位老师指正

泠泠月上 · 发表于 2024-5-27 14:28:08

0.25%不是原始数据吧，你这算二次修约

有个性的乡巴佬 · 发表于 2024-5-27 15:35:23

有效数字和保留几位小数是两个东西

聆听着 · 发表于 2024-5-27 16:28:38

这类问题确实存在，看看其他老师有没有好的解决方案；有些做法就是直接拿检测记录上的原始值做数据分析，COA按照检测记录上的修约值出。

15638809910 · 发表于 2024-5-28 17:29:51

这个例子说明你保留一位小数不能反映真实情况，并不是修约规则不合适导致的。如果5留单不会造成类似你的这种结果出现吗。还是说5就保留，那不是违背了你保留一位小数的初衷吗。你觉得0.15和0.25相差大。那0.16和0.24呢？说明问题不在修约规则上，在保留一位小数是否恰当上。

onizuka2014 · 发表于 2024-5-29 08:28:27

这种情况下，我们会多保留一位，以便趋势分析

余生很贵，请别 · 发表于 2024-5-29 08:41:17

15638809910 发表于 2024-5-28 17:29
这个例子说明你保留一位小数不能反映真实情况，并不是修约规则不合适导致的。如果5留单不会造成类似你的这 ...

赞同

污污 · 发表于 2024-5-29 16:09:20

15638809910 发表于 2024-5-28 17:29
这个例子说明你保留一位小数不能反映真实情况，并不是修约规则不合适导致的。如果5留单不会造成类似你的这 ...

赞同+1

[谈天说地] 有效数字修约的一点看法