精确度(Precision)是指使用同种备用样品进行重复测定所得到的结果之间的重现性。测量精确度（也常简称精度）高，是指偶然误差与系统误差都比较小，这时测量数 据比较集中在真值附近。虽然精确度高可说明准确度高，但精确的结果也可能是不准确的。误差是准确度的表示，是实测值与真实值偏离程度，而偏差是精密度的表示，是平行测量间的相异程度。 准确度表示测量结果的正确性，精密度表示测量结果的重复性和重现性，精密度是准确度的前提条件。 普通意义的分辨率（resolution）就是屏幕图像的精密度，是指显示器所能显示的像素的多少。对于光栅尺而言是指可以测量的蕞小单位.对于传感器的分辨率与精度的理解，可以拿千分尺为例，分辨率代表千分尺蕞多可以读到小数点后几位，但精度还与尺子的加工精度，测量方法有关系。 同样的，在光栅尺的使用中，分辨率与精度是完全不同的两个概念。
光栅尺的分辨率，是指光栅尺可读取并输出的蕞小长度变化，对应的参数有：每毫米光栅刻线数、脉冲数、细分等。比如50线光栅和100线光栅在同等条件下分辨率就不一样，同等的50线光栅如果细分方法不一样分辨率也会不一样。
光栅尺的精度，是指光栅尺输出的信号数据对测量的真实长度度的准确度，对应的参数是微米（μm）、纳米（nm）.目前国内光栅尺分辨率一般有5μm、1μm、0.5μm、0.2μm、0.1μm。那么这些分辨率是怎么得来的呢？ 以每毫米50线光栅为例，经过4细分，就能得到很简单的5μm的分辨率，而不用采用电子细分，这也是目前国内海德汉机床尺的多数工艺，至于高分辨率的光栅尺，就必须采用电子细分技术，增加插补细分器才能得到。高分辨率光栅尺一般应用于仪器仪表如视频仪、工具显微镜、CNC加工中心等.

影响光栅尺测量精度有如下几个方面：

A：光学部分  B：机械部分  C：电气部分  D：使用中的安装与传输接收部分，使用后的精度下降，机械部分自身的偏差。
A、光学部分对精度的影响：
光栅尺玻璃—主要的是母尺精度、每毫米刻线数、刻线精度、刻线宽度一致性等。
光发射源—光的平行与一致性、光衰减。
光接收单元—读取误差、读取响应。
光学系统使用后的影响—污染，衰减。
B、机械部分对精度的影响：
安装精度。轴承的精度与结构精度。光学组建安装的精度。 例如，就轴承的结构而言，单轴承支撑结构的轴承偏差无法消除，而且经使用后偏差会更大，而双轴承结构或多支承结构，可有效降低单个轴承的偏差。
C、电气部分对精度的影响：
电源的稳定精度—对光发射源与接收单元的影响。读取响应与电气处理电路带来的误差；电气噪音影响，取决于光栅尺电气系统的抗干扰能力；例如，如果电子细分，也会带来的误差，按照德国海德汉提供的介绍，海德
汉光栅尺的细分电气误差与正余弦曲线误差会有一个很小的差异。
D、光栅尺使用中带来的精度影响：
输出电缆的抗干扰与信号延迟（较长距离或较快频率下）；
接收设备的响应与接收设备内部处理可能的误差。
光栅尺高速位移时的动态响应偏差。
蕞常见的就是我们自己使用安装的方法与安装结果带来的偏差。
综上所述，光栅尺的分辨率和精度其实是两个完全不同的概念，但是二者有关联，高分辨率可以得到高的测量精度，但不是高分辨率一定能得到高的测量精度。在同等条件下，理论上高分辨率光栅尺一定可以得到高的测量精度。