度(Precision)是指使用同種備用樣品進(jìn)行重復(fù)測(cè)定所得到的結(jié)果之間的重現(xiàn)性。測(cè)量度（也常簡(jiǎn)稱精度）高，是指偶然誤差與系統(tǒng)誤差都比較小，這時(shí)測(cè)量數(shù) 據(jù)比較集中在真值附近。雖然度高可說明準(zhǔn)確度高，但的結(jié)果也可能是不準(zhǔn)確的。誤差是準(zhǔn)確度的表示，是實(shí)測(cè)值與真實(shí)值偏離程度，而偏差是精密度的表示，是平行測(cè)量間的相異程度。 準(zhǔn)確度表示測(cè)量結(jié)果的正確性，精密度表示測(cè)量結(jié)果的重復(fù)性和重現(xiàn)性，精密度是準(zhǔn)確度的前提條件。 普通意義的分辨率（resolution）就是屏幕圖像的精密度，是指顯示器所能顯示的像素的多少。對(duì)于光柵尺而言是指可以測(cè)量的小單位.對(duì)于傳感器的分辨率與精度的理解，可以拿千分尺為例，分辨率代表千分尺可以讀到小數(shù)點(diǎn)后幾位，但精度還與尺子的加工精度，測(cè)量方法有關(guān)系。 同樣的，在光柵尺的使用中，分辨率與精度是*不同的兩個(gè)概念。
       光柵尺的分辨率，是指光柵尺可讀取并輸出的長(zhǎng)度變化，對(duì)應(yīng)的參數(shù)有：每毫米光柵刻線數(shù)、脈沖數(shù)、細(xì)分等。比如50線光柵和100線光柵在同等條件下分辨率就不一樣，同等的50線光柵如果細(xì)分方法不一樣分辨率也會(huì)不一樣。
        光柵尺的精度，是指光柵尺輸出的信號(hào)數(shù)據(jù)對(duì)測(cè)量的真實(shí)長(zhǎng)度度的準(zhǔn)確度，對(duì)應(yīng)的參數(shù)是微米（μm）、納米（nm）.目前國(guó)內(nèi)光柵尺分辨率一般有5μm、1μm、0.5μm、0.2μm、0.1μm。那么這些分辨率是怎么得來的呢？ 以每毫米50線光柵為例，經(jīng)過4細(xì)分，就能得到很簡(jiǎn)單的5μm的分辨率，而不用采用電子細(xì)分，這也是目前國(guó)內(nèi)海德漢機(jī)床尺的多數(shù)工藝，至于高分辨率的光柵尺，就必須采用電子細(xì)分技術(shù)，增加插補(bǔ)細(xì)分器才能得到。高分辨率光柵尺一般應(yīng)用于儀器儀表如視頻儀、工具顯微鏡、CNC加工中心等。
影響光柵尺測(cè)量精度有如下幾個(gè)方面：
A：光學(xué)部分  B：機(jī)械部分  C：電氣部分  D：使用中的安裝與傳輸接收部分，使用后的精度下降，機(jī)械部分自身的偏差。
A、光學(xué)部分對(duì)精度的影響：
光柵尺玻璃—主要的是母尺精度、每毫米刻線數(shù)、刻線精度、刻線寬度一致性等。
光發(fā)射源—光的平行與一致性、光衰減。
光接收單元—讀取誤差、讀取響應(yīng)。
光學(xué)系統(tǒng)使用后的影響—污染，衰減。
B、機(jī)械部分對(duì)精度的影響：
安裝精度。軸承的精度與結(jié)構(gòu)精度。光學(xué)組建安裝的精度。 例如，就軸承的結(jié)構(gòu)而言，單軸承支撐結(jié)構(gòu)的軸承偏差無法消除，而且經(jīng)使用后偏差會(huì)更大，而雙軸承結(jié)構(gòu)或多支承結(jié)構(gòu)，可有效降低單個(gè)軸承的偏差。
C、電氣部分對(duì)精度的影響：
電源的穩(wěn)定精度—對(duì)光發(fā)射源與接收單元的影響。讀取響應(yīng)與電氣處理電路帶來的誤差；電氣噪音影響，取決于光柵尺電氣系統(tǒng)的抗干擾能力；例如，如果電子細(xì)分，也會(huì)帶來的誤差，按照德國(guó)海德漢提供的介紹，海德漢光柵尺的細(xì)分電氣誤差與正余弦曲線誤差會(huì)有一個(gè)很小的差異。
D、光柵尺使用中帶來的精度影響：

輸出電纜的抗干擾與信號(hào)延遲（較長(zhǎng)距離或較快頻率下）；
       接收設(shè)備的響應(yīng)與接收設(shè)備內(nèi)部處理可能的誤差。
       光柵尺高速位移時(shí)的動(dòng)態(tài)響應(yīng)偏差。
       常見的就是我們自己使用安裝的方法與安裝結(jié)果帶來的偏差。
       綜上所述，光柵尺的分辨率和精度其實(shí)是兩個(gè)*不同的概念，但是二者有關(guān)聯(lián)，高分辨率可以得到高的測(cè)量精度，但不是高分辨率一定能得到高的測(cè)量精度。在同等條件下，理論上高分辨率光柵尺一定可以得到高的測(cè)量精度。