[TechHack-1] 頭昏腦脹到什麼 FP16 / FP32 / FP64 ?



由於正在著手Deep Leaning 專案需求,需要從了解如何建置DNN環境開始,所以被指派要著手弄清楚,收集了解 GeForce GPUs相關卡效能與資訊。

顯示卡規格中總是有出現FP 16/32/64 Performance,總是搞不清楚針對精確度的衡量。

回頭查閱相關資訊,好像是曾經計概接觸到的IEEE 754,都是二進位浮點算數標準的表示方式。


  • 半精度浮點數 ( half-precision floating-point,FP16 )
  • 單精度浮點數 ( single precision floating point,FP32)
  • 雙精度浮點數 ( double precision floating point,FP64 )

▉ 總結 |
需要多收集關於GPU, Floating Point and IEEE 754 相關資訊。
資料來源 | https://goo.gl/tVqn4V

留言

這個網誌中的熱門文章