Názor k článku Brain Floating Point – nový formát uložení čísel pro strojové učení a chytrá čidla od _dw - https://github.com/DW0RKiN/Floating-point-Library-for-Z80 Softwarova implementace bfloatu (s prehozenou pozici znamenkoveho bitu),...

  • Článek je starý, nové názory již nelze přidávat.
  • 13. 2. 2020 5:16

    _dw

    https://github.com/DW0RKiN/Floating-point-Library-for-Z80

    Softwarova implementace bfloatu (s prehozenou pozici znamenkoveho bitu), binary16 (half) a formatu Daniela A. Nagyho (seee eeee mmmm mmmm) pro procesor Z80. Bez te podpory denormalizovanych cisel, NaN, nekonecen a presne nuly. Takze ani NaN nemuze po zadne matematicke operaci nastat. Fce jen vraci carry pokud je vysledek mimo rozsah a nasledne vrati maximalni nebo minimalni pripustnou hodnotu. Jsou tam i nahledy pri pouziti jednotlivych formatu v raytracingu. Takze si lze udelat predstavu o presnosti a casove narocnosti (cca 100x rychlejsi jak raytracing v basicu ZX Spectra) i o velikosti kodu s pomocnymi tabulkami.

    13. 2. 2020, 05:18 editováno autorem komentáře