Drijvende pt vertegenwoordiging in DCT

[Nikolai]

dit verwijst naar de Xilinx aanvraag niet over de uitvoering van DCT ...

Kan iemand mij vertellen welk type van floating point representatie wordt gebruikt voor het opslaan van de cosinus coëfficiënten in matrices C en Ct ...voor oa: linksboven waarde in de matrix C evalueert met 0,125 maar wordt opgeslagen als 23170.

 

[echo47]

Ik veronderstel dat je naar dit document: "Video Compressie gebruiken DCT"
http://www.xilinx.com/bvdocs/appnotes/xapp610.pdf

Het is niet floating point, het is fixed-point getal.

M = N = 8
col = 0
row = 0
C = K * cos ((2 * col 1) * rij * pi / (2 * M))

K = sqrt (1 / N).
.
.
.
.
De PDF zegt sqrt (1) / N, maar dat is een typfout!

C = sqrt (1 / 8) * cos (0)
C = 0,353553391
Converteren naar getal door te vermenigvuldigen met 65536:
C * 65536 = 23170

 

[Nikolai]

Ohhhh .... k

Dus ze omgezet floating point naar vaste punt.Bin lookin voor het overal, maar couldnt vinden een uitleg ...

Thanx a lot!