]> git.dujemihanovic.xyz Git - u-boot.git/commitdiff
nand: atmel: Initialize pmecc smu with correct size
authorBin Meng <bmeng.cn@gmail.com>
Mon, 8 Oct 2018 09:27:44 +0000 (02:27 -0700)
committerTom Rini <trini@konsulko.com>
Mon, 22 Oct 2018 13:18:49 +0000 (09:18 -0400)
Currently in pmecc_get_sigma(), the code tries to clear the memory
pointed by smu with wrong size 'sizeof(int16_t) * ARRAY_SIZE(smu)'.
Since smu is actually a pointer, not an array, so ARRAY_SIZE(smu)
does not generate correct size to be cleared.

In fact, GCC 8.1.0 reports a warning against it:

error: division 'sizeof (int16_t * {aka short int *}) / sizeof (int16_t
{aka short int})' does not compute the number of array elements
[-Werror=sizeof-pointer-div]

Fix it by using the correct size.

Signed-off-by: Bin Meng <bmeng.cn@gmail.com>
Reviewed-by: Miquel Raynal <miquel.raynal@bootlin.com>
drivers/mtd/nand/raw/atmel_nand.c

index a5b76e1aa05d26dd5148b3ee95c10bd126d3dae7..31ad2cfa8882eb6c354e56a09c2589e7c0b1cd8e 100644 (file)
@@ -249,7 +249,7 @@ static void pmecc_get_sigma(struct mtd_info *mtd)
        int diff;
 
        /* Init the Sigma(x) */
-       memset(smu, 0, sizeof(int16_t) * ARRAY_SIZE(smu));
+       memset(smu, 0, sizeof(int16_t) * num * (cap + 2));
 
        dmu_0_count = 0;