xref: /openbmc/linux/arch/arm/crypto/sha1_neon_glue.c (revision 2612e3bbc0386368a850140a6c9b990cd496a5ec)
12874c5fdSThomas Gleixner // SPDX-License-Identifier: GPL-2.0-or-later
260468255SJussi Kivilinna /*
360468255SJussi Kivilinna  * Glue code for the SHA1 Secure Hash Algorithm assembler implementation using
460468255SJussi Kivilinna  * ARM NEON instructions.
560468255SJussi Kivilinna  *
660468255SJussi Kivilinna  * Copyright © 2014 Jussi Kivilinna <jussi.kivilinna@iki.fi>
760468255SJussi Kivilinna  *
860468255SJussi Kivilinna  * This file is based on sha1_generic.c and sha1_ssse3_glue.c:
960468255SJussi Kivilinna  *  Copyright (c) Alan Smithee.
1060468255SJussi Kivilinna  *  Copyright (c) Andrew McDonald <andrew@mcdonald.org.uk>
1160468255SJussi Kivilinna  *  Copyright (c) Jean-Francois Dive <jef@linuxbe.org>
1260468255SJussi Kivilinna  *  Copyright (c) Mathias Krause <minipli@googlemail.com>
1360468255SJussi Kivilinna  *  Copyright (c) Chandramouli Narayanan <mouli@linux.intel.com>
1460468255SJussi Kivilinna  */
1560468255SJussi Kivilinna 
1660468255SJussi Kivilinna #include <crypto/internal/hash.h>
1799680c5eSEric Biggers #include <crypto/internal/simd.h>
1860468255SJussi Kivilinna #include <linux/init.h>
1960468255SJussi Kivilinna #include <linux/module.h>
2060468255SJussi Kivilinna #include <linux/mm.h>
2160468255SJussi Kivilinna #include <linux/types.h>
22a24d22b2SEric Biggers #include <crypto/sha1.h>
2351e515faSArd Biesheuvel #include <crypto/sha1_base.h>
2460468255SJussi Kivilinna #include <asm/neon.h>
2560468255SJussi Kivilinna #include <asm/simd.h>
2660468255SJussi Kivilinna 
2790451d6bSArd Biesheuvel #include "sha1.h"
2860468255SJussi Kivilinna 
29*e95c09e3SHerbert Xu asmlinkage void sha1_transform_neon(struct sha1_state *state_h,
30*e95c09e3SHerbert Xu 				    const u8 *data, int rounds);
3160468255SJussi Kivilinna 
sha1_neon_update(struct shash_desc * desc,const u8 * data,unsigned int len)3260468255SJussi Kivilinna static int sha1_neon_update(struct shash_desc *desc, const u8 *data,
3360468255SJussi Kivilinna 			  unsigned int len)
3460468255SJussi Kivilinna {
3560468255SJussi Kivilinna 	struct sha1_state *sctx = shash_desc_ctx(desc);
3660468255SJussi Kivilinna 
3799680c5eSEric Biggers 	if (!crypto_simd_usable() ||
3851e515faSArd Biesheuvel 	    (sctx->count % SHA1_BLOCK_SIZE) + len < SHA1_BLOCK_SIZE)
3951e515faSArd Biesheuvel 		return sha1_update_arm(desc, data, len);
4051e515faSArd Biesheuvel 
4151e515faSArd Biesheuvel 	kernel_neon_begin();
42*e95c09e3SHerbert Xu 	sha1_base_do_update(desc, data, len, sha1_transform_neon);
4351e515faSArd Biesheuvel 	kernel_neon_end();
4460468255SJussi Kivilinna 
4560468255SJussi Kivilinna 	return 0;
4660468255SJussi Kivilinna }
4760468255SJussi Kivilinna 
sha1_neon_finup(struct shash_desc * desc,const u8 * data,unsigned int len,u8 * out)4851e515faSArd Biesheuvel static int sha1_neon_finup(struct shash_desc *desc, const u8 *data,
4951e515faSArd Biesheuvel 			   unsigned int len, u8 *out)
5051e515faSArd Biesheuvel {
5199680c5eSEric Biggers 	if (!crypto_simd_usable())
5251e515faSArd Biesheuvel 		return sha1_finup_arm(desc, data, len, out);
5351e515faSArd Biesheuvel 
5460468255SJussi Kivilinna 	kernel_neon_begin();
5551e515faSArd Biesheuvel 	if (len)
56*e95c09e3SHerbert Xu 		sha1_base_do_update(desc, data, len, sha1_transform_neon);
57*e95c09e3SHerbert Xu 	sha1_base_do_finalize(desc, sha1_transform_neon);
5860468255SJussi Kivilinna 	kernel_neon_end();
5951e515faSArd Biesheuvel 
6051e515faSArd Biesheuvel 	return sha1_base_finish(desc, out);
6160468255SJussi Kivilinna }
6260468255SJussi Kivilinna 
sha1_neon_final(struct shash_desc * desc,u8 * out)6360468255SJussi Kivilinna static int sha1_neon_final(struct shash_desc *desc, u8 *out)
6460468255SJussi Kivilinna {
6551e515faSArd Biesheuvel 	return sha1_neon_finup(desc, NULL, 0, out);
6660468255SJussi Kivilinna }
6760468255SJussi Kivilinna 
6860468255SJussi Kivilinna static struct shash_alg alg = {
6960468255SJussi Kivilinna 	.digestsize	=	SHA1_DIGEST_SIZE,
7051e515faSArd Biesheuvel 	.init		=	sha1_base_init,
7160468255SJussi Kivilinna 	.update		=	sha1_neon_update,
7260468255SJussi Kivilinna 	.final		=	sha1_neon_final,
7351e515faSArd Biesheuvel 	.finup		=	sha1_neon_finup,
7460468255SJussi Kivilinna 	.descsize	=	sizeof(struct sha1_state),
7560468255SJussi Kivilinna 	.base		=	{
7660468255SJussi Kivilinna 		.cra_name		= "sha1",
7760468255SJussi Kivilinna 		.cra_driver_name	= "sha1-neon",
7860468255SJussi Kivilinna 		.cra_priority		= 250,
7960468255SJussi Kivilinna 		.cra_blocksize		= SHA1_BLOCK_SIZE,
8060468255SJussi Kivilinna 		.cra_module		= THIS_MODULE,
8160468255SJussi Kivilinna 	}
8260468255SJussi Kivilinna };
8360468255SJussi Kivilinna 
sha1_neon_mod_init(void)8460468255SJussi Kivilinna static int __init sha1_neon_mod_init(void)
8560468255SJussi Kivilinna {
8660468255SJussi Kivilinna 	if (!cpu_has_neon())
8760468255SJussi Kivilinna 		return -ENODEV;
8860468255SJussi Kivilinna 
8960468255SJussi Kivilinna 	return crypto_register_shash(&alg);
9060468255SJussi Kivilinna }
9160468255SJussi Kivilinna 
sha1_neon_mod_fini(void)9260468255SJussi Kivilinna static void __exit sha1_neon_mod_fini(void)
9360468255SJussi Kivilinna {
9460468255SJussi Kivilinna 	crypto_unregister_shash(&alg);
9560468255SJussi Kivilinna }
9660468255SJussi Kivilinna 
9760468255SJussi Kivilinna module_init(sha1_neon_mod_init);
9860468255SJussi Kivilinna module_exit(sha1_neon_mod_fini);
9960468255SJussi Kivilinna 
10060468255SJussi Kivilinna MODULE_LICENSE("GPL");
10160468255SJussi Kivilinna MODULE_DESCRIPTION("SHA1 Secure Hash Algorithm, NEON accelerated");
1025d26a105SKees Cook MODULE_ALIAS_CRYPTO("sha1");
103