1b2441318SGreg Kroah-Hartman/* SPDX-License-Identifier: GPL-2.0 */ 218269c0fSSam Ravnborg/* 318269c0fSSam Ravnborg * memscan.S: Optimized memscan for the Sparc. 418269c0fSSam Ravnborg * 518269c0fSSam Ravnborg * Copyright (C) 1996 David S. Miller (davem@caip.rutgers.edu) 618269c0fSSam Ravnborg */ 718269c0fSSam Ravnborg 8*4cdb71b6SMasahiro Yamada#include <linux/export.h> 9d3867f04SAl Viro 1018269c0fSSam Ravnborg/* In essence, this is just a fancy strlen. */ 1118269c0fSSam Ravnborg 1218269c0fSSam Ravnborg#define LO_MAGIC 0x01010101 1318269c0fSSam Ravnborg#define HI_MAGIC 0x80808080 1418269c0fSSam Ravnborg 1518269c0fSSam Ravnborg .text 1618269c0fSSam Ravnborg .align 4 1718269c0fSSam Ravnborg .globl __memscan_zero, __memscan_generic 1818269c0fSSam Ravnborg .globl memscan 19d3867f04SAl ViroEXPORT_SYMBOL(__memscan_zero) 20d3867f04SAl ViroEXPORT_SYMBOL(__memscan_generic) 2118269c0fSSam Ravnborg__memscan_zero: 2218269c0fSSam Ravnborg /* %o0 = addr, %o1 = size */ 2318269c0fSSam Ravnborg cmp %o1, 0 2418269c0fSSam Ravnborg bne,a 1f 2518269c0fSSam Ravnborg andcc %o0, 3, %g0 2618269c0fSSam Ravnborg 2718269c0fSSam Ravnborg retl 2818269c0fSSam Ravnborg nop 2918269c0fSSam Ravnborg 3018269c0fSSam Ravnborg1: 3118269c0fSSam Ravnborg be mzero_scan_word 3218269c0fSSam Ravnborg sethi %hi(HI_MAGIC), %g2 3318269c0fSSam Ravnborg 3418269c0fSSam Ravnborg ldsb [%o0], %g3 3518269c0fSSam Ravnborgmzero_still_not_word_aligned: 3618269c0fSSam Ravnborg cmp %g3, 0 3718269c0fSSam Ravnborg bne 1f 3818269c0fSSam Ravnborg add %o0, 1, %o0 3918269c0fSSam Ravnborg 4018269c0fSSam Ravnborg retl 4118269c0fSSam Ravnborg sub %o0, 1, %o0 4218269c0fSSam Ravnborg 4318269c0fSSam Ravnborg1: 4418269c0fSSam Ravnborg subcc %o1, 1, %o1 4518269c0fSSam Ravnborg bne,a 1f 4618269c0fSSam Ravnborg andcc %o0, 3, %g0 4718269c0fSSam Ravnborg 4818269c0fSSam Ravnborg retl 4918269c0fSSam Ravnborg nop 5018269c0fSSam Ravnborg 5118269c0fSSam Ravnborg1: 5218269c0fSSam Ravnborg bne,a mzero_still_not_word_aligned 5318269c0fSSam Ravnborg ldsb [%o0], %g3 5418269c0fSSam Ravnborg 5518269c0fSSam Ravnborg sethi %hi(HI_MAGIC), %g2 5618269c0fSSam Ravnborgmzero_scan_word: 5718269c0fSSam Ravnborg or %g2, %lo(HI_MAGIC), %o3 5818269c0fSSam Ravnborg sethi %hi(LO_MAGIC), %g3 5918269c0fSSam Ravnborg or %g3, %lo(LO_MAGIC), %o2 6018269c0fSSam Ravnborgmzero_next_word: 6118269c0fSSam Ravnborg ld [%o0], %g2 6218269c0fSSam Ravnborgmzero_next_word_preloaded: 6318269c0fSSam Ravnborg sub %g2, %o2, %g2 6418269c0fSSam Ravnborgmzero_next_word_preloaded_next: 6518269c0fSSam Ravnborg andcc %g2, %o3, %g0 6618269c0fSSam Ravnborg bne mzero_byte_zero 6718269c0fSSam Ravnborg add %o0, 4, %o0 6818269c0fSSam Ravnborg 6918269c0fSSam Ravnborgmzero_check_out_of_fuel: 7018269c0fSSam Ravnborg subcc %o1, 4, %o1 7118269c0fSSam Ravnborg bg,a 1f 7218269c0fSSam Ravnborg ld [%o0], %g2 7318269c0fSSam Ravnborg 7418269c0fSSam Ravnborg retl 7518269c0fSSam Ravnborg nop 7618269c0fSSam Ravnborg 7718269c0fSSam Ravnborg1: 7818269c0fSSam Ravnborg b mzero_next_word_preloaded_next 7918269c0fSSam Ravnborg sub %g2, %o2, %g2 8018269c0fSSam Ravnborg 8118269c0fSSam Ravnborg /* Check every byte. */ 8218269c0fSSam Ravnborgmzero_byte_zero: 8318269c0fSSam Ravnborg ldsb [%o0 - 4], %g2 8418269c0fSSam Ravnborg cmp %g2, 0 8518269c0fSSam Ravnborg bne mzero_byte_one 8618269c0fSSam Ravnborg sub %o0, 4, %g3 8718269c0fSSam Ravnborg 8818269c0fSSam Ravnborg retl 8918269c0fSSam Ravnborg mov %g3, %o0 9018269c0fSSam Ravnborg 9118269c0fSSam Ravnborgmzero_byte_one: 9218269c0fSSam Ravnborg ldsb [%o0 - 3], %g2 9318269c0fSSam Ravnborg cmp %g2, 0 9418269c0fSSam Ravnborg bne,a mzero_byte_two_and_three 9518269c0fSSam Ravnborg ldsb [%o0 - 2], %g2 9618269c0fSSam Ravnborg 9718269c0fSSam Ravnborg retl 9818269c0fSSam Ravnborg sub %o0, 3, %o0 9918269c0fSSam Ravnborg 10018269c0fSSam Ravnborgmzero_byte_two_and_three: 10118269c0fSSam Ravnborg cmp %g2, 0 10218269c0fSSam Ravnborg bne,a 1f 10318269c0fSSam Ravnborg ldsb [%o0 - 1], %g2 10418269c0fSSam Ravnborg 10518269c0fSSam Ravnborg retl 10618269c0fSSam Ravnborg sub %o0, 2, %o0 10718269c0fSSam Ravnborg 10818269c0fSSam Ravnborg1: 10918269c0fSSam Ravnborg cmp %g2, 0 11018269c0fSSam Ravnborg bne,a mzero_next_word_preloaded 11118269c0fSSam Ravnborg ld [%o0], %g2 11218269c0fSSam Ravnborg 11318269c0fSSam Ravnborg retl 11418269c0fSSam Ravnborg sub %o0, 1, %o0 11518269c0fSSam Ravnborg 11618269c0fSSam Ravnborgmzero_found_it: 11718269c0fSSam Ravnborg retl 11818269c0fSSam Ravnborg sub %o0, 2, %o0 11918269c0fSSam Ravnborg 12018269c0fSSam Ravnborgmemscan: 12118269c0fSSam Ravnborg__memscan_generic: 12218269c0fSSam Ravnborg /* %o0 = addr, %o1 = c, %o2 = size */ 12318269c0fSSam Ravnborg cmp %o2, 0 12418269c0fSSam Ravnborg bne,a 0f 12518269c0fSSam Ravnborg ldub [%o0], %g2 12618269c0fSSam Ravnborg 12718269c0fSSam Ravnborg b,a 2f 12818269c0fSSam Ravnborg1: 12918269c0fSSam Ravnborg ldub [%o0], %g2 13018269c0fSSam Ravnborg0: 13118269c0fSSam Ravnborg cmp %g2, %o1 13218269c0fSSam Ravnborg be 2f 13318269c0fSSam Ravnborg addcc %o2, -1, %o2 13418269c0fSSam Ravnborg bne 1b 13518269c0fSSam Ravnborg add %o0, 1, %o0 13618269c0fSSam Ravnborg2: 13718269c0fSSam Ravnborg retl 13818269c0fSSam Ravnborg nop 139