xref: /openbmc/linux/fs/btrfs/file-item.c (revision 61b49440)
16cbd5570SChris Mason /*
26cbd5570SChris Mason  * Copyright (C) 2007 Oracle.  All rights reserved.
36cbd5570SChris Mason  *
46cbd5570SChris Mason  * This program is free software; you can redistribute it and/or
56cbd5570SChris Mason  * modify it under the terms of the GNU General Public
66cbd5570SChris Mason  * License v2 as published by the Free Software Foundation.
76cbd5570SChris Mason  *
86cbd5570SChris Mason  * This program is distributed in the hope that it will be useful,
96cbd5570SChris Mason  * but WITHOUT ANY WARRANTY; without even the implied warranty of
106cbd5570SChris Mason  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
116cbd5570SChris Mason  * General Public License for more details.
126cbd5570SChris Mason  *
136cbd5570SChris Mason  * You should have received a copy of the GNU General Public
146cbd5570SChris Mason  * License along with this program; if not, write to the
156cbd5570SChris Mason  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
166cbd5570SChris Mason  * Boston, MA 021110-1307, USA.
176cbd5570SChris Mason  */
186cbd5570SChris Mason 
19065631f6SChris Mason #include <linux/bio.h>
20065631f6SChris Mason #include <linux/pagemap.h>
21065631f6SChris Mason #include <linux/highmem.h>
221e1d2701SChris Mason #include "ctree.h"
23dee26a9fSChris Mason #include "disk-io.h"
249f5fae2fSChris Mason #include "transaction.h"
251de037a4SChris Mason #include "print-tree.h"
261e1d2701SChris Mason 
276567e837SChris Mason #define MAX_CSUM_ITEMS(r) ((((BTRFS_LEAF_DATA_SIZE(r) - \
28a429e513SChris Mason 			       sizeof(struct btrfs_item) * 2) / \
29509659cdSChris Mason 			       BTRFS_CRC32_SIZE) - 1))
30b18c6685SChris Mason int btrfs_insert_file_extent(struct btrfs_trans_handle *trans,
31dee26a9fSChris Mason 			     struct btrfs_root *root,
32b18c6685SChris Mason 			     u64 objectid, u64 pos,
33f2eb0a24SSage Weil 			     u64 disk_offset, u64 disk_num_bytes,
34f2eb0a24SSage Weil 			     u64 num_bytes, u64 offset)
359f5fae2fSChris Mason {
36dee26a9fSChris Mason 	int ret = 0;
37dee26a9fSChris Mason 	struct btrfs_file_extent_item *item;
38dee26a9fSChris Mason 	struct btrfs_key file_key;
395caf2a00SChris Mason 	struct btrfs_path *path;
405f39d397SChris Mason 	struct extent_buffer *leaf;
41dee26a9fSChris Mason 
425caf2a00SChris Mason 	path = btrfs_alloc_path();
435caf2a00SChris Mason 	BUG_ON(!path);
44dee26a9fSChris Mason 	file_key.objectid = objectid;
45b18c6685SChris Mason 	file_key.offset = pos;
46dee26a9fSChris Mason 	btrfs_set_key_type(&file_key, BTRFS_EXTENT_DATA_KEY);
47dee26a9fSChris Mason 
485caf2a00SChris Mason 	ret = btrfs_insert_empty_item(trans, root, path, &file_key,
49dee26a9fSChris Mason 				      sizeof(*item));
5054aa1f4dSChris Mason 	if (ret < 0)
5154aa1f4dSChris Mason 		goto out;
529773a788SChris Mason 	BUG_ON(ret);
535f39d397SChris Mason 	leaf = path->nodes[0];
545f39d397SChris Mason 	item = btrfs_item_ptr(leaf, path->slots[0],
55dee26a9fSChris Mason 			      struct btrfs_file_extent_item);
56f2eb0a24SSage Weil 	btrfs_set_file_extent_disk_bytenr(leaf, item, disk_offset);
57db94535dSChris Mason 	btrfs_set_file_extent_disk_num_bytes(leaf, item, disk_num_bytes);
58f2eb0a24SSage Weil 	btrfs_set_file_extent_offset(leaf, item, offset);
59db94535dSChris Mason 	btrfs_set_file_extent_num_bytes(leaf, item, num_bytes);
605f39d397SChris Mason 	btrfs_set_file_extent_generation(leaf, item, trans->transid);
615f39d397SChris Mason 	btrfs_set_file_extent_type(leaf, item, BTRFS_FILE_EXTENT_REG);
625f39d397SChris Mason 	btrfs_mark_buffer_dirty(leaf);
6354aa1f4dSChris Mason out:
645caf2a00SChris Mason 	btrfs_free_path(path);
6554aa1f4dSChris Mason 	return ret;
669f5fae2fSChris Mason }
67dee26a9fSChris Mason 
68b18c6685SChris Mason struct btrfs_csum_item *btrfs_lookup_csum(struct btrfs_trans_handle *trans,
69b18c6685SChris Mason 					  struct btrfs_root *root,
706567e837SChris Mason 					  struct btrfs_path *path,
71b18c6685SChris Mason 					  u64 objectid, u64 offset,
72b18c6685SChris Mason 					  int cow)
736567e837SChris Mason {
746567e837SChris Mason 	int ret;
756567e837SChris Mason 	struct btrfs_key file_key;
766567e837SChris Mason 	struct btrfs_key found_key;
776567e837SChris Mason 	struct btrfs_csum_item *item;
785f39d397SChris Mason 	struct extent_buffer *leaf;
796567e837SChris Mason 	u64 csum_offset = 0;
80a429e513SChris Mason 	int csums_in_item;
816567e837SChris Mason 
826567e837SChris Mason 	file_key.objectid = objectid;
836567e837SChris Mason 	file_key.offset = offset;
846567e837SChris Mason 	btrfs_set_key_type(&file_key, BTRFS_CSUM_ITEM_KEY);
85b18c6685SChris Mason 	ret = btrfs_search_slot(trans, root, &file_key, path, 0, cow);
866567e837SChris Mason 	if (ret < 0)
876567e837SChris Mason 		goto fail;
885f39d397SChris Mason 	leaf = path->nodes[0];
896567e837SChris Mason 	if (ret > 0) {
906567e837SChris Mason 		ret = 1;
9170b2befdSChris Mason 		if (path->slots[0] == 0)
926567e837SChris Mason 			goto fail;
936567e837SChris Mason 		path->slots[0]--;
945f39d397SChris Mason 		btrfs_item_key_to_cpu(leaf, &found_key, path->slots[0]);
956567e837SChris Mason 		if (btrfs_key_type(&found_key) != BTRFS_CSUM_ITEM_KEY ||
966567e837SChris Mason 		    found_key.objectid != objectid) {
976567e837SChris Mason 			goto fail;
986567e837SChris Mason 		}
996567e837SChris Mason 		csum_offset = (offset - found_key.offset) >>
1006567e837SChris Mason 				root->fs_info->sb->s_blocksize_bits;
1015f39d397SChris Mason 		csums_in_item = btrfs_item_size_nr(leaf, path->slots[0]);
102509659cdSChris Mason 		csums_in_item /= BTRFS_CRC32_SIZE;
103a429e513SChris Mason 
104a429e513SChris Mason 		if (csum_offset >= csums_in_item) {
105a429e513SChris Mason 			ret = -EFBIG;
1066567e837SChris Mason 			goto fail;
1076567e837SChris Mason 		}
1086567e837SChris Mason 	}
1096567e837SChris Mason 	item = btrfs_item_ptr(leaf, path->slots[0], struct btrfs_csum_item);
110509659cdSChris Mason 	item = (struct btrfs_csum_item *)((unsigned char *)item +
111509659cdSChris Mason 					  csum_offset * BTRFS_CRC32_SIZE);
1126567e837SChris Mason 	return item;
1136567e837SChris Mason fail:
1146567e837SChris Mason 	if (ret > 0)
115b18c6685SChris Mason 		ret = -ENOENT;
1166567e837SChris Mason 	return ERR_PTR(ret);
1176567e837SChris Mason }
1186567e837SChris Mason 
1196567e837SChris Mason 
120dee26a9fSChris Mason int btrfs_lookup_file_extent(struct btrfs_trans_handle *trans,
121dee26a9fSChris Mason 			     struct btrfs_root *root,
122dee26a9fSChris Mason 			     struct btrfs_path *path, u64 objectid,
1239773a788SChris Mason 			     u64 offset, int mod)
124dee26a9fSChris Mason {
125dee26a9fSChris Mason 	int ret;
126dee26a9fSChris Mason 	struct btrfs_key file_key;
127dee26a9fSChris Mason 	int ins_len = mod < 0 ? -1 : 0;
128dee26a9fSChris Mason 	int cow = mod != 0;
129dee26a9fSChris Mason 
130dee26a9fSChris Mason 	file_key.objectid = objectid;
13170b2befdSChris Mason 	file_key.offset = offset;
132dee26a9fSChris Mason 	btrfs_set_key_type(&file_key, BTRFS_EXTENT_DATA_KEY);
133dee26a9fSChris Mason 	ret = btrfs_search_slot(trans, root, &file_key, path, ins_len, cow);
134dee26a9fSChris Mason 	return ret;
135dee26a9fSChris Mason }
136f254e52cSChris Mason 
13761b49440SChris Mason int btrfs_lookup_bio_sums(struct btrfs_root *root, struct inode *inode,
13861b49440SChris Mason 			  struct bio *bio)
13961b49440SChris Mason {
14061b49440SChris Mason 	u32 sum;
14161b49440SChris Mason 	struct bio_vec *bvec = bio->bi_io_vec;
14261b49440SChris Mason 	int bio_index = 0;
14361b49440SChris Mason 	u64 offset;
14461b49440SChris Mason 	u64 item_start_offset = 0;
14561b49440SChris Mason 	u64 item_last_offset = 0;
14661b49440SChris Mason 	u32 diff;
14761b49440SChris Mason 	int ret;
14861b49440SChris Mason 	struct btrfs_path *path;
14961b49440SChris Mason 	struct btrfs_csum_item *item = NULL;
15061b49440SChris Mason 	struct extent_io_tree *io_tree = &BTRFS_I(inode)->io_tree;
15161b49440SChris Mason 
15261b49440SChris Mason 	path = btrfs_alloc_path();
15361b49440SChris Mason 	path->reada = 2;
15461b49440SChris Mason 
15561b49440SChris Mason 	WARN_ON(bio->bi_vcnt <= 0);
15661b49440SChris Mason 
15761b49440SChris Mason 	while(bio_index < bio->bi_vcnt) {
15861b49440SChris Mason 		offset = page_offset(bvec->bv_page) + bvec->bv_offset;
15961b49440SChris Mason 		ret = btrfs_find_ordered_sum(inode, offset, &sum);
16061b49440SChris Mason 		if (ret == 0)
16161b49440SChris Mason 			goto found;
16261b49440SChris Mason 
16361b49440SChris Mason 		if (!item || offset < item_start_offset ||
16461b49440SChris Mason 		    offset >= item_last_offset) {
16561b49440SChris Mason 			struct btrfs_key found_key;
16661b49440SChris Mason 			u32 item_size;
16761b49440SChris Mason 
16861b49440SChris Mason 			if (item)
16961b49440SChris Mason 				btrfs_release_path(root, path);
17061b49440SChris Mason 			item = btrfs_lookup_csum(NULL, root, path,
17161b49440SChris Mason 						 inode->i_ino, offset, 0);
17261b49440SChris Mason 			if (IS_ERR(item)) {
17361b49440SChris Mason 				ret = PTR_ERR(item);
17461b49440SChris Mason 				if (ret == -ENOENT || ret == -EFBIG)
17561b49440SChris Mason 					ret = 0;
17661b49440SChris Mason 				sum = 0;
17761b49440SChris Mason 				printk("no csum found for inode %lu start "
17861b49440SChris Mason 				       "%llu\n", inode->i_ino,
17961b49440SChris Mason 				       (unsigned long long)offset);
18061b49440SChris Mason 				goto found;
18161b49440SChris Mason 			}
18261b49440SChris Mason 			btrfs_item_key_to_cpu(path->nodes[0], &found_key,
18361b49440SChris Mason 					      path->slots[0]);
18461b49440SChris Mason 
18561b49440SChris Mason 			item_start_offset = found_key.offset;
18661b49440SChris Mason 			item_size = btrfs_item_size_nr(path->nodes[0],
18761b49440SChris Mason 						       path->slots[0]);
18861b49440SChris Mason 			item_last_offset = item_start_offset +
18961b49440SChris Mason 				(item_size / BTRFS_CRC32_SIZE) *
19061b49440SChris Mason 				root->sectorsize;
19161b49440SChris Mason 			item = btrfs_item_ptr(path->nodes[0], path->slots[0],
19261b49440SChris Mason 					      struct btrfs_csum_item);
19361b49440SChris Mason 		}
19461b49440SChris Mason 		/*
19561b49440SChris Mason 		 * this byte range must be able to fit inside
19661b49440SChris Mason 		 * a single leaf so it will also fit inside a u32
19761b49440SChris Mason 		 */
19861b49440SChris Mason 		diff = offset - item_start_offset;
19961b49440SChris Mason 		diff = diff / root->sectorsize;
20061b49440SChris Mason 		diff = diff * BTRFS_CRC32_SIZE;
20161b49440SChris Mason 
20261b49440SChris Mason 		read_extent_buffer(path->nodes[0], &sum,
20361b49440SChris Mason 				   (unsigned long)item + diff,
20461b49440SChris Mason 				   BTRFS_CRC32_SIZE);
20561b49440SChris Mason found:
20661b49440SChris Mason 		set_state_private(io_tree, offset, sum);
20761b49440SChris Mason 		bio_index++;
20861b49440SChris Mason 		bvec++;
20961b49440SChris Mason 	}
21061b49440SChris Mason 	btrfs_free_path(path);
21161b49440SChris Mason 	return 0;
21261b49440SChris Mason }
21361b49440SChris Mason 
2143edf7d33SChris Mason int btrfs_csum_one_bio(struct btrfs_root *root, struct inode *inode,
2153edf7d33SChris Mason 		       struct bio *bio)
216e015640fSChris Mason {
217e6dcd2dcSChris Mason 	struct btrfs_ordered_sum *sums;
218e6dcd2dcSChris Mason 	struct btrfs_sector_sum *sector_sum;
2193edf7d33SChris Mason 	struct btrfs_ordered_extent *ordered;
220e015640fSChris Mason 	char *data;
221e015640fSChris Mason 	struct bio_vec *bvec = bio->bi_io_vec;
222e015640fSChris Mason 	int bio_index = 0;
2233edf7d33SChris Mason 	unsigned long total_bytes = 0;
2243edf7d33SChris Mason 	unsigned long this_sum_bytes = 0;
2253edf7d33SChris Mason 	u64 offset;
226e015640fSChris Mason 
227e6dcd2dcSChris Mason 	WARN_ON(bio->bi_vcnt <= 0);
228e6dcd2dcSChris Mason 	sums = kzalloc(btrfs_ordered_sum_size(root, bio->bi_size), GFP_NOFS);
229e015640fSChris Mason 	if (!sums)
230e015640fSChris Mason 		return -ENOMEM;
2313edf7d33SChris Mason 
232ed98b56aSChris Mason 	sector_sum = sums->sums;
2333edf7d33SChris Mason 	sums->file_offset = page_offset(bvec->bv_page) + bvec->bv_offset;
234e6dcd2dcSChris Mason 	sums->len = bio->bi_size;
235e6dcd2dcSChris Mason 	INIT_LIST_HEAD(&sums->list);
2363edf7d33SChris Mason 	ordered = btrfs_lookup_ordered_extent(inode, sums->file_offset);
2373edf7d33SChris Mason 	BUG_ON(!ordered);
238e015640fSChris Mason 
239e015640fSChris Mason 	while(bio_index < bio->bi_vcnt) {
2403edf7d33SChris Mason 		offset = page_offset(bvec->bv_page) + bvec->bv_offset;
241e5a2217eSChris Mason 		if (offset >= ordered->file_offset + ordered->len ||
242e5a2217eSChris Mason 		    offset < ordered->file_offset) {
2433edf7d33SChris Mason 			unsigned long bytes_left;
2443edf7d33SChris Mason 			sums->len = this_sum_bytes;
2453edf7d33SChris Mason 			this_sum_bytes = 0;
2463edf7d33SChris Mason 			btrfs_add_ordered_sum(inode, ordered, sums);
2473edf7d33SChris Mason 			btrfs_put_ordered_extent(ordered);
2483edf7d33SChris Mason 
2493edf7d33SChris Mason 			bytes_left = bio->bi_size - total_bytes;
2503edf7d33SChris Mason 
2513edf7d33SChris Mason 			sums = kzalloc(btrfs_ordered_sum_size(root, bytes_left),
2523edf7d33SChris Mason 				       GFP_NOFS);
2533edf7d33SChris Mason 			BUG_ON(!sums);
254ed98b56aSChris Mason 			sector_sum = sums->sums;
2553edf7d33SChris Mason 			sums->len = bytes_left;
2563edf7d33SChris Mason 			sums->file_offset = offset;
2573edf7d33SChris Mason 			ordered = btrfs_lookup_ordered_extent(inode,
2583edf7d33SChris Mason 						      sums->file_offset);
2593edf7d33SChris Mason 			BUG_ON(!ordered);
2603edf7d33SChris Mason 		}
2613edf7d33SChris Mason 
262e015640fSChris Mason 		data = kmap_atomic(bvec->bv_page, KM_USER0);
263e6dcd2dcSChris Mason 		sector_sum->sum = ~(u32)0;
264e6dcd2dcSChris Mason 		sector_sum->sum = btrfs_csum_data(root,
265e6dcd2dcSChris Mason 						  data + bvec->bv_offset,
266e6dcd2dcSChris Mason 						  sector_sum->sum,
267e6dcd2dcSChris Mason 						  bvec->bv_len);
268e015640fSChris Mason 		kunmap_atomic(data, KM_USER0);
269e6dcd2dcSChris Mason 		btrfs_csum_final(sector_sum->sum,
270e6dcd2dcSChris Mason 				 (char *)&sector_sum->sum);
271e6dcd2dcSChris Mason 		sector_sum->offset = page_offset(bvec->bv_page) +
272e6dcd2dcSChris Mason 			bvec->bv_offset;
273ed98b56aSChris Mason 
274e6dcd2dcSChris Mason 		sector_sum++;
275e015640fSChris Mason 		bio_index++;
2763edf7d33SChris Mason 		total_bytes += bvec->bv_len;
2773edf7d33SChris Mason 		this_sum_bytes += bvec->bv_len;
278e015640fSChris Mason 		bvec++;
279e015640fSChris Mason 	}
280ed98b56aSChris Mason 	this_sum_bytes = 0;
2813edf7d33SChris Mason 	btrfs_add_ordered_sum(inode, ordered, sums);
2823edf7d33SChris Mason 	btrfs_put_ordered_extent(ordered);
283e015640fSChris Mason 	return 0;
284e015640fSChris Mason }
285e015640fSChris Mason 
286065631f6SChris Mason int btrfs_csum_file_blocks(struct btrfs_trans_handle *trans,
287065631f6SChris Mason 			   struct btrfs_root *root, struct inode *inode,
288e6dcd2dcSChris Mason 			   struct btrfs_ordered_sum *sums)
289f254e52cSChris Mason {
290065631f6SChris Mason 	u64 objectid = inode->i_ino;
291065631f6SChris Mason 	u64 offset;
292f254e52cSChris Mason 	int ret;
293f254e52cSChris Mason 	struct btrfs_key file_key;
2946567e837SChris Mason 	struct btrfs_key found_key;
295065631f6SChris Mason 	u64 next_offset;
296e6dcd2dcSChris Mason 	u64 total_bytes = 0;
297065631f6SChris Mason 	int found_next;
2985caf2a00SChris Mason 	struct btrfs_path *path;
299f254e52cSChris Mason 	struct btrfs_csum_item *item;
300065631f6SChris Mason 	struct btrfs_csum_item *item_end;
301ff79f819SChris Mason 	struct extent_buffer *leaf = NULL;
3026567e837SChris Mason 	u64 csum_offset;
303e6dcd2dcSChris Mason 	struct btrfs_sector_sum *sector_sum;
304f578d4bdSChris Mason 	u32 nritems;
305f578d4bdSChris Mason 	u32 ins_size;
3066e92f5e6SChris Mason 	char *eb_map;
3076e92f5e6SChris Mason 	char *eb_token;
3086e92f5e6SChris Mason 	unsigned long map_len;
3096e92f5e6SChris Mason 	unsigned long map_start;
3106e92f5e6SChris Mason 
3115caf2a00SChris Mason 	path = btrfs_alloc_path();
3125caf2a00SChris Mason 	BUG_ON(!path);
313ed98b56aSChris Mason 	sector_sum = sums->sums;
314065631f6SChris Mason again:
315065631f6SChris Mason 	next_offset = (u64)-1;
316065631f6SChris Mason 	found_next = 0;
317e6dcd2dcSChris Mason 	offset = sector_sum->offset;
318f254e52cSChris Mason 	file_key.objectid = objectid;
319f254e52cSChris Mason 	file_key.offset = offset;
320f254e52cSChris Mason 	btrfs_set_key_type(&file_key, BTRFS_CSUM_ITEM_KEY);
321a429e513SChris Mason 
322a429e513SChris Mason 	item = btrfs_lookup_csum(trans, root, path, objectid, offset, 1);
323ff79f819SChris Mason 	if (!IS_ERR(item)) {
324ff79f819SChris Mason 		leaf = path->nodes[0];
325a429e513SChris Mason 		goto found;
326ff79f819SChris Mason 	}
327a429e513SChris Mason 	ret = PTR_ERR(item);
328a429e513SChris Mason 	if (ret == -EFBIG) {
329a429e513SChris Mason 		u32 item_size;
330a429e513SChris Mason 		/* we found one, but it isn't big enough yet */
3315f39d397SChris Mason 		leaf = path->nodes[0];
3325f39d397SChris Mason 		item_size = btrfs_item_size_nr(leaf, path->slots[0]);
333509659cdSChris Mason 		if ((item_size / BTRFS_CRC32_SIZE) >= MAX_CSUM_ITEMS(root)) {
334a429e513SChris Mason 			/* already at max size, make a new one */
335a429e513SChris Mason 			goto insert;
336a429e513SChris Mason 		}
337a429e513SChris Mason 	} else {
338f578d4bdSChris Mason 		int slot = path->slots[0] + 1;
339a429e513SChris Mason 		/* we didn't find a csum item, insert one */
340f578d4bdSChris Mason 		nritems = btrfs_header_nritems(path->nodes[0]);
341f578d4bdSChris Mason 		if (path->slots[0] >= nritems - 1) {
342f578d4bdSChris Mason 			ret = btrfs_next_leaf(root, path);
343b56baf5bSYan 			if (ret == 1)
344f578d4bdSChris Mason 				found_next = 1;
345b56baf5bSYan 			if (ret != 0)
346f578d4bdSChris Mason 				goto insert;
347b56baf5bSYan 			slot = 0;
348f578d4bdSChris Mason 		}
349f578d4bdSChris Mason 		btrfs_item_key_to_cpu(path->nodes[0], &found_key, slot);
350f578d4bdSChris Mason 		if (found_key.objectid != objectid ||
351f578d4bdSChris Mason 		    found_key.type != BTRFS_CSUM_ITEM_KEY) {
352f578d4bdSChris Mason 			found_next = 1;
353f578d4bdSChris Mason 			goto insert;
354f578d4bdSChris Mason 		}
355f578d4bdSChris Mason 		next_offset = found_key.offset;
356f578d4bdSChris Mason 		found_next = 1;
357a429e513SChris Mason 		goto insert;
358a429e513SChris Mason 	}
359a429e513SChris Mason 
360a429e513SChris Mason 	/*
361a429e513SChris Mason 	 * at this point, we know the tree has an item, but it isn't big
362a429e513SChris Mason 	 * enough yet to put our csum in.  Grow it
363a429e513SChris Mason 	 */
364a429e513SChris Mason 	btrfs_release_path(root, path);
3656567e837SChris Mason 	ret = btrfs_search_slot(trans, root, &file_key, path,
366509659cdSChris Mason 				BTRFS_CRC32_SIZE, 1);
3676567e837SChris Mason 	if (ret < 0)
3686567e837SChris Mason 		goto fail;
3696567e837SChris Mason 	if (ret == 0) {
370b18c6685SChris Mason 		BUG();
3716567e837SChris Mason 	}
3726567e837SChris Mason 	if (path->slots[0] == 0) {
3736567e837SChris Mason 		goto insert;
3746567e837SChris Mason 	}
3756567e837SChris Mason 	path->slots[0]--;
3765f39d397SChris Mason 	leaf = path->nodes[0];
3775f39d397SChris Mason 	btrfs_item_key_to_cpu(leaf, &found_key, path->slots[0]);
3786567e837SChris Mason 	csum_offset = (offset - found_key.offset) >>
3796567e837SChris Mason 			root->fs_info->sb->s_blocksize_bits;
3806567e837SChris Mason 	if (btrfs_key_type(&found_key) != BTRFS_CSUM_ITEM_KEY ||
3816567e837SChris Mason 	    found_key.objectid != objectid ||
3826567e837SChris Mason 	    csum_offset >= MAX_CSUM_ITEMS(root)) {
3836567e837SChris Mason 		goto insert;
3846567e837SChris Mason 	}
3855f39d397SChris Mason 	if (csum_offset >= btrfs_item_size_nr(leaf, path->slots[0]) /
386509659cdSChris Mason 	    BTRFS_CRC32_SIZE) {
387509659cdSChris Mason 		u32 diff = (csum_offset + 1) * BTRFS_CRC32_SIZE;
3885f39d397SChris Mason 		diff = diff - btrfs_item_size_nr(leaf, path->slots[0]);
3893a686375SChris Mason 		if (diff != BTRFS_CRC32_SIZE)
3903a686375SChris Mason 			goto insert;
391a429e513SChris Mason 		ret = btrfs_extend_item(trans, root, path, diff);
3926567e837SChris Mason 		BUG_ON(ret);
3936567e837SChris Mason 		goto csum;
3946567e837SChris Mason 	}
3956567e837SChris Mason 
3966567e837SChris Mason insert:
397a429e513SChris Mason 	btrfs_release_path(root, path);
3986567e837SChris Mason 	csum_offset = 0;
399f578d4bdSChris Mason 	if (found_next) {
400f578d4bdSChris Mason 		u64 tmp = min((u64)i_size_read(inode), next_offset);
401b56baf5bSYan 		tmp -= offset & ~((u64)root->sectorsize -1);
402f578d4bdSChris Mason 		tmp >>= root->fs_info->sb->s_blocksize_bits;
403f578d4bdSChris Mason 		tmp = max((u64)1, tmp);
404f578d4bdSChris Mason 		tmp = min(tmp, (u64)MAX_CSUM_ITEMS(root));
405f578d4bdSChris Mason 		ins_size = BTRFS_CRC32_SIZE * tmp;
406f578d4bdSChris Mason 	} else {
407f578d4bdSChris Mason 		ins_size = BTRFS_CRC32_SIZE;
408f578d4bdSChris Mason 	}
4095caf2a00SChris Mason 	ret = btrfs_insert_empty_item(trans, root, path, &file_key,
410f578d4bdSChris Mason 				      ins_size);
41154aa1f4dSChris Mason 	if (ret < 0)
41254aa1f4dSChris Mason 		goto fail;
413a429e513SChris Mason 	if (ret != 0) {
414a429e513SChris Mason 		WARN_ON(1);
415f254e52cSChris Mason 		goto fail;
416a429e513SChris Mason 	}
4176567e837SChris Mason csum:
4185f39d397SChris Mason 	leaf = path->nodes[0];
4195f39d397SChris Mason 	item = btrfs_item_ptr(leaf, path->slots[0], struct btrfs_csum_item);
420f254e52cSChris Mason 	ret = 0;
421509659cdSChris Mason 	item = (struct btrfs_csum_item *)((unsigned char *)item +
422509659cdSChris Mason 					  csum_offset * BTRFS_CRC32_SIZE);
423b18c6685SChris Mason found:
424065631f6SChris Mason 	item_end = btrfs_item_ptr(leaf, path->slots[0], struct btrfs_csum_item);
425065631f6SChris Mason 	item_end = (struct btrfs_csum_item *)((unsigned char *)item_end +
426065631f6SChris Mason 				      btrfs_item_size_nr(leaf, path->slots[0]));
4276e92f5e6SChris Mason 	eb_token = NULL;
428e6dcd2dcSChris Mason next_sector:
429aadfeb6eSChris Mason 
4306e92f5e6SChris Mason 	if (!eb_token ||
4316e92f5e6SChris Mason 	   (unsigned long)item  + BTRFS_CRC32_SIZE >= map_start + map_len) {
4326e92f5e6SChris Mason 		int err;
4336e92f5e6SChris Mason 
4346e92f5e6SChris Mason 		if (eb_token)
435eb20978fSChris Mason 			unmap_extent_buffer(leaf, eb_token, KM_USER1);
4366e92f5e6SChris Mason 		eb_token = NULL;
4376e92f5e6SChris Mason 		err = map_private_extent_buffer(leaf, (unsigned long)item,
4386e92f5e6SChris Mason 						BTRFS_CRC32_SIZE,
4396e92f5e6SChris Mason 						&eb_token, &eb_map,
440eb20978fSChris Mason 						&map_start, &map_len, KM_USER1);
4416e92f5e6SChris Mason 		if (err)
4426e92f5e6SChris Mason 			eb_token = NULL;
4436e92f5e6SChris Mason 	}
4446e92f5e6SChris Mason 	if (eb_token) {
4456e92f5e6SChris Mason 		memcpy(eb_token + ((unsigned long)item & (PAGE_CACHE_SIZE - 1)),
446e6dcd2dcSChris Mason 		       &sector_sum->sum, BTRFS_CRC32_SIZE);
4476e92f5e6SChris Mason 	} else {
448e6dcd2dcSChris Mason 		write_extent_buffer(leaf, &sector_sum->sum,
449e6dcd2dcSChris Mason 				    (unsigned long)item, BTRFS_CRC32_SIZE);
4506e92f5e6SChris Mason 	}
4517f3c74fbSChris Mason 
452e6dcd2dcSChris Mason 	total_bytes += root->sectorsize;
453e6dcd2dcSChris Mason 	sector_sum++;
454e6dcd2dcSChris Mason 	if (total_bytes < sums->len) {
4556e92f5e6SChris Mason 		item = (struct btrfs_csum_item *)((char *)item +
4566e92f5e6SChris Mason 						  BTRFS_CRC32_SIZE);
4572e1a992eSChris Mason 		if (item < item_end && offset + PAGE_CACHE_SIZE ==
458e6dcd2dcSChris Mason 		    sector_sum->offset) {
459e6dcd2dcSChris Mason 			    offset = sector_sum->offset;
460e6dcd2dcSChris Mason 			goto next_sector;
461065631f6SChris Mason 		}
4622e1a992eSChris Mason 	}
4636e92f5e6SChris Mason 	if (eb_token) {
464eb20978fSChris Mason 		unmap_extent_buffer(leaf, eb_token, KM_USER1);
4656e92f5e6SChris Mason 		eb_token = NULL;
4666e92f5e6SChris Mason 	}
4675caf2a00SChris Mason 	btrfs_mark_buffer_dirty(path->nodes[0]);
468e6dcd2dcSChris Mason 	if (total_bytes < sums->len) {
4695caf2a00SChris Mason 		btrfs_release_path(root, path);
470065631f6SChris Mason 		goto again;
471065631f6SChris Mason 	}
472065631f6SChris Mason fail:
4735caf2a00SChris Mason 	btrfs_free_path(path);
474f254e52cSChris Mason 	return ret;
475f254e52cSChris Mason }
476f254e52cSChris Mason 
4771de037a4SChris Mason int btrfs_csum_truncate(struct btrfs_trans_handle *trans,
4781de037a4SChris Mason 			struct btrfs_root *root, struct btrfs_path *path,
4791de037a4SChris Mason 			u64 isize)
4801de037a4SChris Mason {
4811de037a4SChris Mason 	struct btrfs_key key;
4825f39d397SChris Mason 	struct extent_buffer *leaf = path->nodes[0];
4831de037a4SChris Mason 	int slot = path->slots[0];
4841de037a4SChris Mason 	int ret;
4851de037a4SChris Mason 	u32 new_item_size;
4861de037a4SChris Mason 	u64 new_item_span;
4871de037a4SChris Mason 	u64 blocks;
4881de037a4SChris Mason 
4895f39d397SChris Mason 	btrfs_item_key_to_cpu(leaf, &key, slot);
4901de037a4SChris Mason 	if (isize <= key.offset)
4911de037a4SChris Mason 		return 0;
4921de037a4SChris Mason 	new_item_span = isize - key.offset;
4935f39d397SChris Mason 	blocks = (new_item_span + root->sectorsize - 1) >>
49484f54cfaSChris Mason 		root->fs_info->sb->s_blocksize_bits;
4951de037a4SChris Mason 	new_item_size = blocks * BTRFS_CRC32_SIZE;
4965f39d397SChris Mason 	if (new_item_size >= btrfs_item_size_nr(leaf, slot))
4971de037a4SChris Mason 		return 0;
498179e29e4SChris Mason 	ret = btrfs_truncate_item(trans, root, path, new_item_size, 1);
4991de037a4SChris Mason 	BUG_ON(ret);
5001de037a4SChris Mason 	return ret;
5011de037a4SChris Mason }
502