Blocksdir参数可以把上百GB的区块数据转移到机械硬盘
温室小书生室d
发表于 2022-11-6 18:51:04
497
0
0
从创世区块至今的区块链账本,很显然是很庞大的,我刚刚看了一眼,现在已经攒到342GiB了,其中纯区块文件(blkXXXXX.dat)占300GiB。
但是,“区块链账本体积庞大”并不是全节点同步慢的唯一原因。. D" P5 Q+ B% ~4 U1 e2 T/ q4 c+ p8 N6 ]
比特币的区块链账本,实际上只登记了“交易记录”,并没有登记“账户余额状态”。UTXO集合实质上就是“账户余额状态”,它是每一个全节点在从头验证账本时自己独立捋出来的。
(虽然比特币开发者很多年前就提出过UTXO commitment,但是时至今日也并没有付诸实践); @2 _* _2 s# l; G5 a
同步过程,其实就是在根据区块链账本的内容,对UTXO集合数据库进行查询和增删。UTXO数据库保存在chainstate目录里,它会承受大量的随机读写,对机械硬盘(HDD)来说压力山大。这就是为什么用机械硬盘同步全节点速度非常慢,完全同步一次可能需要好几天甚至一个星期。
. e+ ?+ i0 K1 J* x( o) j
我的电脑既有固态硬盘(SSD),又有机械硬盘(HDD)。
N, N7 e9 C. X* Y7 I
* w& f" b4 o/ w9 H
HDD容量大,随机读写慢到令人发指;但是它便宜大碗,容量大,顺序读写性能也不太差。
, u: {# I! K2 P! F8 X' K
SSD随机读写性能完全秒杀机械硬盘,差了几个数量级;但是固态硬盘相对容量小、价格贵。
如果你也是既有HDD,又有SSD,就可以让HDD和SSD互相取长补短了:
被高频随机读写、但占用空间不大的chainstate(UTXO集合数据库),放在SSD;占用空间极大,绝大多数时候顺序读写,而且下载完、验证过一次后就极少再次被读取的blocks(区块文件)等,就放在HDD。
* B | f: b4 A. ]- J
这里也要提一下,为什么不推荐启用区块修剪(prune)呢?7 T( V4 |3 e$ s( n H
" D3 Z: L# Q" k0 \, W; x; B
因为,启用修剪后,钱包的功能将大大受限,导入私钥/地址/钱包时,无法扫描历史区块,也就无法找回交易记录和历史。必须有完整的历史区块,才能完成扫描。
区块修剪,实际上和白皮书上的描述无关,就是直接删掉老区块文件。在验证区块链账本的过程中,只需要查询UTXO集合,并不需要回溯读取老区块文件,所以一个区块捋过一遍后就用不着了,删掉也不会影响验证工作继续进行。
对于新创建的钱包,或者同步开始之前就已经加载的钱包来说,验证区块同时也在扫描区块内容、找出和钱包有关的交易,从而找回交易记录和最终余额;) \. o8 f E- d4 r% [4 w
但是如果是后来导入的钱包,就需要回过头去扫描历史区块了,这个时候很显然不能无米之炊。7 J' J& ~, X3 ]( o! \$ b- B/ ~
0 x; L u8 M) w: S$ p0 T$ u
很显然扫描历史区块是个很笨,也慢到令人发指的办法。但是如果要达到秒速查询出结果,就需要占用更多硬盘空间来建立索引——Bitcoin Core自身是不包含这么多功能的,只有ElectrumX、Esplora等轻钱包服务器软件、区块浏览器软件才含有这些建立完善索引的功能。4 P7 Q( A+ [! K
4 ~5 Y0 [: Y, ]( Z! s' T
未来Bitcoin Core也应该会利用Neutrino轻钱包协议(BIP157/158)来达到一个折衷的效果:用多占几GB硬盘空间的代价,换来几分钟就可以扫完整条区块链账本的快速扫描。虽然还是远远达不到查询秒速返回结果,但是也不需要大量占用硬盘空间,可以说是一个很好的平衡。现在Bitcoin Core已经支持生成Neutrino的“区块过滤器索引”(block filter index)并支持作为服务端给Neutrino轻钱包提供服务,未来应该可以让全节点自带的钱包自己也享受到这个好处。
之前楼主就折腾过用NTFS Junction,来把chainstate目录转移到SSD。楼主比较火星,其实很早以前(应该是从0.17开始)Bitcoin Core自身就有了blocksdir这个配置参数,这样就不用折腾NTFS Junction了。
啰嗦那么多,下面就说怎么迁移过去。+ S8 v+ ^' [7 w* u! n: ]
首先,如果你还不知道全节点的数据目录在哪,那就先打开调试窗口或节点窗口,调到“信息”这一页,记下数据目录路径。然后,把Bitcoin Core正常关闭,当然,一定要等他完全收拾好。- l: d9 S4 t! U
' g7 A" i! R) i
如果Bitcoin Core比0.17版还旧,先升级,至少升级到0.17.0.1。升级完后先启动Bitcoin Core,可能会有一个转换过程,转完了再正常关闭。
( d/ b$ @: |+ x4 R* A, z2 K A, A
打开钱包数据目录,把blocks目录移动出去。
比如钱包数据目录是D:\Bitcoin,原先blocks目录的位置是D:\Bitcoin\blocks,现在把blocks目录移动到D:\BitcoinBlocks\blocks。) F, k' q$ o$ ^ {3 m
因为这是在同一个盘内移动,不需要复制文件内容数据,所以应该是瞬间完成的。 n7 w1 X3 P' Z* e
# F8 D3 ?. q6 P, m* {4 V; Q
移动完后,把原先在HDD(D盘)上的数据目录移动到SSD(S盘)上,比如从D:\Bitcoin移动到S:\Bitcoin。因为最大的区块数据已经不在里面了,所以要复制的数据量只有几GB,移动应该很快,最多几十秒就能完成。
注意blocks目录里应该会有一个index目录,先在位于SSD的新的钱包数据目录里新建一个文件夹blocks,然后把index也移动到新的blocks目录里。
比如,如果之前已经把区块数据移动到D:\BitcoinBlocks\blocks,那打开D:\BitcoinBlocks\blocks后就会发现里面还有一个index目录(D:\BitcoinBlocks\blocks\index),把它也移动到SSD即可(移动到S:\Bitcoin\blocks\index)
9 ]/ r* S" C* ^( ~* y
修改开始菜单里Bitcoin Core快捷方式的属性,加入启动参数,改成类似这样:
"C:\Program Files\Bitcoin\bitcoin-qt.exe" -blocksdir="D:\BitcoinBlocks" -datadir="S:\Bitcoin"
其中,-blocksdir指定了区块存储是在HDD上,-datadir指定了数据目录(包含chainstate目录)在SSD上。6 B. y9 L! w3 g5 l, Y
不过,(这也是之前的帖子我没考虑到的)我不太推荐修改快捷方式这个办法,因为未来升级Bitcoin Core的时候,安装向导可能会重建快捷方式,然后这里的启动参数就都没了,会回到默认状态。
或者,除了修改快捷方式,还可以修改bitcoin.conf配置文件(直接用记事本,别启动Bitcoin Core!),加入这一条:5 x# b3 d5 p: c
blocksdir=D:\BitcoinBlocks5 t. \ C3 t4 S/ t
(如果配置文件同时包括测试网和主网的配置信息,注意[main]下面是主网的配置;[test]下面是测试网的配置;[regtest]则不是测试网,而是跑在本地的“回归测试模式”的配置)4 P* |9 K: W5 S- W4 I O3 a0 ^
这样就把区块存储目录指向了HDD。/ `; R1 ~. `1 w2 r
3 |8 i- E& m8 n$ }9 g& B
然后WIN+R输入regedit,确定,打开注册表编辑器,定位到HKEY_CURRENT_USER\SOFTWARE\Bitcoin\Bitcoin-Qt,把字符串值strDataDir的数值修改为:
S:\Bitcoin
这样就把数据目录指向了SSD。% ]; T% X6 a' M
哎……之前真是糗大了,我居然在帖子里忘记写数据目录的事情,其实我自己操作时很显然是绕不过这一步的,我当时也这么用了好久了。如果忘记修改数据目录的位置,很容易就会导致之前下载好的blk00000.dat等区块文件被覆盖破坏掉,然后就是悲催地需要从头重新同步。对此我也脑补过一个补救办法,但是后来尝试发现这个补救办法其实并不怎么靠谱。3 R7 H, N. x, w3 X2 ^) n
/ K, z) P( M, U5 i" X
搞定了,现在可以启动Bitcoin Core全节点了。% [! ]& x8 M7 X+ p
成为第一个吐槽的人