Blocksdir参数可以把上百GB的区块数据转移到机械硬盘
温室小书生室d
发表于 2022-11-6 18:51:04
480
0
0
从创世区块至今的区块链账本,很显然是很庞大的,我刚刚看了一眼,现在已经攒到342GiB了,其中纯区块文件(blkXXXXX.dat)占300GiB。
但是,“区块链账本体积庞大”并不是全节点同步慢的唯一原因。, [1 {6 @8 C0 o- a* h
$ I; q' A- U7 L3 x
比特币的区块链账本,实际上只登记了“交易记录”,并没有登记“账户余额状态”。UTXO集合实质上就是“账户余额状态”,它是每一个全节点在从头验证账本时自己独立捋出来的。 g( X# {$ w1 s9 X; Q5 U y
(虽然比特币开发者很多年前就提出过UTXO commitment,但是时至今日也并没有付诸实践)# p+ l4 D2 a* B% ~+ ~. ?, ]
同步过程,其实就是在根据区块链账本的内容,对UTXO集合数据库进行查询和增删。UTXO数据库保存在chainstate目录里,它会承受大量的随机读写,对机械硬盘(HDD)来说压力山大。这就是为什么用机械硬盘同步全节点速度非常慢,完全同步一次可能需要好几天甚至一个星期。4 W' v" ~0 G% P
我的电脑既有固态硬盘(SSD),又有机械硬盘(HDD)。
- s. W$ Z2 G" L, _- Q
0 R" X1 A# Z) p6 R
HDD容量大,随机读写慢到令人发指;但是它便宜大碗,容量大,顺序读写性能也不太差。 ]4 j) G, u0 M. r
SSD随机读写性能完全秒杀机械硬盘,差了几个数量级;但是固态硬盘相对容量小、价格贵。
% u% I' H m" x7 U5 s0 L" v
如果你也是既有HDD,又有SSD,就可以让HDD和SSD互相取长补短了:* t" C6 X3 I! M$ \7 S
被高频随机读写、但占用空间不大的chainstate(UTXO集合数据库),放在SSD;占用空间极大,绝大多数时候顺序读写,而且下载完、验证过一次后就极少再次被读取的blocks(区块文件)等,就放在HDD。
8 q2 ^4 p5 H) `9 f7 }& D" i; Q
( w' V0 F# f0 M6 b% ?1 ?; t
这里也要提一下,为什么不推荐启用区块修剪(prune)呢?
3 M; q3 g; s, K# |( g- b) R2 M
因为,启用修剪后,钱包的功能将大大受限,导入私钥/地址/钱包时,无法扫描历史区块,也就无法找回交易记录和历史。必须有完整的历史区块,才能完成扫描。
区块修剪,实际上和白皮书上的描述无关,就是直接删掉老区块文件。在验证区块链账本的过程中,只需要查询UTXO集合,并不需要回溯读取老区块文件,所以一个区块捋过一遍后就用不着了,删掉也不会影响验证工作继续进行。
& k8 D( v. @- v! s, R( N
对于新创建的钱包,或者同步开始之前就已经加载的钱包来说,验证区块同时也在扫描区块内容、找出和钱包有关的交易,从而找回交易记录和最终余额;1 ^- m, ?. W& Q
但是如果是后来导入的钱包,就需要回过头去扫描历史区块了,这个时候很显然不能无米之炊。$ m, g+ L' o9 Y9 B5 j0 q9 l
很显然扫描历史区块是个很笨,也慢到令人发指的办法。但是如果要达到秒速查询出结果,就需要占用更多硬盘空间来建立索引——Bitcoin Core自身是不包含这么多功能的,只有ElectrumX、Esplora等轻钱包服务器软件、区块浏览器软件才含有这些建立完善索引的功能。
未来Bitcoin Core也应该会利用Neutrino轻钱包协议(BIP157/158)来达到一个折衷的效果:用多占几GB硬盘空间的代价,换来几分钟就可以扫完整条区块链账本的快速扫描。虽然还是远远达不到查询秒速返回结果,但是也不需要大量占用硬盘空间,可以说是一个很好的平衡。现在Bitcoin Core已经支持生成Neutrino的“区块过滤器索引”(block filter index)并支持作为服务端给Neutrino轻钱包提供服务,未来应该可以让全节点自带的钱包自己也享受到这个好处。
之前楼主就折腾过用NTFS Junction,来把chainstate目录转移到SSD。楼主比较火星,其实很早以前(应该是从0.17开始)Bitcoin Core自身就有了blocksdir这个配置参数,这样就不用折腾NTFS Junction了。
啰嗦那么多,下面就说怎么迁移过去。# L% f9 ]+ W' ~7 ^5 I( m
首先,如果你还不知道全节点的数据目录在哪,那就先打开调试窗口或节点窗口,调到“信息”这一页,记下数据目录路径。然后,把Bitcoin Core正常关闭,当然,一定要等他完全收拾好。
3 U) L3 `: g6 L0 f6 } F) z4 r5 J9 J
如果Bitcoin Core比0.17版还旧,先升级,至少升级到0.17.0.1。升级完后先启动Bitcoin Core,可能会有一个转换过程,转完了再正常关闭。9 P q$ u6 C0 V: D6 u' O
打开钱包数据目录,把blocks目录移动出去。
比如钱包数据目录是D:\Bitcoin,原先blocks目录的位置是D:\Bitcoin\blocks,现在把blocks目录移动到D:\BitcoinBlocks\blocks。
因为这是在同一个盘内移动,不需要复制文件内容数据,所以应该是瞬间完成的。
移动完后,把原先在HDD(D盘)上的数据目录移动到SSD(S盘)上,比如从D:\Bitcoin移动到S:\Bitcoin。因为最大的区块数据已经不在里面了,所以要复制的数据量只有几GB,移动应该很快,最多几十秒就能完成。6 O" j9 ~9 b' a( k8 O
注意blocks目录里应该会有一个index目录,先在位于SSD的新的钱包数据目录里新建一个文件夹blocks,然后把index也移动到新的blocks目录里。3 U2 b6 a3 v) r7 U8 `: H
比如,如果之前已经把区块数据移动到D:\BitcoinBlocks\blocks,那打开D:\BitcoinBlocks\blocks后就会发现里面还有一个index目录(D:\BitcoinBlocks\blocks\index),把它也移动到SSD即可(移动到S:\Bitcoin\blocks\index)2 K \7 i5 m2 r0 P3 G
修改开始菜单里Bitcoin Core快捷方式的属性,加入启动参数,改成类似这样:
"C:\Program Files\Bitcoin\bitcoin-qt.exe" -blocksdir="D:\BitcoinBlocks" -datadir="S:\Bitcoin"
其中,-blocksdir指定了区块存储是在HDD上,-datadir指定了数据目录(包含chainstate目录)在SSD上。
不过,(这也是之前的帖子我没考虑到的)我不太推荐修改快捷方式这个办法,因为未来升级Bitcoin Core的时候,安装向导可能会重建快捷方式,然后这里的启动参数就都没了,会回到默认状态。0 r& K. P0 |* G$ y( C, y: H6 V3 t
& O; j; j4 n! }* S
或者,除了修改快捷方式,还可以修改bitcoin.conf配置文件(直接用记事本,别启动Bitcoin Core!),加入这一条:
blocksdir=D:\BitcoinBlocks7 Z$ L2 B9 {3 x/ A9 i; \
(如果配置文件同时包括测试网和主网的配置信息,注意[main]下面是主网的配置;[test]下面是测试网的配置;[regtest]则不是测试网,而是跑在本地的“回归测试模式”的配置)
这样就把区块存储目录指向了HDD。/ e* M( X. x+ h
6 P) r3 t( R; Y" a9 p
然后WIN+R输入regedit,确定,打开注册表编辑器,定位到HKEY_CURRENT_USER\SOFTWARE\Bitcoin\Bitcoin-Qt,把字符串值strDataDir的数值修改为:
S:\Bitcoin8 i W# `3 m$ F* y
这样就把数据目录指向了SSD。
哎……之前真是糗大了,我居然在帖子里忘记写数据目录的事情,其实我自己操作时很显然是绕不过这一步的,我当时也这么用了好久了。如果忘记修改数据目录的位置,很容易就会导致之前下载好的blk00000.dat等区块文件被覆盖破坏掉,然后就是悲催地需要从头重新同步。对此我也脑补过一个补救办法,但是后来尝试发现这个补救办法其实并不怎么靠谱。" ^+ V. w2 T+ g3 f: ]
搞定了,现在可以启动Bitcoin Core全节点了。
成为第一个吐槽的人