Blocksdir参数可以把上百GB的区块数据转移到机械硬盘
温室小书生室d
发表于 2022-11-6 18:51:04
1129
0
0
从创世区块至今的区块链账本,很显然是很庞大的,我刚刚看了一眼,现在已经攒到342GiB了,其中纯区块文件(blkXXXXX.dat)占300GiB。- c$ C& c& Q' r; p9 S
但是,“区块链账本体积庞大”并不是全节点同步慢的唯一原因。
9 u+ e5 N9 }$ N/ ^' c# }# l
比特币的区块链账本,实际上只登记了“交易记录”,并没有登记“账户余额状态”。UTXO集合实质上就是“账户余额状态”,它是每一个全节点在从头验证账本时自己独立捋出来的。% l5 Q2 X" v- g2 G2 f/ D
(虽然比特币开发者很多年前就提出过UTXO commitment,但是时至今日也并没有付诸实践)9 _/ b9 S& U7 m9 F1 v
同步过程,其实就是在根据区块链账本的内容,对UTXO集合数据库进行查询和增删。UTXO数据库保存在chainstate目录里,它会承受大量的随机读写,对机械硬盘(HDD)来说压力山大。这就是为什么用机械硬盘同步全节点速度非常慢,完全同步一次可能需要好几天甚至一个星期。
我的电脑既有固态硬盘(SSD),又有机械硬盘(HDD)。
HDD容量大,随机读写慢到令人发指;但是它便宜大碗,容量大,顺序读写性能也不太差。
3 q& c r! B9 }1 A a( @4 v
SSD随机读写性能完全秒杀机械硬盘,差了几个数量级;但是固态硬盘相对容量小、价格贵。. T* V( K. R. P
5 w+ ]# n, F" E$ L
如果你也是既有HDD,又有SSD,就可以让HDD和SSD互相取长补短了:1 R, v! Z* }+ S( M; e
被高频随机读写、但占用空间不大的chainstate(UTXO集合数据库),放在SSD;占用空间极大,绝大多数时候顺序读写,而且下载完、验证过一次后就极少再次被读取的blocks(区块文件)等,就放在HDD。# h* Z$ ? `1 r% F
4 ^+ i: E5 a% V( `- g
这里也要提一下,为什么不推荐启用区块修剪(prune)呢? g1 r) ?/ [. V+ W; t- f1 K6 V+ q) s
/ W& F3 R- K8 b0 M2 l+ A5 t1 h
! T) M8 d, T, [
因为,启用修剪后,钱包的功能将大大受限,导入私钥/地址/钱包时,无法扫描历史区块,也就无法找回交易记录和历史。必须有完整的历史区块,才能完成扫描。8 m9 I# B. u. H. p! c0 o
区块修剪,实际上和白皮书上的描述无关,就是直接删掉老区块文件。在验证区块链账本的过程中,只需要查询UTXO集合,并不需要回溯读取老区块文件,所以一个区块捋过一遍后就用不着了,删掉也不会影响验证工作继续进行。
. a T. ^# F( b7 ^6 p* | N! ?
对于新创建的钱包,或者同步开始之前就已经加载的钱包来说,验证区块同时也在扫描区块内容、找出和钱包有关的交易,从而找回交易记录和最终余额;
但是如果是后来导入的钱包,就需要回过头去扫描历史区块了,这个时候很显然不能无米之炊。2 N+ |$ b# a" A. y$ C: G+ k
很显然扫描历史区块是个很笨,也慢到令人发指的办法。但是如果要达到秒速查询出结果,就需要占用更多硬盘空间来建立索引——Bitcoin Core自身是不包含这么多功能的,只有ElectrumX、Esplora等轻钱包服务器软件、区块浏览器软件才含有这些建立完善索引的功能。
未来Bitcoin Core也应该会利用Neutrino轻钱包协议(BIP157/158)来达到一个折衷的效果:用多占几GB硬盘空间的代价,换来几分钟就可以扫完整条区块链账本的快速扫描。虽然还是远远达不到查询秒速返回结果,但是也不需要大量占用硬盘空间,可以说是一个很好的平衡。现在Bitcoin Core已经支持生成Neutrino的“区块过滤器索引”(block filter index)并支持作为服务端给Neutrino轻钱包提供服务,未来应该可以让全节点自带的钱包自己也享受到这个好处。
% A6 j, ~: p, W
之前楼主就折腾过用NTFS Junction,来把chainstate目录转移到SSD。楼主比较火星,其实很早以前(应该是从0.17开始)Bitcoin Core自身就有了blocksdir这个配置参数,这样就不用折腾NTFS Junction了。9 Q6 {+ O, |* `
4 S9 W7 {; `+ o
啰嗦那么多,下面就说怎么迁移过去。7 l3 ?; D9 K5 o) r y( ?
) F( }, ]; k& i7 ~( D
首先,如果你还不知道全节点的数据目录在哪,那就先打开调试窗口或节点窗口,调到“信息”这一页,记下数据目录路径。然后,把Bitcoin Core正常关闭,当然,一定要等他完全收拾好。
如果Bitcoin Core比0.17版还旧,先升级,至少升级到0.17.0.1。升级完后先启动Bitcoin Core,可能会有一个转换过程,转完了再正常关闭。- `3 H, o5 U+ L& |* K7 g* @
打开钱包数据目录,把blocks目录移动出去。. X' Z( t3 _& [
比如钱包数据目录是D:\Bitcoin,原先blocks目录的位置是D:\Bitcoin\blocks,现在把blocks目录移动到D:\BitcoinBlocks\blocks。
因为这是在同一个盘内移动,不需要复制文件内容数据,所以应该是瞬间完成的。
移动完后,把原先在HDD(D盘)上的数据目录移动到SSD(S盘)上,比如从D:\Bitcoin移动到S:\Bitcoin。因为最大的区块数据已经不在里面了,所以要复制的数据量只有几GB,移动应该很快,最多几十秒就能完成。" e' r5 Z+ Z, }3 K- P
注意blocks目录里应该会有一个index目录,先在位于SSD的新的钱包数据目录里新建一个文件夹blocks,然后把index也移动到新的blocks目录里。/ c1 o! r" |( o: g: ^% n4 l
比如,如果之前已经把区块数据移动到D:\BitcoinBlocks\blocks,那打开D:\BitcoinBlocks\blocks后就会发现里面还有一个index目录(D:\BitcoinBlocks\blocks\index),把它也移动到SSD即可(移动到S:\Bitcoin\blocks\index)
* c7 o j; d' r3 t! l
修改开始菜单里Bitcoin Core快捷方式的属性,加入启动参数,改成类似这样:
"C:\Program Files\Bitcoin\bitcoin-qt.exe" -blocksdir="D:\BitcoinBlocks" -datadir="S:\Bitcoin"$ s% I l9 O# m9 s) K0 A% I
其中,-blocksdir指定了区块存储是在HDD上,-datadir指定了数据目录(包含chainstate目录)在SSD上。
不过,(这也是之前的帖子我没考虑到的)我不太推荐修改快捷方式这个办法,因为未来升级Bitcoin Core的时候,安装向导可能会重建快捷方式,然后这里的启动参数就都没了,会回到默认状态。, w @8 _( b8 Q/ e" f0 Q* g+ [, e
或者,除了修改快捷方式,还可以修改bitcoin.conf配置文件(直接用记事本,别启动Bitcoin Core!),加入这一条:; H5 v, S- W: Q% T ]
blocksdir=D:\BitcoinBlocks
(如果配置文件同时包括测试网和主网的配置信息,注意[main]下面是主网的配置;[test]下面是测试网的配置;[regtest]则不是测试网,而是跑在本地的“回归测试模式”的配置)
这样就把区块存储目录指向了HDD。
7 J" L; n3 }, m
然后WIN+R输入regedit,确定,打开注册表编辑器,定位到HKEY_CURRENT_USER\SOFTWARE\Bitcoin\Bitcoin-Qt,把字符串值strDataDir的数值修改为:
S:\Bitcoin
这样就把数据目录指向了SSD。
哎……之前真是糗大了,我居然在帖子里忘记写数据目录的事情,其实我自己操作时很显然是绕不过这一步的,我当时也这么用了好久了。如果忘记修改数据目录的位置,很容易就会导致之前下载好的blk00000.dat等区块文件被覆盖破坏掉,然后就是悲催地需要从头重新同步。对此我也脑补过一个补救办法,但是后来尝试发现这个补救办法其实并不怎么靠谱。8 T c1 R! v7 U4 |4 F7 ?, l% w2 n
% d5 j. H1 u) a4 U V: I! `
搞定了,现在可以启动Bitcoin Core全节点了。6 q4 |- G9 ?" Y+ r, P, @
成为第一个吐槽的人