Blocksdir参数可以把上百GB的区块数据转移到机械硬盘
温室小书生室d
发表于 2022-11-6 18:51:04
1158
0
0
从创世区块至今的区块链账本,很显然是很庞大的,我刚刚看了一眼,现在已经攒到342GiB了,其中纯区块文件(blkXXXXX.dat)占300GiB。; d6 Q8 }" f0 g6 s U
- \: j& D: j0 j6 |
但是,“区块链账本体积庞大”并不是全节点同步慢的唯一原因。
0 N* ~9 I0 u8 |6 O2 E0 x
- p( E# h; i0 A1 n, ^
比特币的区块链账本,实际上只登记了“交易记录”,并没有登记“账户余额状态”。UTXO集合实质上就是“账户余额状态”,它是每一个全节点在从头验证账本时自己独立捋出来的。
(虽然比特币开发者很多年前就提出过UTXO commitment,但是时至今日也并没有付诸实践)
同步过程,其实就是在根据区块链账本的内容,对UTXO集合数据库进行查询和增删。UTXO数据库保存在chainstate目录里,它会承受大量的随机读写,对机械硬盘(HDD)来说压力山大。这就是为什么用机械硬盘同步全节点速度非常慢,完全同步一次可能需要好几天甚至一个星期。$ s( D+ X$ X# w
我的电脑既有固态硬盘(SSD),又有机械硬盘(HDD)。
: e8 g& S% m0 `" w! F* q3 e$ N }
0 r! [7 v" l! `. S! n& V2 \! v1 d N
HDD容量大,随机读写慢到令人发指;但是它便宜大碗,容量大,顺序读写性能也不太差。
SSD随机读写性能完全秒杀机械硬盘,差了几个数量级;但是固态硬盘相对容量小、价格贵。' O% k2 S9 `8 C/ k
' F; G3 e# ? j: a t0 n
如果你也是既有HDD,又有SSD,就可以让HDD和SSD互相取长补短了:/ E3 _3 `$ Y+ I: r$ h* e! {
被高频随机读写、但占用空间不大的chainstate(UTXO集合数据库),放在SSD;占用空间极大,绝大多数时候顺序读写,而且下载完、验证过一次后就极少再次被读取的blocks(区块文件)等,就放在HDD。; ?1 Y; R- ^- r; N5 U D9 ?- x
G! m# l* p/ Z4 Q% Q
这里也要提一下,为什么不推荐启用区块修剪(prune)呢?! L: v2 e1 F/ w: Y6 h# B0 L( {7 {
7 g7 i m. D3 D& w D7 b* L( G
' v, K% N* j. {2 _& N+ @( t' ]4 ^
因为,启用修剪后,钱包的功能将大大受限,导入私钥/地址/钱包时,无法扫描历史区块,也就无法找回交易记录和历史。必须有完整的历史区块,才能完成扫描。
区块修剪,实际上和白皮书上的描述无关,就是直接删掉老区块文件。在验证区块链账本的过程中,只需要查询UTXO集合,并不需要回溯读取老区块文件,所以一个区块捋过一遍后就用不着了,删掉也不会影响验证工作继续进行。
对于新创建的钱包,或者同步开始之前就已经加载的钱包来说,验证区块同时也在扫描区块内容、找出和钱包有关的交易,从而找回交易记录和最终余额;- E/ w- O+ w) ~; \1 n
但是如果是后来导入的钱包,就需要回过头去扫描历史区块了,这个时候很显然不能无米之炊。
% l0 B, g' P2 I; a$ S
很显然扫描历史区块是个很笨,也慢到令人发指的办法。但是如果要达到秒速查询出结果,就需要占用更多硬盘空间来建立索引——Bitcoin Core自身是不包含这么多功能的,只有ElectrumX、Esplora等轻钱包服务器软件、区块浏览器软件才含有这些建立完善索引的功能。
/ q# e. N2 W$ X6 f$ F( I8 y- x# p9 U) B5 V
未来Bitcoin Core也应该会利用Neutrino轻钱包协议(BIP157/158)来达到一个折衷的效果:用多占几GB硬盘空间的代价,换来几分钟就可以扫完整条区块链账本的快速扫描。虽然还是远远达不到查询秒速返回结果,但是也不需要大量占用硬盘空间,可以说是一个很好的平衡。现在Bitcoin Core已经支持生成Neutrino的“区块过滤器索引”(block filter index)并支持作为服务端给Neutrino轻钱包提供服务,未来应该可以让全节点自带的钱包自己也享受到这个好处。
之前楼主就折腾过用NTFS Junction,来把chainstate目录转移到SSD。楼主比较火星,其实很早以前(应该是从0.17开始)Bitcoin Core自身就有了blocksdir这个配置参数,这样就不用折腾NTFS Junction了。
0 \# I4 W; U x
啰嗦那么多,下面就说怎么迁移过去。
首先,如果你还不知道全节点的数据目录在哪,那就先打开调试窗口或节点窗口,调到“信息”这一页,记下数据目录路径。然后,把Bitcoin Core正常关闭,当然,一定要等他完全收拾好。 _) [8 b, O8 L N9 B9 I$ z
如果Bitcoin Core比0.17版还旧,先升级,至少升级到0.17.0.1。升级完后先启动Bitcoin Core,可能会有一个转换过程,转完了再正常关闭。% t5 ]. o k+ u- I5 C0 x+ x
打开钱包数据目录,把blocks目录移动出去。) ? v- ], c; d* f& G; v
比如钱包数据目录是D:\Bitcoin,原先blocks目录的位置是D:\Bitcoin\blocks,现在把blocks目录移动到D:\BitcoinBlocks\blocks。, I# ]; ]' ~$ P
因为这是在同一个盘内移动,不需要复制文件内容数据,所以应该是瞬间完成的。
移动完后,把原先在HDD(D盘)上的数据目录移动到SSD(S盘)上,比如从D:\Bitcoin移动到S:\Bitcoin。因为最大的区块数据已经不在里面了,所以要复制的数据量只有几GB,移动应该很快,最多几十秒就能完成。
注意blocks目录里应该会有一个index目录,先在位于SSD的新的钱包数据目录里新建一个文件夹blocks,然后把index也移动到新的blocks目录里。& t# ^4 {4 k+ V8 l
比如,如果之前已经把区块数据移动到D:\BitcoinBlocks\blocks,那打开D:\BitcoinBlocks\blocks后就会发现里面还有一个index目录(D:\BitcoinBlocks\blocks\index),把它也移动到SSD即可(移动到S:\Bitcoin\blocks\index)/ l4 P; r5 k3 C8 t+ _
' ]( ]) w5 C1 v& {; M1 D
修改开始菜单里Bitcoin Core快捷方式的属性,加入启动参数,改成类似这样:
"C:\Program Files\Bitcoin\bitcoin-qt.exe" -blocksdir="D:\BitcoinBlocks" -datadir="S:\Bitcoin"
其中,-blocksdir指定了区块存储是在HDD上,-datadir指定了数据目录(包含chainstate目录)在SSD上。+ ^. ^& b' c2 m5 K6 K8 q
不过,(这也是之前的帖子我没考虑到的)我不太推荐修改快捷方式这个办法,因为未来升级Bitcoin Core的时候,安装向导可能会重建快捷方式,然后这里的启动参数就都没了,会回到默认状态。; k+ a" C8 D( x5 B) [, Y" Y$ r
5 b8 ^& x! ^7 S1 H T3 T
或者,除了修改快捷方式,还可以修改bitcoin.conf配置文件(直接用记事本,别启动Bitcoin Core!),加入这一条:7 Y6 B" e! B( k8 C M$ r* {- f
blocksdir=D:\BitcoinBlocks
(如果配置文件同时包括测试网和主网的配置信息,注意[main]下面是主网的配置;[test]下面是测试网的配置;[regtest]则不是测试网,而是跑在本地的“回归测试模式”的配置)
这样就把区块存储目录指向了HDD。& L3 M8 | m$ y$ z! E p
然后WIN+R输入regedit,确定,打开注册表编辑器,定位到HKEY_CURRENT_USER\SOFTWARE\Bitcoin\Bitcoin-Qt,把字符串值strDataDir的数值修改为:2 M6 O" f0 f* B1 A+ L* E. Y8 t- o
S:\Bitcoin
这样就把数据目录指向了SSD。
哎……之前真是糗大了,我居然在帖子里忘记写数据目录的事情,其实我自己操作时很显然是绕不过这一步的,我当时也这么用了好久了。如果忘记修改数据目录的位置,很容易就会导致之前下载好的blk00000.dat等区块文件被覆盖破坏掉,然后就是悲催地需要从头重新同步。对此我也脑补过一个补救办法,但是后来尝试发现这个补救办法其实并不怎么靠谱。* ]6 G& c: I' [. T" Y3 ]% n
1 V8 j# q) |: C% ]
搞定了,现在可以启动Bitcoin Core全节点了。7 D0 z6 H8 @2 x5 E4 X
成为第一个吐槽的人