Hi 游客

更多精彩,请登录!

比特池塘 区块链技术 正文

OPML:区块链上的Optimistic机器学习

QQ1165960099
139 0 0
TL;DR( N1 P; c+ Q3 n5 S

4 m/ `: d& y; d6 n  }* f  C7 B9 P6 w我们提出OPML(Optimistic机器学习),它可以使用Optimistic方法对区块链系统进行AI模型推理和训练/微调。
0 X! g7 u5 b( k/ J8 g4 G: _与ZKML相比,OPML可以提供低成本、高效率的ML服务。OPML的参与要求很低:我们现在能够在没有GPU的普通PC上运行带有大型语言模型的OPML,例如7B-LLaMA(模型大小约为26GB)。9 v3 F, Y! x8 r' s2 d; q. Z
OPML采用验证游戏(类似于Truebit和Optimistic Rollup系统)来保证ML服务的去中心化和可验证共识。8 p# N2 E& b# p* J
•请求者首先启动一个ML服务任务。
( W* u" a. o# J, B9 f•然后,服务器完成ML服务任务并将结果提交到链上。
" ?7 D- B% I. S1 f" l" a# n•验证者将验证结果。假设存在一个验证者声明结果是错误的。它通过与服务器的验证游戏(二分协议)启动验证游戏,并试图通过精确指出一个具体的错误步骤来反驳该声明。2 M2 r2 r( A6 _6 W
•最后,在智能合约上进行单个步骤的仲裁。" m, ]; U1 D, D: y0 S8 U& r
单阶段验证游戏: A6 ]+ H+ R1 ^5 O6 h* b, S5 A
& M) e" |9 ^( W/ B; N; f
单阶段精确定位协议的工作原理与计算委托 (RDoC) 类似,其中假设两个或多个参与方(至少有一个诚实的参与方)执行相同的程序。然后,双方可以用精确的方式相互质疑,以找出有争议的步骤。将步骤发送给计算能力较弱的法官(区块链上的智能合约)进行仲裁。( v3 X6 v( E; W6 e! ]& @& {5 V0 {
在单阶段OPML中:# Q. Q: k  g4 E
•我们构建了一个虚拟机(VM)用于链下执行和链上仲裁。我们保证了在智能合约上实现的链下VM和链上VM的等效性。
# r6 B/ c6 c% D6 X2 p+ U. f$ T8 p•为了确保虚拟机中AI模型推理的效率,我们实现了一个专门为此目的设计的轻量级DNN库,而不是依赖于流行的ML框架,如Tensorflow或PyTorch。此外,还提供了一个脚本,可以将Tensorflow和PyTorch模型转换为这个轻量级库。9 b. K  J; H4 I3 D( d9 f
•采用交叉编译技术将人工智能模型推理代码编译成虚拟机程序指令。
) K6 |1 ?# `- p! B( u•虚拟机镜像是用默克尔树管理的,只有默克尔根会被上传到链上智能合约。(默克尔根代表虚拟机状态)
. s  b  d% Z/ Q' V9 F( j* ^
* O, Z1 _: U9 @6 n1 x•二分协议将帮助定位争议步骤,该步骤将发送到区块链上的仲裁合约2 a1 N6 {. o4 N( X" g

& j. k! z, |) r" O性能:我们在PC上测试了一个基本的AI模型(用于MNIST分类的DNN模型)。我们能够在VM中2秒内完成DNN推理,在本地以太坊测试环境中,整个挑战过程可以在2分钟内完成。
( x3 Y& R7 T& Z1 Y多阶段验证游戏
: U* _$ ]1 u" N: H" V7 ?* H1 ~  X, F/ C: E, _* ^; J4 K
单阶段精确定位协议的局限性
2 [% `7 d- s9 r& q9 H* C4 ^% U
  Z& x7 v$ q# p0 x1 L$ K  R单阶段验证游戏有一个严重的缺点:所有的计算必须在虚拟机(VM)内执行,这使我们无法充分利用 GPU/TPU 加速或并行处理的潜力。因此,这一限制严重阻碍了大模型推理的效率,这也与当前RDoC协议的限制相一致。
) i! `; Q; O% j2 a0 M8 z: a8 v过渡到多阶段协议6 ?0 `, h# P# e0 c+ T. B4 I
2 y5 q, A; Y/ f1 g) h5 y
为了解决单阶段协议所带来的限制,并确保OPML能够达到与本机环境相当的性能水平,我们提出了对多阶段协议的扩展。使用这种方法,我们只需要在最后阶段在VM中进行计算,类似于单阶段协议。对于其他阶段,我们可以灵活地执行计算,从而在本机环境中实现状态转换,利用CPU、GPU、TPU甚至并行处理的能力。通过减少对VM的依赖,我们显著地减少了开销,从而显著提高了OPML的执行性能,几乎与本机环境类似。
1 f" ~- P( t4 s下图演示了一个验证游戏由两个阶段(k = 2)组成。在阶段1中,该过程类似于一个单阶段验证游戏,其中每个状态转换对应于一个改变虚拟机状态的单个VM微指令。在阶段2中,状态转换对应于包含改变计算上下文的多个微指令的“大指令”。
: ^; N- W& o: Q5 P5 T, D提交者和验证者将首先使用二分协议启动第二阶段的验证游戏, 以定位“大指令”上的争议步骤。此步骤将发送到下一阶段,即phase -1。第一阶段的工作原理类似于单阶段验证游戏。第一阶段的二分协议将有助于定位 VM 微指令上的争议步骤。该步骤将发送至区块链上的仲裁合约。
5 N+ J' `) O9 ^' g4 n( S为了确保过渡到下一阶段的完整性和安全性,我们依赖于默克尔树。该操作包括从更高级别的阶段提取Merkle子树,从而保证验证过程的无缝延续。
4 X: y* P- C% Y
3 ~! p5 B3 F" g" F3 f多阶段OPML& T7 Z+ ?! O. {
) f" z% g* f& g4 s
在本演示中,我们提出了 LLaMA 模型中使用的两阶段 OPML 方法:& e/ k% c5 @/ _# U2 {+ v
•机器学习(ML),特别是深度神经网络(DNN)的计算过程可以表示为计算图,表示为G。该图由各种计算节点组成,能够存储中间计算结果。7 Y5 E! B' P( q6 M1 X
•DNN模型推理本质上是在上述计算图上的计算过程。整个图可以看作是推理状态(Phase-2中的计算上下文)。在计算每个节点时,结果存储在该节点中,从而将计算图推进到下一个状态。. Y6 s2 j. o' A6 S0 ]
4 m( R- B: ]5 t* h8 Y
•因此,我们可以先在计算图上进行验证博弈(在phase-2)。在第二阶段验证游戏中,图形节点的计算可以在本地环境中使用多线程CPU或GPU进行。二分协议将帮助定位争议节点,该节点的计算将发送到下一阶段(phase-1) 二分协议。; \) H$ F  s8 c7 D4 b
•在第一阶段二分中,我们将单个节点的计算转换为虚拟机(VM)指令,类似于在单阶段协议中所做的操作。) N. i$ ^' H' [$ a9 o; j/ V
值得注意的是,当计算图中单个节点的计算仍然计算复杂时,我们预计会引入多阶段OPML方法(包括两个以上阶段)。这一延长将进一步提高验证过程的整体效率和有效性。6 S7 f6 g' l8 G/ P. t
性能改进! z2 G: B- W, K  i3 i1 @. [

% B1 z4 n: |* N- P在这里,我们对我们提出的多阶段验证框架进行了简要的讨论和分析。% u1 d' |/ @' |9 M& }
假设有n DNN计算图中的节点,每个节点需要取m VM微指令,在VM中完成计算。假设使用GPU或并行计算对每个节点的计算加速比为α 。该比率表示通过GPU或并行计算实现的加速,并且可以达到显着值,通常比VM执行速度快几十倍甚至数百倍。3 ~5 `' H" v, I# I) S/ }1 s5 R
基于这些考虑,我们得出以下结论:
: f3 [) I9 ~) v" C5 X! T/ b1.两阶段OPML优于单阶段OPML,实现了计算加速α次。多阶段验证的使用使我们能够利用GPU或并行处理提供的加速计算能力,从而显着提高整体性能。
" a5 ~! z; q7 b, W( _  j2 G2.当比较Merkle树的大小时,我们发现在两阶段OPML中,大小为O(m+n),而在单阶段OPML中,尺寸明显大于 O(mn)。Merkle树大小的减小进一步突出了多阶段设计的效率和可扩展性。# P; ], b7 U% I: i" Z) W
总之,多阶段验证框架提供了显着的性能改进,确保更高效和更快的计算,特别是在利用GPU或并行处理的加速能力时。此外,减小的Merkle树大小增加了系统的有效性和可扩展性,使多阶段OPML成为各种应用的选择。1 q. w* [6 A, @5 u% ]
一致性与确定性
6 w! Y& |) X4 ]2 H: ~; D% i; _7 s5 T- B5 z
在OPML中,确保ML结果的一致性是至关重要的。
2 D/ \* [8 j2 G" `! m0 P0 v在DNN计算的本机执行过程中,特别是在不同的硬件平台上,由于浮点数的特性,可能会产生执行结果的差异。例如,涉及浮点数的并行计算,例如(a+b)+c与a+(b+c), 由于舍入误差,通常会产生不相同的结果。此外,编程语言、编译器版本和操作系统等因素都可能影响浮点数的计算结果,从而导致ML结果进一步不一致。
4 n* v6 k  y- S( q8 u为了应对这些挑战并保证OPML的一致性,我们采用了两种关键方法:  S5 A) {, ^- e; \9 O
1.采用定点算法,又称量化技术。这种技术使我们能够使用固定精度而不是浮点数来表示和执行计算。通过这样做,我们减轻了浮点舍入误差的影响,从而获得更可靠和一致的结果。0 K) _# v! q: S$ S( T$ D
2.我们利用基于软件的浮点库,这些库旨在跨不同平台保持一致的功能。这些库确保了ML结果的跨平台一致性和确定性,而无论底层硬件或软件配置如何。
7 n4 K' v7 Q6 `7 [* q# v! Q通过结合定点算法和基于软件的浮点库,我们为在OPML框架内实现一致和可靠的ML结果奠定了坚实的基础。这种技术的协调使我们能够克服浮点变量和平台差异带来的固有挑战,最终增强OPML计算的完整性和可靠性。& u/ g/ i& L" C+ l) t3 T
OPML vs ZKML! \! B; u- |. K, U( r$ W5 K4 u8 p, i. ]9 J
" O3 m2 I( f- j

, T0 P( j7 M7 ^! g*:在当前的OPML框架中,我们的主要重点在于ML模型的推理,从而实现高效且安全的模型计算。然而,必须强调的是,我们的框架也支持训练过程,使其成为各种机器学习任务的通用解决方案。. L3 Y% D' a- H1 k% Q! d
请注意,OPML仍在开发中。如果您有兴趣成为这一激动人心的计划的一部分,并为OPML项目做出贡献,请随时与我们联系。
BitMere.com 比特池塘系信息发布平台,比特池塘仅提供信息存储空间服务。
声明:该文观点仅代表作者本人,本文不代表比特池塘立场,且不构成建议,请谨慎对待。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

成为第一个吐槽的人

QQ1165960099 小学生
  • 粉丝

    0

  • 关注

    0

  • 主题

    8