nGraph-HE2: A High-Throughput Framework for Neural Network Inference on Encrypted Data
3.1 Ckks Encoding Optimizations
3.2 Ckks Arithmetic Optimizations
3.3 Graph-level Optimizations
3.3.1 Lazy Rescaling
NTTと逆NTTを行うので, rescalingは暗号文と平文の掛け算の9倍のコストが掛かる(SEALでは)
ナイーブな方法としてすべての積のあとにrescalingを行う.
Lazy rescaling はrescalingの回数を最小にする
- FC層と畳込み層のあとにのみrescaling
- 暗号文が復号されるまえに後ろの乗算がない場合はrescalingをしない
3.3.2 Depth-aware Encoding
(?)
4 Evaluation
4.1 Client-aided Model
Table2: Encoding Optimizationの結果
Encoding時の最適化ありなしのメモリ使用量と所要時間, N=[2^12, 2^13, 2
Table3: Arithmetic Optimizationの結果(所要時間)
Table4:
ciphertext-plaintext multiplication の高速か
Table5:
CryptoNets での Lazy Scalingによる高速化(accuracyは変わらない)
LazyScaling なし, あり, あり(24 threads) の所要時間