arXiv cs.LG· Ioannis Konstantoulas, Iliana Loi, Kyriakos Sgarbas·· 4 天前AI 评分35
Predicate Neuron：基于梯度学习的谓词关系可微量化
Predicate Neuron: Differentiable Quantization of Predicate Relations in Gradient-based Learning
AI 导读
研究人员提出 Native Predicate Neuron，通过一阶逻辑量化为标准深度架构引入可微符号推理能力。该神经元用单一可训练参数建模关系逻辑，在执行硬逻辑操作的同时保持反向传播可微，可有效逼近非连续函数。实验表明其在 CNN、RNN 和 Transformer 等架构上显著加速收敛并提升准确率，现已支持 Keras 与 PyTorch。
来源：arXiv cs.LG · arxiv.org