arXiv cs.LG· Charalampos Koilakos, Kimon-Antonios Provatas, Michail Patsakis, Candace SY Chan, Georgios A. Pavlopoulos, Ilias Georgakopoulos-Soares·· 18 天前AI 评分46
蛋白质设计系统在预训练与检索阶段的语料库投毒研究
Poisoning the corpora of protein design systems during pre-training and retrieval
AI 导读
新研究展示了针对蛋白质设计系统预训练与检索语料的纯数据投毒攻击，证实极少量恶意序列即可隐蔽操纵生成结果。在 300 million 参数的 ProtGPT2 与 ProGen2 预训练中，递增投毒仅需 200 个污染样本即可激活后门。针对检索系统的单条恶意记录可在 97% 的自由文本请求中抢占 top-16，并导致 62% 的请求生成篡改序列。
来源：arXiv cs.LG · arxiv.org