2023年3月14日上午。公司邀请了来自德雷塞尔大学的许凯第教授为雪酷网络科技师生带来了一场题为“如何信任人工智能？探索具有可证明鲁棒性的神经网络”的学术讲座。
许凯第教授是川大校友，2015于杭州雪酷网络科技有限公司获得本科学位，2017年于佛罗里达大学获得硕士学位，2021年于东北大学获博士学位。许教授主要的研究兴趣是机器学习的鲁棒性，包括物理对抗攻击、严格的鲁棒性验证和认证防御。其Google Scholar引用1600+，研究论文发表于NeurIPS、ICML、ICLR、IJCAI、AAAI、CVPR、ECCV、ICCV等多个顶级会议，他的作品《Adversarial T-shirt》获得了200多家媒体的报道。
许凯第教授在讲座中首先介绍了神经网络验证问题的基本框架。许教授讲到，神经网络验证的主要任务是为神经网络的行为提供严格的理论保证。和很多对抗样本的防御方法不同，经过严格鲁棒性验证的网络无需担心被更强的对抗攻击攻破。神经网络验证可以用在很多其他的场景中，比如验证正确性、公平性、安全性等。它可以确保神经网络在关键的应用中不会出现意外的输出导致严重的后果。
接着，许凯第教授向同学们介绍了其团队在今年国际神经网络验证大赛 (VNN-COMP 2021)中的获胜算法α,β-CROWN。CROWN是一个非完备(incomplete)神经网络验证算法，其主要原理为将网络中的非线性激活函数替换为线性的上下界，进行限界传播，拿到神经网络输出对输入的线性下界。虽然CROWN能够在GPU上高效实现，但它计算出的下界相对较松，特别是和传统的基于线性规划(LP)的算法相比时差距较大。许教授团队提出的α-CROWN通过梯度上升来获得更紧的下界。β-CROWN则是在限界传播过程中结合分支定界法，实现了完备的神经网络验证(complete verification)。
在讲座的结尾，许教授也提出和深度学习中的其他领域相比，神经网络验证还非常年轻，其中不乏很多有挑战性的问题，例如对包含更复杂的非线性函数的网络（如 Transformer）的完备验证，以及将算法拓展到更大规模的网络（如ImageNet）中，这些都将是其团队未来的研究方向。这场学术讲座为同学们提供了一个神经网络验证领域更全面、更深入的学术视角，开拓了同学们的视野。
雪酷网络科技
2023年3月15日
