Faculty
Xiao Zhang ist Tenure-Track Faculty am CISPA Helmholtz-Zentrum für Informationssicherheit. Seine Forschung umfasst Themen wie Adversarial Machine Learning, Statistical Machine Learning und Optimierung. Im Besonderen ist er daran interessiert, das Fehlverhalten von maschinellen Lernmodellen gegenüber verschiedenen Angreifern zu verstehen und robuste Systeme für maschinelle Lernanwendungen zu entwickeln. 2022 schloss er seine Promotion in Informatik unter der Leitung von Prof. David Evans an der University of Virginia ab. Zuvor erwarb er seinen Master-Abschluss in Statistik an der University of Virginia und seinen Bachelor-Abschluss in Mathematik an der Tsinghua University. Er ist Mitglied des European Laboratory for Learning and Intelligent Systems (ELLIS).
Transactions on Machine Learning Research (TMLR) Generating Less Certain Adversarial Examples Improves Robust Generalization
NeurIPS-Workshop (NeurIPS-W)
AutoDefense: Multi-Agent LLM Defense against Jailbreak Attacks
ICML-Workshop (ICMLW)
ICML-Workshop (ICML-W)
Do Parameters Reveal More than Loss for Membership Inference?
ICML-Workshop (ICML-W)
Understanding Adversarially Robust Generalization via Weight-Curvature Index
IEEE Transactions on Information Forensics and Security Stealthy Targeted Backdoor Attacks Against Image Captioning
Conference on Neural Information Processing Systems (NeurIPS)
Transactions of Machine Learning Research (TMLR)
ICML-Workshop (ICMLW)
Provably Robust Cost-Sensitive Learning via Randomized Smoothing