A Complete Characterisation of ReLU-Invariant Distributions
von Jan Macdonald, Stephan Wäldchen
Jahr:
2022
Publikation:
25th International Conference on Artificial Intelligence and Statistics
Abstrakt:
We give a complete characterisation of families of probability distributions that are invariant under the action of ReLU neural network layers (in the same way that the family of Gaussian distributions is invariant to affine linear transformations).
Link:
Read the paperAdditional Information
Brief introduction of the dida co-author(s) and relevance for dida's ML developments.
Dr. Jan Macdonald
Während seines Mathematikstudiums (TU Berlin) konzentrierte sich Jan auf angewandte Themen der Optimierung, Funktionalanalysis und Bildverarbeitung. Im Rahmen seiner Promotion (TU Berlin) untersuchte er das Zusammenspiel von theoretischer und empirischer Forschung zu neuronalen Netzen. Dies resultierte in seiner Dissertation, in der die Zuverlässigkeit von Deep Learning für Bildverarbeitungs- und Computer-Vision-Anwendungen in Bezug auf Interpretierbarkeit, Robustheit und Genauigkeit untersucht wird. Bei dida arbeitet er als Machine Learning Researcher an der Schnittstelle von wissenschaftlicher Forschung und Softwareentwicklung.