Detecting Failure Modes in Image Reconstructions with Interval Neural Network Uncertainty
von Luis Oala, Cosmas Heiß, Jan Macdonald, Maximilian März, Gitta Kutyniok, Wojciech Samek
Jahr:
2021
Publikation:
Int J CARS 16, 2089–2097
Abstrakt:
The quantitative detection of failure modes is important for making deep neural networks reliable and usable at scale. We consider three examples for common failure modes in image reconstruction and demonstrate the potential of uncertainty quantification as a fine-grained alarm system.
Link:
Read the paperAdditional Information
Brief introduction of the dida co-author(s) and relevance for dida's ML developments.
Dr. Jan Macdonald
Während seines Mathematikstudiums (TU Berlin) konzentrierte sich Jan auf angewandte Themen der Optimierung, Funktionalanalysis und Bildverarbeitung. Im Rahmen seiner Promotion (TU Berlin) untersuchte er das Zusammenspiel von theoretischer und empirischer Forschung zu neuronalen Netzen. Dies resultierte in seiner Dissertation, in der die Zuverlässigkeit von Deep Learning für Bildverarbeitungs- und Computer-Vision-Anwendungen in Bezug auf Interpretierbarkeit, Robustheit und Genauigkeit untersucht wird. Bei dida arbeitet er als Machine Learning Researcher an der Schnittstelle von wissenschaftlicher Forschung und Softwareentwicklung.