Arrêt de service programmé du vendredi 10 juin 16h jusqu’au lundi 13 juin 9h. Pour en savoir plus
Accéder directement au contenu Accéder directement à la navigation
Communication dans un congrès

Probabilistic Robustness Estimates for Deep Neural Networks

Abstract : Robustness of deep neural networks is a critical issue in practical applications. In the case of deep dense neural networks, under random noise attacks, we propose to study the probability that the output of the network deviates from its nominal value by a given threshold. We derive a simple concentration inequality for the propagation of the input uncertainty through the network using the Cramer-Chernoff method and estimates of the local variation of the neural network mapping computed at the training points. We further discuss and exploit the resulting condition on the network to regularize the loss function during training. Finally, we assess the proposed tail probability estimate empirically on three public regression datasets and show that the observed robustness is very well estimated by the proposed method.
Type de document :
Communication dans un congrès
Liste complète des métadonnées

Littérature citée [27 références]  Voir  Masquer  Télécharger

https://hal-enac.archives-ouvertes.fr/hal-02572277
Contributeur : Nicolas Couellan Connectez-vous pour contacter le contributeur
Soumis le : mardi 29 septembre 2020 - 17:14:08
Dernière modification le : mardi 5 avril 2022 - 03:40:55

Fichier

UDL2020-paper-050.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : hal-02572277, version 2

Citation

Nicolas Couellan. Probabilistic Robustness Estimates for Deep Neural Networks. ICML workshop on Uncertainty and Robustness in Deep Learning, International Conference on Machine Learning (ICML), Jul 2020, Virtual Conference, United States. ⟨hal-02572277v2⟩

Partager

Métriques

Consultations de la notice

258

Téléchargements de fichiers

376