L'apprentissage profond avec a priori physique consiste à entraîner des réseaux de neurones en utilisant un risque empirique pénalisé par un système d'équations différentielles (EDP). Ces modèles permettent d'allier la performance des réseaux de neurones à l'interprétabilité apportée par la modélisation physique. Leurs bonnes performances pratiques se sont illustrées dans le cadre de la de la modélisation hybride, combinant un modèle physique imparfait avec des observations bruitées, notamment pour les prévisions climatiques. Cependant, leurs propriétés théoriques restent encore à établir. Ici, nous montrons que l'entraînement classique -et massivement adopté- de ces réseaux peut souffrir d'un surapprentissage systématique. Nous considérons alors l'ajout d'une régularisation de type ridge. Nous montrons alors que l'estimateur ainsi construit est consistant, avec une vitesse de convergence potentiellement accélérée grâce à la contrainte EDP, et qu'il vérifie de surcroît le modèle physique, à l'erreur de modélisation près.