Détecteurs usuels

La page précédente a donné les critères pour juger un détecteur, mais aucun moyen d'en construire un. Cette page comble ce manque en reprenant la démarche du chapitre 2 : la section 1 ramène la construction à une règle de décision, puis quatre sections la déclinent selon les hypothèses disponibles : les lois connues (§2), prolongées aux paramètres inconnus par le GLRT, un signal connu dans du bruit (§3), des probabilités a priori sur les hypothèses (§4), de simples exemples étiquetés (§5) ; la section 6 récapitule les cinq détecteurs et leurs hypothèses.

1. Problématique

La statistique $T(x)=x$ de la page précédente a été proposée de façon ad hoc : pour une mesure unique, elle semblait naturelle, mais rien ne prouve qu'elle soit la meilleure. Pour $N$ mesures, le choix devient réellement ouvert : faut-il seuiller la moyenne, le maximum, la médiane ? Comment construire la statistique qui transforme les données en décision ? Comment fixer la valeur du seuil ?

La réponse suivie dans toute cette section conserve le modèle de détecteur de la page précédente, une statistique de test comparée à un seuil :

• décider $H_1$ si $T(\mathbf{x})>\gamma$,

où

• $T(\mathbf{x})$ est la statistique de test, la fonction qui résume les données en un nombre,
• $\gamma$ est le seuil, qui fixe le point de fonctionnement sur la courbe ROC.

Choisir un détecteur revient alors à choisir une statistique, comme choisir un estimateur revenait à choisir une loss. Les sections 2 à 5 en proposent cinq, notées $T_{\mathrm{NP}}$ et son extension $T_{\mathrm{GLRT}}$, $T_{\mathrm{MF}}$, $T_{\mathrm{B}}$ et $T_{\mathrm{app}}$, et le choix entre elles est dicté par les hypothèses disponibles : cinq niveaux de connaissance du problème, jamais des méthodes concurrentes.

2. Détecteur de Neyman-Pearson

Un radar surveille une case de distance : en l'absence de cible, la mesure n'est que du bruit ; en sa présence, un écho s'y ajoute. Les deux situations sont parfaitement modélisées, et les deux erreurs n'ont pas le même coût : une fausse alarme mobilise une vérification, un budget que l'opérateur fixe à l'avance. Le cas idéal de la détection consiste à maximiser la probabilité de détection sous une contrainte de fausse alarme.

Hypothèses

Trois hypothèses définissent ce cadre :

• Lois connues. Les lois des données sous les deux hypothèses sont parfaitement connues : $p(\mathbf{x};H_0)$ et $p(\mathbf{x};H_1)$ sont des fonctions explicites.
• Aucun prior. Aucune probabilité a priori n'est assignée aux hypothèses.
• Aucun coût. Aucun coût de décision n'est spécifié : le cahier des charges porte uniquement sur $P_{FA}$ et $P_D$.

Expression

L'idée est de comparer la plausibilité des données sous chaque hypothèse : si l'observation reçue est bien plus vraisemblable sous $H_1$ que sous $H_0$, décider $H_1$. Le rapport des deux vraisemblances porte cette comparaison.

Définition, Détecteur de Neyman-Pearson

La règle de décision s'écrit :

• décider $H_1$ si $T_{\mathrm{NP}}(\mathbf{x})>\eta$,

où

• $T_{\mathrm{NP}}(\mathbf{x})={\displaystyle \frac{p(\mathbf{x};H_1)}{p(\mathbf{x};H_0)}}$ est la statistique de test : le rapport de vraisemblance (likelihood ratio test, LRT), souvent noté $\mathrm{\Lambda }(\mathbf{x})$, grand quand les données ressemblent davantage à $H_1$,
• $\eta$ est le seuil, réglé pour respecter le budget de fausse alarme $P_{FA}=\alpha$.

En pratique, le seuillage porte sur $\ln T_{\mathrm{NP}}(\mathbf{x})$, pour les mêmes raisons qu'au maximum de vraisemblance : le logarithme ne déplace pas la décision et transforme les produits i.i.d. en sommes.

Propriétés

Proposition, Optimalité sous contrainte

Le détecteur NP maximise la probabilité de détection $P_D=1-P_M$ sous la contrainte $P_{FA}\le \alpha$, où $\alpha$ est un seuil fixé.

Ce théorème est admis. Sa conséquence graphique est immédiate : la courbe ROC du LRT domine celle de tout autre détecteur construit sur les mêmes données. Elle joue pour la détection le rôle que la borne de Cramér-Rao jouait pour l'estimation, un plafond de performance, à ceci près qu'il est ici atteint par une statistique explicite.

Exemple : décalage de moyenne

Reprenons le problème de la page précédente avec $N$ mesures i.i.d. : $x[n]\sim \mathcal{N}(0,{\sigma }^2)$ sous $H_0$ et $\mathcal{N}({\mu }_1,{\sigma }^2)$ sous $H_1$. La log-vraisemblance de chaque hypothèse est une somme, et le rapport devient

$$\ln T_{\mathrm{NP}}(\mathbf{x})=\frac{{\mu }_1}{{\sigma }^2}\sum _{n=0}^{N-1}(x[n]-\frac{{\mu }_1}{2})=\frac{N{\mu }_1}{{\sigma }^2}(\overline{x}-\frac{{\mu }_1}{2}).$$

Cette fonction est croissante en $\overline{x}$ (pour ${\mu }_1>0$) : seuiller $\ln T_{\mathrm{NP}}$ revient à seuiller la moyenne empirique. Parmi toutes les statistiques imaginables au §1, moyenne, maximum, médiane, c'est la moyenne que le rapport de vraisemblance désigne ; pour $N=1$, elle se réduit à $T(x)=x$, la statistique posée intuitivement à la page précédente, qui était donc optimale sans le savoir.

Le seuil se règle en imposant le budget de fausse alarme. Sous $H_0$, $\overline{x}\sim \mathcal{N}(0,{\sigma }^2/N)$, et l'inversion de $P_{FA}=Q(\gamma \sqrt{N}/\sigma )=\alpha$ donne

$$\gamma =\frac{\sigma }{\sqrt{N}}{Q}^{-1}(\alpha ).$$

Avec $\alpha =1\mathrm{\%}$, $N=16$, ${\mu }_1=0,5$ et $\sigma =1$ : $Q^{-1}(0,01)=\mathrm{2,326}$, d'où $\gamma =\mathrm{0,582}$ et $P_D=Q((\gamma -{\mu }_1)\sqrt{N}/\sigma )=\mathrm{0,372}$. Un budget de fausse alarme exigeant ne laisse que $37\mathrm{\%}$ de détection à ce niveau de signal.

Sous chaque hypothèse, $\overline{x}$ est Gaussienne de variance ${\sigma }^2/N$ : le problème garde la forme d'un décalage de moyenne, avec un écart normalisé

$$d=\frac{\sqrt{N}{\mu }_1}{\sigma }.$$

Accumuler des mesures augmente $d$ en $\sqrt{N}$, donc change de courbe ROC.

Figure 3.5, Courbes ROC du détecteur à moyenne pour $N\in \{1,4,16\}$ mesures (${\mu }_1=0,5$, $\sigma =1$), soit $d\in \{0,5,1,2\}$ (script figures/ch3/02-roc-nmesures.py).

Le détecteur dispose donc de deux manettes de natures différentes. Le seuil déplace le point de fonctionnement le long d'une courbe, sans jamais l'améliorer. Le nombre de mesures, comme le rapport signal à bruit, change de courbe : quadrupler $N$ double $d$. Une performance inaccessible à $N$ fixé se gagne en accumulant des données, pas en déplaçant le seuil.

Extension : paramètres inconnus (GLRT)

En pratique, le signal attendu est rarement connu exactement : l'écho radar revient avec une amplitude qui dépend de la cible, une phase qui dépend du trajet. La forme des lois reste connue, $p(\mathbf{x};{\theta }_0,H_0)$ et $p(\mathbf{x};{\theta }_1,H_1)$, mais leurs paramètres sont inconnus, toujours sans aucun prior : la statistique $T_{\mathrm{NP}}$ ne peut plus être évaluée, son numérateur n'est plus une fonction explicite. L'idée naturelle consiste à estimer d'abord les paramètres par maximum de vraisemblance sous chaque hypothèse, puis à appliquer le rapport de vraisemblance.

Définition, Rapport de vraisemblance généralisé (GLRT)

La règle de décision s'écrit :

• décider $H_1$ si $T_{\mathrm{GLRT}}(\mathbf{x})>\eta$,

où

• $T_{\mathrm{GLRT}}(\mathbf{x})={\displaystyle \frac{\underset{{\theta }_1}{max}p(\mathbf{x};{\theta }_1,H_1)}{\underset{{\theta }_0}{max}p(\mathbf{x};{\theta }_0,H_0)}}$ est la statistique du GLRT (generalized likelihood ratio test),
• $\eta$ est le seuil.

Chaque hypothèse défend ainsi sa meilleure cause : le détecteur compare les données aux deux modèles, chacun ajusté au mieux, et retient celui qui les explique le mieux. Lorsque les paramètres sont en réalité connus, les maximisations disparaissent et $T_{\mathrm{GLRT}}$ redonne $T_{\mathrm{NP}}$ : le GLRT est la généralisation naturelle du détecteur de Neyman-Pearson. En revanche, le lemme de Neyman-Pearson ne s'applique plus, il supposait les lois exactes, et aucune optimalité n'est garantie à $N$ fini ; le GLRT n'en reste pas moins le détecteur standard des problèmes à paramètres inconnus, et son écart au détecteur clairvoyant, celui qui connaîtrait les paramètres, mesure le prix de l'ignorance.

Reprenons le décalage de moyenne, mais sans connaître l'amplitude : $x[n]=w[n]$ sous $H_0$, $x[n]=A+w[n]$ sous $H_1$, avec $A$ inconnu et $w[n]\sim \mathcal{N}(0,{\sigma }^2)$. Le MLE de $A$ sous $H_1$ est $\hat{A}=\overline{x}$, et la statistique se calcule explicitement :

$$\ln T_{\mathrm{GLRT}}(\mathbf{x})=\frac{N{\overline{x}}^2}{2{\sigma }^2}.$$

Démonstration

Sous $H_0$, aucun paramètre : la log-vraisemblance vaut $-\frac{1}{2{\sigma }^2}\sum _{n}x[n{]}^2$ à constante près. Sous $H_1$, elle est maximale en $\hat{A}=\overline{x}$ et vaut $-\frac{1}{2{\sigma }^2}\sum _n(x[n]-\overline{x}{)}^2$ à la même constante près. La différence des deux donne $\ln T_{\mathrm{GLRT}}=\frac{1}{2{\sigma }^2}[\sum _{n}x[n{]}^2-\sum _n(x[n]-\overline{x}{)}^2]=\frac{N{\overline{x}}^2}{2{\sigma }^2}$. $◼$

Seuiller ${\overline{x}}^2$ revient à seuiller $|\overline{x}|$ : ne connaissant pas le signe de $A$, le détecteur déclenche pour une moyenne empirique grande dans les deux directions, un test bilatéral, là où le détecteur clairvoyant ci-dessus, sûr que ${\mu }_1>0$, ne regardait qu'un côté.

Ce changement a un prix mesurable. À budget identique $\alpha =1\mathrm{\%}$, la fausse alarme se répartit sur les deux queues, et le seuil monte : $\gamma =(\sigma /\sqrt{N})Q^{-1}(\alpha /2)=\mathrm{0,644}$ contre $\mathrm{0,582}$ ci-dessus. Si la vraie amplitude vaut $A=0,5$, la probabilité de détection tombe à $P_D=\mathrm{0,282}$, contre $\mathrm{0,372}$ pour le détecteur clairvoyant : neuf points de détection, c'est le prix de l'ignorance de l'amplitude.

Au-delà de cet exemple, le GLRT est la matrice de la plupart des tests classiques de l'analyse de données : le test t (une moyenne, à $\sigma$ inconnue), le test du ${\chi }^2$ d'adéquation et le test F de l'ANOVA en sont trois instances, dont la statistique suit sous $H_0$ une loi connue, Student, ${\chi }^2$, Fisher, d'où des seuils en table et le vocabulaire de la p-value. Leur dérivation et leur mise en œuvre font l'objet du projet Tests classiques.

3. Détecteur à filtre adapté

Un récepteur radar émet une impulsion $s[n]$ et guette son écho : le signal à détecter est connu, puisque le récepteur l'a lui-même émis. La loi du bruit, elle, l'est rarement, un fouillis d'échos parasites et d'interférences ne se modélise pas volontiers par une densité explicite. C'est le miroir des moindres carrés : un modèle de signal, un critère géométrique, aucune loi complète.

Hypothèses

Deux hypothèses définissent ce cadre :

• Modèle de signal. Les observations contiennent, sous $H_1$ seulement, un signal connu $s[n]$ auquel s'ajoute un bruit :

$$\begin{array}{rl}{H}_0& :x[n]=w[n],\\ H_1& :x[n]=s[n]+w[n].\end{array}$$

• Bruit de loi inconnue. $w[n]$ est un bruit blanc centré de puissance ${\sigma }^2$ ; sa loi complète n'est pas supposée connue.

Expression

Pour détecter le signal, une possibilité intuitive consiste à mesurer la ressemblance entre les données reçues et le signal attendu, au sens du produit scalaire.

Définition, Détecteur à filtre adapté

La règle de décision s'écrit :

• décider $H_1$ si $T_{\mathrm{MF}}(\mathbf{x})>\gamma$,

où

• $T_{\mathrm{MF}}(\mathbf{x})={\displaystyle \sum _{n=0}^{N-1}x[n]s[n]}$ est la statistique de test : la corrélation entre les données et le signal attendu, le filtre adapté (matched filter),
• $\gamma$ est le seuil, réglé pour respecter le budget de fausse alarme $P_{FA}=\alpha$.

Aucune loi complète n'intervient dans cette statistique : le critère est purement géométrique, $T_{\mathrm{MF}}$ est grand quand le vecteur des données pointe dans la direction du signal attendu. Le détecteur à moyenne du §2 en est le cas particulier $s[n]={\mu }_1$ : corréler avec une constante revient à sommer les échantillons.

Propriétés

Proposition, Lien avec le détecteur de Neyman-Pearson

Lorsque $w[n]\sim \mathcal{N}(0,{\sigma }^2)$, les détecteurs à filtre adapté et de Neyman-Pearson coïncident : seuiller $T_{\mathrm{MF}}$ équivaut à seuiller $T_{\mathrm{NP}}$.

Démonstration

Le rapport des deux densités Gaussiennes donne $\ln T_{\mathrm{NP}}(\mathbf{x})=\frac{1}{{\sigma }^2}[\sum _{n}x[n]s[n]-\frac{1}{2}\sum _{n}s[n{]}^2]$, une fonction affine croissante de $T_{\mathrm{MF}}$ : seuiller l'une revient à seuiller l'autre. $◼$

Le parallèle avec le chapitre 2 est exact : les moindres carrés, critère géométrique posé sans hypothèse probabiliste, coïncidaient avec le MLE sous bruit Gaussien blanc ; le filtre adapté, critère géométrique lui aussi, coïncide avec le détecteur de Neyman-Pearson sous la même hypothèse, et hérite alors de son optimalité.

Sous bruit Gaussien blanc, la performance admet une forme fermée : $T_{\mathrm{MF}}$ est Gaussienne sous chaque hypothèse, et l'écart normalisé vaut

$$d=\frac{\sqrt{{\mathcal{E}}_s}}{\sigma },$$

où ${\mathcal{E}}_s=\sum _{n}s[n{]}^2$ est l'énergie du signal. La conséquence est remarquable : la performance ne dépend que de l'énergie du signal, jamais de sa forme. Deux signaux d'énergie égale donnent la même courbe ROC.

Exemple : deux signaux, même énergie

Deux signaux de $N=32$ échantillons et de même énergie ${\mathcal{E}}_s=4$, un créneau constant et une rampe croissante, sont détectés chacun par leur filtre adapté dans un bruit Gaussien blanc ($\sigma =1$), soit $d=2$ pour les deux. Si la proposition est juste, leurs courbes ROC, estimées par simulation, doivent se confondre avec la courbe théorique.

Figure 3.6a, Les deux signaux, créneau et rampe, de même énergie ${\mathcal{E}}_s=4$ (script figures/ch3/02-filtre-adapte.py).

Figure 3.6b, ROC empiriques des deux filtres adaptés ($20000$ tirages par hypothèse) et courbe théorique $d=2$.

Les deux courbes empiriques se superposent à la courbe théorique, AUC $\mathrm{0,923}$ et $\mathrm{0,921}$ contre $\mathrm{0,921}$ : la forme du signal n'a aucune influence, seule son énergie compte, et la détection à $\alpha =1\mathrm{\%}$ retombe sur le $P_D=\mathrm{0,372}$ du §2, qui correspondait déjà à $d=2$. Cette liberté de forme est un outil de conception : à énergie fixée, le signal peut être choisi pour d'autres critères, facilité de génération, tenue au Doppler, partage du spectre. Les courbes ne disent rien, en revanche, du bruit coloré : si le bruit privilégie certaines fréquences, la forme du signal redevient déterminante.

4. Détecteur bayésien

Dans un récepteur de télécommunications, chaque intervalle de temps porte un bit, $H_0$ ou $H_1$, et les fréquences d'apparition des deux symboles sont connues, souvent équiprobables. Cette information nouvelle, ignorée par les sections précédentes, change le critère : plus de cahier de charge basé sur une probabilité de fausse alarme, mais une probabilité d'erreur à rendre minimale.

Hypothèses

Deux hypothèses définissent ce cadre :

• Lois connues. Les lois des données sous les deux hypothèses sont connues, comme au §2.
• Priors connus. Les hypothèses sont munies de probabilités a priori connues, $P(H_0)$ et $P(H_1)$, avec $P(H_0)+P(H_1)=1$.

C'est le geste bayésien du MAP : assigner une loi de probabilité à l'inconnue.

Expression

L'idée est de choisir l'hypothèse la plus probable au vu des données. La règle de Bayes fournit ces probabilités a posteriori :

$$P(H_i\mid \mathbf{x})=\frac{p(\mathbf{x}\mid H_i)P(H_i)}{p(\mathbf{x})}.$$

La règle de décision retient l'hypothèse de probabilité a posteriori maximale : décider $H_1\text{ si }P(H_1\mid \mathbf{x})>P(H_0\mid \mathbf{x})$. En divisant membre à membre, le dénominateur $p(\mathbf{x})$ s'élimine et la règle seuille le rapport de vraisemblance du §2.

Définition, Détecteur bayésien

La règle de décision s'écrit :

• décider $H_1$ si $T_{\mathrm{B}}(\mathbf{x})>\eta$,

où

• $T_{\mathrm{B}}(\mathbf{x})=T_{\mathrm{NP}}(\mathbf{x})$ est la statistique de test : le rapport de vraisemblance du §2, inchangé,
• $\eta ={\displaystyle \frac{P(H_0)}{P(H_1)}}$ est le seuil, imposé par les priors.

La statistique est donc la même qu'au §2, le rapport de vraisemblance ; seul le seuil change. Un prior déséquilibré déplace le point de fonctionnement le long de la même courbe ROC : plus $H_0$ est fréquente a priori, plus $\eta$ est élevé, plus le détecteur exige des données convaincantes avant de déclencher.

Propriétés

Proposition, Optimalité en probabilité d'erreur

Le détecteur bayésien minimise la probabilité d'erreur :

$$P_e=P(H_0)P_{FA}+P(H_1)P_M.$$

Cette quantité est le risque bayésien pour des coûts $0$-$1$, une erreur coûte $1$, une bonne décision $0$ ; des coûts inégaux entre fausse alarme et non-détection se traitent de la même manière et ne font que déplacer le seuil $\eta$.

Exemple : hypothèses équiprobables

Pour deux hypothèses équiprobables, $\eta =1$, ce qui pour le décalage de moyenne donne $\gamma ={\mu }_1/2$, le seuil à mi-chemin des deux moyennes. Le seuil $\gamma =1$ posé sans justification à la page précédente était donc le minimiseur de la probabilité d'erreur. Si cette lecture est juste, la courbe de $P_e$ en fonction du seuil doit être minimale exactement en ${\mu }_1/2$.

Figure 3.7, Probabilité d'erreur $P_e(\gamma )$ pour l'exemple de la page précédente (${\mu }_1=2$, $\sigma =1$, hypothèses équiprobables) : minimum en $\gamma ={\mu }_1/2=1$, où $P_e=\mathrm{0,159}$ (script figures/ch3/02-seuil-erreur.py).

La courbe est bien en U, minimale en $\gamma =1$ : trop bas, les fausses alarmes dominent ; trop haut, les non-détections. Elle ne montre en revanche qu'un cas équiprobable : déséquilibrer les priors déplacerait le minimum vers l'hypothèse la plus rare.

5. Détecteur appris (data-driven)

Les détecteurs précédents exigent tous un modèle explicite : des lois complètes pour Neyman-Pearson et le bayésien, un signal connu pour le filtre adapté. Lorsque tout modèle manque mais que des exemples étiquetés sont disponibles, la stratégie de l'estimateur appris se transpose : postuler la forme d'une règle de décision et l'ajuster sur les exemples.

Hypothèses

Deux hypothèses définissent ce cadre :

• Un modèle de statistique de test.

$$T(\mathbf{x})=g(\mathbf{x};\mathit{\alpha }),$$

où $g(\cdot ;\mathit{\alpha })$ est une fonction de forme fixée à valeurs dans $[0,1]$, un réseau de neurones par exemple, $\mathit{\alpha }$ rassemble ses paramètres, à déterminer, et $s\in [0,1]$ est le seuil sur le score, qui joue le rôle de $\gamma$.

• Une base de données. Une base d'apprentissage de $M$ exemples étiquetés $\{({\mathbf{x}}^{(i)},h^{(i)}){\}}_{i=1}^M$ est disponible, où $h^{(i)}\in \{0,1\}$ indique l'hypothèse vraie de l'exemple $i$. Chaque exemple est construit par deux tirages successifs :

$$\begin{array}{rl}{h}^{(i)}& \sim P(H),\\ {\mathbf{x}}^{(i)}& \sim p(\mathbf{x};H_{h^{(i)}}),\end{array}$$

où $P(H)$ fixe les proportions des deux hypothèses dans la base, le rôle que $p(\theta )$ jouait pour l'estimateur appris. Sans information particulière sur les fréquences réelles des hypothèses, le choix par défaut est l'équiprobabilité, retenu dans l'exemple ci-dessous.

Expression

Définition, Détecteur appris

La règle de décision s'écrit :

• décider $H_1$ si $T_{\mathrm{app}}(\mathbf{x})>s$,

où

• $T_{\mathrm{app}}(\mathbf{x})=g(\mathbf{x};\hat{\mathit{\alpha }})$ est la statistique de test, la fonction ajustée sur la base d'apprentissage,
• $s$ est le seuil sur le score.

La statistique dépend des paramètres $\hat{\mathit{\alpha }}$, qu'il reste à ajuster sur la base d'apprentissage.

Définition, Apprentissage des paramètres

Les paramètres minimisent la cross-entropy (binary cross-entropy, entropie croisée binaire) sur la base d'apprentissage :

$$\hat{\mathit{\alpha }}=\arg \underset{\mathit{\alpha }}{min}J(\mathit{\alpha }),$$

où

$$J(\mathit{\alpha })=-\frac{1}{M}\sum _{i=1}^M[h^{(i)}\ln g({\mathbf{x}}^{(i)};\mathit{\alpha })+(1-h^{(i)})\ln (1-g({\mathbf{x}}^{(i)};\mathit{\alpha }))].$$

Cette loss n'est pas arbitraire : chaque étiquette $h^{(i)}$ est vue comme un tirage de Bernoulli de paramètre $g({\mathbf{x}}^{(i)};\mathit{\alpha })$, la loi dont le MLE a déjà été calculé, et $J$ est la log-vraisemblance négative de la base.

L'interprétation de cette loss est directe. Pour chaque exemple, une seule des deux parenthèses est active : si $h^{(i)}=1$, seul $\ln g({\mathbf{x}}^{(i)};\mathit{\alpha })$ compte ; si $h^{(i)}=0$, seul $\ln (1-g({\mathbf{x}}^{(i)};\mathit{\alpha }))$. Une bonne détection, un score proche de $1$ quand $H_1$ est vraie, donne $\ln g\approx 0$ : l'exemple ne coûte presque rien. Une mauvaise détection, un score proche de $0$ dans la même situation, donne un $\ln g$ très négatif : l'exemple coûte très cher. À titre d'exemple, pour $h^{(i)}=1$, un score $g=0,9$ contribue pour $-\ln 0,9\approx 0,11$, un score $g=0,1$ pour $-\ln 0,1\approx 2,3$, vingt fois plus : la cross-entropy pénalise d'autant plus fort que le détecteur se trompe avec assurance.

Propriétés

Proposition, Lien avec le détecteur bayésien

La minimisation de la cross-entropy ajuste la statistique vers la probabilité a posteriori :

$$T_{\mathrm{app}}(\mathbf{x})\approx P(H_1\mid \mathbf{x}).$$

Le détecteur appris estime donc, depuis les seuls exemples, la quantité que le détecteur bayésien du §4 calcule depuis les lois, et le posterior appris est celui des proportions de la base : $P(H_1)$ y tient le rôle du prior. Le seuil $s=1/2$ approche alors le détecteur bayésien associé à ces priors, et balayer $s$ trace la courbe ROC, qui, elle, n'en dépend pas, ses métriques étant conditionnées à chaque hypothèse. Le schéma en deux phases est identique à celui de l'estimateur appris, apprentissage payé une fois, exploitation par simple évaluation, et la même réserve s'applique : la base d'apprentissage tient lieu de modèle, et les performances se mesurent sur une base de test indépendante.

Exemple : décalage de moyenne appris

Reprenons le problème à $N=16$ mesures, ${\mu }_1=0,5$, $\sigma =1$, soit $d=2$, et confions-le à un réseau à deux couches cachées de $32$ unités, entraîné sur $M=40000$ exemples étiquetés. Balayer le seuil $s$ sur les scores d'un jeu de test indépendant trace sa courbe ROC empirique.

import numpy as np
from sklearn.neural_network import MLPClassifier
from sklearn.metrics import roc_curve, roc_auc_score
rng = np.random.default_rng(2026)

mu1, sigma, N, M = 0.5, 1.0, 16, 40_000

# one equiprobable label per example, then N measurements for that hypothesis
h_train = rng.integers(0, 2, M)
x_train = rng.normal(0.0, sigma, size=(M, N)) + mu1 * h_train[:, None]

net = MLPClassifier(hidden_layer_sizes=(32, 32), activation="relu",
                    max_iter=800, early_stopping=True, random_state=0)
net.fit(x_train, h_train)

# empirical ROC on an independent test set
h_test = rng.integers(0, 2, M)
x_test = rng.normal(0.0, sigma, size=(M, N)) + mu1 * h_test[:, None]
score = net.predict_proba(x_test)[:, 1]

pfa, pd, thresholds = roc_curve(h_test, score)
roc_auc_score(h_test, score)             # >>> 0.9178  (LRT ceiling: 0.9214)

Figure 3.8, ROC empirique du détecteur appris ($40000$ exemples de test) contre la ROC du LRT, plafond de Neyman-Pearson ($N=16$, $d=2$) (script figures/ch3/02-detecteur-appris.py).

La courbe apprise épouse le plafond du LRT à $\mathrm{0,003}$ d'AUC près, sans que les lois Gaussiennes ni la forme du rapport de vraisemblance ne lui aient été communiquées : le réseau a reconstitué, depuis les seuls exemples, une statistique presque équivalente à la statistique optimale. Le lemme de Neyman-Pearson prend ici son second rôle : non plus construire le détecteur, mais fournir le plafond auquel tout détecteur appris se mesure. L'écart au plafond est le prix de l'apprentissage ; il se réduit avec la taille de la base, jamais en dessous de zéro.

6. Résumé

Cinq détecteurs ont été construits dans cette page. Le tableau suivant les rassemble, avec les hypothèses que chacun exige et le critère que chacun optimise.

Détecteur	Statistique $T(\mathbf{x})$	Hypothèses nécessaires	Critère optimisé
Neyman-Pearson	$T_{\mathrm{NP}}$, rapport de vraisemblance	lois connues sous $H_0$ et $H_1$	$P_D$ maximale à $P_{FA}=\alpha$ (lemme NP)
GLRT (extension du NP)	$T_{\mathrm{GLRT}}$, vraisemblances maximisées	forme des lois connue, paramètres inconnus	aucun garanti, généralise $T_{\mathrm{NP}}$
Filtre adapté	$T_{\mathrm{MF}}$, corrélation avec le signal attendu	signal $s[n]$ connu, bruit de loi inconnue	rejoint le NP sous bruit Gaussien blanc
Bayésien	$T_{\mathrm{B}}=T_{\mathrm{NP}}$, seuil $\eta =P(H_0)/P(H_1)$	lois et priors $P(H_0)$, $P(H_1)$ connus	probabilité d'erreur $P_e$ minimale
Appris	$T_{\mathrm{app}}=g(\mathbf{x};\hat{\mathit{\alpha }})$	forme de $g$ postulée, base d'exemples étiquetés	cross-entropy sur la base

Ces cinq détecteurs ne sont pas concurrents : ils correspondent à cinq niveaux de connaissance du problème. Lois parfaitement connues, Neyman-Pearson ; paramètres manquants, son extension GLRT ; un signal connu dans un bruit mal connu, filtre adapté ; fréquences des hypothèses connues en plus, bayésien ; plus de modèle du tout mais des exemples, détecteur appris. La limite de chacun est son hypothèse d'entrée : des lois exactes pour Neyman-Pearson, une optimalité perdue pour le GLRT, un bruit Gaussien blanc pour que le filtre adapté rejoigne l'optimal, des priors pour le bayésien, le domaine de la base pour le détecteur appris. Le choix d'un détecteur est dicté par les hypothèses disponibles, jamais par la complexité mathématique de la méthode, et la première question d'un problème de détection n'est pas « quel algorithme ? » mais « quelles hypothèses sont disponibles ? ».