WikiPrépaLivrets

Téléchargements

Présentation du sujet

Difficulté moyenne
Transport optimal régularisé par l'entropie et algorithme de Sinkhorn
Afficher ou masquer la section

Le sujet s'appuie sur le transport de masse avec régularisation entropique, qui conserve la convexité du problème et conduit, par dualité lagrangienne, à l'algorithme de Sinkhorn. Il traite d'abord les fonctions convexes, les extrema liés et les points selles, puis l'entropie et la divergence de Kullback-Leibler à travers une version simplifiée du théorème de codage de source de Shannon. Il étudie enfin le minimum d'une fonction strictement convexe sur un ensemble de lois couplées et sa résolution par minimisation alternée sur les variables duales.

  1. 1Partie I : convexité et points sellesUnicité du minimum d'une fonction strictement convexe, noyau et image de la transposée, théorème des extrema liés et point selle du lagrangien.
  2. 2Partie II : entropie et codageDivergence de Kullback-Leibler, codes binaires préfixes, inégalité sur les longueurs de mots et minoration de la longueur moyenne par l'entropie.
  3. 3Partie III : transport régulariséConvexité de l'ensemble des couplages, lois marginales, existence et unicité du minimiseur de la fonctionnelle régularisée.
  4. 4Partie IV : dualitéPoint selle du lagrangien, fonction duale concave et convergence de l'algorithme de Sinkhorn.

Difficulté moyenne. Selon le jury, le sujet ne posait pas de difficultés notables, mais seules les très bonnes copies ont su se ramener en dimension 1 et la dernière partie, aux objets lourds, n'a presque pas été abordée correctement.

L'épreuve en chiffres

Moyenne 10 / 20 · écart-type 3,5 · où vous situez-vous ?
Afficher ou masquer la section
Moyenne
10/ 20
Écart-type
3,5
moyenne 1005101520
Deux tiers des copies environ (moyenne ± écart-type)

Votre note sur 20 à ce sujet, en conditions de concours.

Source : document officiel du concours. Notes publiées par le concours (après harmonisation le cas échéant). Courbe : estimation par une loi normale.

Ce qu'a observé le jury

6 erreurs relevées
Unicité du minimum · Arguments de dimension mal posés · Ne pas se ramener en dimension 1
Afficher ou masquer la section

Les premières parties ont été très largement abordées et les écarts se sont faits sur la précision des arguments. La technique consistant à se ramener en dimension 1 par un segment n'a été maîtrisée que par les très bonnes copies. La lourdeur des notations de la dernière partie a visiblement effrayé les candidats.

Les erreurs les plus sanctionnées

  1. 1
    Unicité du minimumQ1

    L'unicité du point de minimum d'une fonction strictement convexe n'a été correctement démontrée que par la moitié des candidats.

  2. 2
    Arguments de dimension mal posésQ2c

    Pour montrer l'égalité entre le noyau et l'orthogonal de l'image de la transposée, beaucoup ont supposé n = m au lieu de montrer directement l'inclusion réciproque.

  3. 3
    Ne pas se ramener en dimension 1Q3a, Q3d

    La question 3a était très facile en fixant toutes les variables sauf une ou en considérant un segment, mais elle n'a presque pas été abordée. La même idée servait en 3d.

  4. 4
    Détails de rigueur oubliésQ5, Q6

    Le mot vide a rarement été pris en compte en 5b, l'initialisation de la récurrence en 5c demandait de l'attention, et beaucoup oublient d'invoquer 5c pour conclure en 6.

  5. 5
    Calculs inutilesQ7, Q9

    La convexité en 7 et 9 découlait d'arguments directs (intersection avec des hyperplans affines, linéarité), mais beaucoup sont revenus à la définition ou se sont lancés dans des calculs aveugles.

  6. 6
    Notations lourdes de la partie IVQ13 à Q16

    La fin du sujet n'a presque pas été abordée correctement alors que les calculs, comme celui de G(f, g), étaient accessibles.

    « des notations fournies cachent rarement des arguments complexes. »

Ce qui a été bien réussi

  • La première partie de la question 1 a presque toujours été bien traitée.
  • Les questions 3b et 3c ont été plutôt bien traitées.
  • La question 4 a été très bien traitée, et la plupart des candidats ont repéré la coquille entre log et ln.
  • La question de cours 8 a été bien traitée.

Conseils du jury

  • Savoir se ramener en dimension 1 pour une fonction de plusieurs variables, en fixant les autres variables ou en paramétrant un segment.
  • Privilégier les arguments structurels (linéarité, intersection de convexes) aux calculs aveugles.
  • Ne pas hésiter à donner un exemple, même trivial, quand un contre-exemple est demandé.
  • Garder en mémoire les résultats déjà établis dans le sujet, comme en 12b.

Synthèse rédigée par WikiPrépa à partir du rapport officiel du jury (à télécharger en PDF). Les citations sont extraites du rapport.

Ces sujets peuvent vous intéresser

Lecture du sujet en ligne

L'énoncé complet, avec les formules et les figures, sans ouvrir le PDF.
Afficher ou masquer la section

ECOLES NORMALES SUPERIEURES ECOLE POLYTECHNIQUE

CONCOURS D'ADMISSION 2023

LUNDI 17 AVRIL 2023 08h00-12h00 FILIERE PSI

MATHEMATIQUES (XUSR)

Notations et RAPPELS

  • On notera ℝ_+l'ensemble des réels positifs ou nuls et ℝ_+^∗ l'ensemble des réels strictement positifs.
  • On rappelle que si F ⊂ ℝ^n est un fermé borné et f : F → ℝ est continue, alors le minimum de f sur F est atteint, c'est-à-dire qu'il existe x ∈ F tel que f(x) ≤ f(y) pour tout y ∈ F.
  • Soit E un espace vectoriel sur ℝ. On dit que C ⊂ E est un ensemble convexe si pour tous x, y ∈ C et tout t ∈ [0, 1] on a (1 − t)x + ty ∈ C.
Pour C ⊂ E convexe, une fonction f : C → ℝ est dite convexe, si pour tous x, y éléments de C et tout t ∈ [0, 1], on a f((1 − t)x + ty) ≤ (1 − t)f(x) + tf(y). On dit que f est strictement convexe si cette inégalité est stricte pour t ∈ ]0, 1[ et x ≠ y.
  • Soient A et B deux ensembles et f : A × B → ℝ. On dit que f admet un point selle en (a_∗, b_∗) ∈ A × B si pour tout (a, b) ∈ A × B on a
f(a_∗, b) ≤ f(a_∗, b_∗) ≤ f(a, b_∗)
  • Toutes les variables aléatoires seront supposées définies sur un espace probabilisé commun (Ω, F, P).
Les parties I et II sont indépendantes.

I. Convexité et points selles

Soient m et n deux entiers positifs non nuls et E un espace vectoriel sur ℝ.
(1) Soient C ⊂ E un ensemble convexe. Soient f et g deux fonctions convexes de C dans ℝ.
(a) Montrer que f + g est convexe, et strictement convexe s'il l'une des deux fonctions f ou g est strictement convexe.
(b) On suppose f strictement convexe. Vérifier que le minimum de f est atteint sur C en au plus un point de C.
(2) Soit A ∈ M_(m, n)(ℝ) une matrice de m lignes et n colonnes. On note ⟨u, v⟩_(ℝ^n) le produit scalaire entre deux vecteurs u et v de ℝ^n et ⟨μ, ν⟩_(ℝ^m) celui entre deux vecteurs μ et ν de ℝ^m.
(a) Montrer que pour tout (x, ν) ∈ ℝ^n × ℝ^m, on a
⟨Ax, ν⟩_(ℝ^m) = ⟨x, A^⊤ν⟩_(ℝ^n)
où A^⊤ désigne la matrice transposée de A.
(b) En déduire que kerA ⊂ (ImA^⊤)^⊥ où E^⊥ désigne l'orthogonal de E pour le produit scalaire sur ℝ^n pour tout sous-espace vectoriel E de ℝ^n.
(c) Montrer que kerA = (ImA^⊤)^⊥
(3) On considère un ouvert U ⊂ ℝ^n, h : U → ℝ une application C^1 et b ∈ ℝ^m. On suppose qu'il existe x_∗ ∈ U un minimum de h sur l'ensemble V_b = {x ∈ U|Ax + b = 0}.
(a) Montrer que pour tout u ∈ ℝ^n tel que Au = 0 on a ⟨∇h(x_∗), u⟩_(ℝ^n) = 0 où ∇h(x) désigne le gradient de h en x.
(b) Montrer l'existence de ν_∗ ∈ ℝ^m tel que ∇h(x_∗) − A^T ν_∗ = 0.
(c) En déduire que l'application L : U × ℝ^m → ℝ telle que L(x, ν) = h(x) − ⟨ν, Ax + b⟩_(ℝ^m) vérifie (∂L)/(∂x_k)(x_∗, ν_∗) = 0 pour tout 1 ≤ k ≤ n où (∂L)/(∂x_k)(x, ν) désigne la dérivée partielle de L par rapport à la k-ième coordonnées de x ∈ ℝ^n.
(d) Conclure que si U est convexe, et h convexe sur U, alors L admet un point selle en ( x_∗, ν_∗ ), c'est-à-dire que l'on a
L(x_∗, ν) ≤ L(x_∗, ν_∗) ≤ L(x, ν_∗)
pour tout (x, ν) ∈ U × ℝ^m.

II. Entropie et codage

Soient X un ensemble fini et p = (p_x)_(x ∈ X) une loi de probabilité sur X. On suppose que p charge tous les points de X : p_x > 0 pour tout x ∈ X. On appelle entropie de p la quantité
H(p) = − ∑_(x ∈ X)p_x ln(p_x)
On considère l'ensemble Q_x = {q = (q_x)_(x ∈ X) ∈ ℝ^X|∀x ∈ X, q_x ≥ 0}. Pour tous q, q^′ ∈ Q_X tels que q_x^′ > 0 pour tout x ∈ X, on définit :
KL(q, q^′) = ∑_(x ∈ X)φ(q_x/q_x^′)q_x^′
avec φ : ℝ_+ → ℝ définie par φ(x) = xlog(x) − x + 1 pour x > 0 et prolongée en 0 par continuité.
(4) (a) Préciser φ(0).
(b) Vérifier que φ est continue strictement convexe positive et que φ(x) = 0 si et seulement si x = 1.
(c) Montrer que Q_X est convexe et que q ↦ KL(q, q^′) est strictement convexe positive et s'annule ssi q = q^′.
Soit A un ensemble fini. On appelle mot surA une suite finie d'éléments de A, on le note u = u_1…u_n et n est la longueur du mot u, notée |u|. Le mot vide est noté ε, il est de longueur nulle. On note A^∗ l'ensemble des mots sur A et A^+ = A^∗∖{ε} l'ensemble des mots privé du mot vide.
On définit la concaténation u ⋅ v de deux mots u, v ∈ A^∗ par u ⋅ ε = ε ⋅ u = u et u ⋅ v = u_1…u_(|u|)v_1…v_(|v|) si u, v ∈ A^+. On dit que u est un préfixe de v si v = u ⋅ w pour w ∈ A^∗.
Soient X un ensemble fini non vide et c : X → {0, 1}^+une application injective. On dira que c est un code binaire sur X. On suppose de plus que c est un code préfixe, c'est à dire que pour tous x ≠ y dans X, c(x) n'est pas un préfixe de c(y).
(5) On définit c¯ : X → {0, 1}^∗ tel que pour tout x ∈ X, c(x) = c(x)_1 ⋅ c¯(x) où c(x)_1 est le premier élément du mot c(x).
(a) Vérifier que pour tout x ≠ y ∈ X, si c(x)_1 = c(y)_1 alors c¯(x) ≠ c¯(y) et c¯(x) n'est pas un préfixe de c¯(y).
(b) Pour a ∈ {0, 1} on note X_a = {x ∈ X|c(x)_1 = a}. Montrer que si X_a contient au moins deux éléments, alors la restriction de c¯ à X_a est un code préfixe sur X_a.
(c) En déduire que ∑_(x ∈ X^2)2^(− |c(x)|) ≤ 1. (Ind. : On pourra décomposer la somme en une somme sur X_0 et X_1 et raisonner par récurrence sur L(c) = max{|c(x)||x ∈ X} )
Soient q = (2^(− |c(x)|))_(x ∈ X) et X une variable aléatoire à valeurs dans X de loi p.
(6) (a) Vérifier que ln(2)E(|c(X)|) = − ∑_(x ∈ X)p_x ln(q_x).
(b) En déduire que E(|c(X)|) ≥ (H(p))/(ln(2)).
(Ind. : On pourra chercher à exprimer ln(2)E(|c(x)|) en fonction de H(p) et KL(p, q) )

III. Transport régularisé

Dans toute la suite I et J désignent deux ensembles finis.
  • On considère α = (α_i)_(i ∈ I) ∈ (ℝ_+^∗)^I et β = (β_j)_(j ∈ J) ∈ (ℝ_+^∗)^J tels que ∑_(i ∈ I)α_i = ∑_(j ∈ J)β_j = 1 si bien que α et β peuvent être considérés comme définissant deux lois de probabilités sur I et J.
  • Dans la suite on notera
Q = {(q_(ij))_((i, j) ∈ I × J) ∈ ℝ^(I × J)|q_(ij) ≥ 0 pour tout (i, j) ∈ I × J}
et
F(α, β) = {q ∈ Q|∑_(j^′ ∈ J)q_(ij^′) = α_i et ∑_(i^′ ∈ I)q_(i^′ j) = β_j pour tout (i, j) ∈ I × J}
On notera p l'élément de F(α, β) défini par p_(ij) = α_i β_j > 0 pour tout (i, j) ∈ I × J.
(7) Vérifier que F(α, β) est un ensemble convexe de l'espace vectoriel E = ℝ^(I × J)
(8) Soient X_1 et X_2 deux variables aleatoires telles que X_1 est à valeurs dans I et X_2 à valeurs dans J.
(a) Vérifier que si q ∈ F(α, β), alors ∑_(i ∈ I)∑_(j ∈ J)q_(ij) = 1.
(b) On suppose que P(X_1 = i, X_2 = j) = q_(ij) avec q ∈ F(α, β). Calculer la loi de X_1 et celle de X_2 en fonction de α et β.
(c) Que dire de X_1 et X_2 lorsque q = p ?
Soient C = (C_(ij))_((i, j) ∈ I × J) ∈ ℝ_+^(I × J) et ε > 0. On considère J_ε : Q → ℝ définie par
J_ε(q) = ∑_(ij)q_(ij)C_(ij) + εKL(q, p)
où KL(q, p) est défini dans la partie précédente en prenant X = I × J.
(9) Montrer que J_ε est strictement convexe sur Q.
(10) (a) Vérifier que F(α, β) est un fermé borné de ℝ^(I × J).
(b) Montrer qu'il existe un unique q(ε) ∈ Q minimisant J_ε sur F(α, β).
(c) En considérant un contre-exemple simple, montrer que l'unicité n'est plus vraie si on suppose que ε = 0.
(11) (a) Vérifier que q(ε)_(ij) > 0 pour tout (i, j) ∈ I × J (Ind: On pourra raisonner par l'absurde et considérer pour tout t ∈ ]0, 1[q(ε, t) = (1 − t)q(ε) + tp puis observer le comportement de φ(x) au voisinage de x = 0 ).
(b) Montrer que cecin'est plus vrai si on suppose que ε = 0.

IV. Dualité

On définit Q_(> 0) = (ℝ_+^∗)^(I × J) et ℒ : Q_(> 0) × (ℝ^I × ℝ^J) → ℝ défini par
ℒ(q, (f, g)) = J_ε(q) + ∑_(i ∈ I)f_i(α_i − ∑_(j ∈ J)q_(ij)) + ∑_(j ∈ J)g_j(β_j − ∑_(i ∈ I)q_(ij)).
(12) (a) Vérifier que Q_(> 0) est un ouvert convexe ℝ^(I × J).
(b) Montrer qu'il existe (f(ε), g(ε)) ∈ ℝ^I × ℝ^J tel que ℒ(q(ε), (f(ε), g(ε)) est un point selle de ℒ. (Indication : On pourra identifier ℝ^(I × J) avec ℝ^n et ℝ^I × ℝ^J avec ℝ^m pour n cardinal de I × J et m somme des cardinaux de I et J puis utiliser la question 3 de la partie I.)
(13) (a) Montrer que pour tout (f, g) ∈ ℝ^I × ℝ^J, le minimum de q ↦ ℒ(q, (f, g)) sur Q_(> 0) est atteint en q(f, g)_(ij) = e^((f_i + g_j − C_(ij))/ε)p_(ij).
(b) Calculer la valeur de G(f, g) = ℒ(q(f, g), (f, g)).
(c) Vérifier que G est concave sur ℝ^I × ℝ^J.
(14) Vérifier que si f_∗ : ℝ^J → ℝ^I et g_∗ : ℝ^I → ℝ^J sont définies par
f_∗(g)_i = − εlog(∑_(j ∈ J)e^((g_j − C_(ij))/ε)β_j) et g_∗(f)_j = − εlog(∑_(i ∈ I)e^((f_i − C_(ij))/ε)α_i)
alors pour tout (f, g) ∈ ℝ^I × ℝ^J, on a (∂G)/(∂f_i)(f_∗(g), g) = (∂G)/(∂g_j)(f, g_∗(f)) = 0 pour tout (i, j) ∈ I × J.
Soit (f^0, g^0) ∈ ℝ^(I × J). Pour tout k ≥ 0, on considère
g^(k + 1) = g_∗(f^k) et f^(k + 1) = f_∗(g^(k + 1))
(15) Montrer que la suite (G(f^k, g^k))_(k ≥ 0) est croissante.
(16) On suppose qu'il existe f^∞ = (f_i^∞)_(i ∈ I) et g^∞ = (g_j^∞)_(j ∈ J) tel que |f_i^k − f_i^∞| → 0 et |g_j^k − g_j^∞| → 0 pour tous i ∈ I et j ∈ J. On note G_∗ = sup{G(f, g)|(f, g) ∈ I × J}.
(a) Montrer que G(f^∞, g^∞) = G_∗.
(b) Montrer que G(f(ε), g(ε)) = G_∗.
(c) Montrer qu'il existe une constante a ∈ ℝ telle f(ε)_i = f_i^∞ + a et g(ε)_j = g_j^∞ − a pour tout (i, j) ∈ I × J.
(d) En déduire que q(f^k, g^k) → q(ε).

Questions fréquentes

4 questions
Sur quels chapitres porte le sujet X-ENS Maths PSI 2023 ?
Afficher ou masquer la section

Sur quels chapitres porte le sujet X-ENS Maths PSI 2023 ?

Sur les fonctions convexes, le calcul différentiel avec extrema liés, l'algèbre linéaire euclidienne et les probabilités finies, appliqués au transport optimal régularisé et à l'algorithme de Sinkhorn.

Quelle est la moyenne de l'épreuve X-ENS Maths PSI 2023 ?

Selon le rapport, la moyenne a été fixée à 10 avec un écart-type de 3,5. Les quartiles sont 7,6 et 12,6, et dix pour cent des candidats ont plus de 14,5.

Quelles erreurs le jury a-t-il le plus relevées en X-ENS Maths PSI 2023 ?

L'incapacité à se ramener en dimension 1 pour une fonction de plusieurs variables, l'unicité du minimum mal démontrée, l'oubli du mot vide ou d'une question antérieure, et des calculs aveugles à la place d'arguments simples.

Y a-t-il une erreur d'énoncé dans X-ENS Maths PSI 2023 ?

Oui, le jury signale que le log de la partie II aurait dû être un ln. Les candidats ayant utilisé le logarithme décimal n'ont pas été pénalisés et le poids de la question concernée a été réduit.

Pas de description pour le moment