ENS Mathématiques Paris Cachan MP 2003, épreuve PCSujet et corrigé

SESSION 2003

Filière MP

Épreuve commune aux ENS de Paris et Cachan

Durée : 4 heures

L'usage de calculatrices électroniques de poche à alimentation autonome, non imprimantes et sans document d'accompagnement, est autorisé. Cependant, une seule calculatrice à la fois est admise sur la table ou le poste de travail, et aucun échange n'est autorisé entre les candidats.

Le but de ce problème est l'étude mathématique de la notion d'entropie. La partie I est consacrée à des questions préliminaires et les parties suivantes à l'étude des propriétés et des liens entre différentes définitions de l'entropie.

On notera ℝ l'ensemble des nombres réels, et ℝ_+l'ensemble des nombres réels positifs ou nuls.
On dira qu'une fonction f de ℝ dans ℝ est à support compact s'il existe un intervalle fermé borné [a, b] de ℝ tel que f(x) = 0 pour tout x ∉ [a, b].
On aura besoin de considérer la fonction x ↦ xlnx définie pour x > 0, et par continuité, lorsque x = 0, on posera xlnx = 0.
D'autre part, on rappelle la valeur de l'intégrale de Gauss:

Dans cette partie, φ désigne une fonction de classe C^2 définie sur un intervalle I de ℝ et à valeurs réelles. On suppose que la dérivée seconde de φ est positive sur I (on dira alors que φ est convexe).
I-1. A l'aide d'une formule de Taylor, montrer que

I-2. Soit un entier n ⩾ 2, soient x_1, …, x_n dans I et soient a_1, …, a_n dans [0, 1] tels que ∑_(i = 1)^n a_i = 1. En utilisant la question précédente avec x = ∑_(i = 1)^n a_i x_i, montrer que

I-3. Soient f et g deux fonctions continues définies sur un intervalle [a, b] de ℝ et à valeurs réelles. On suppose que: f est positive sur [a, b], ∫_a^b f(x)dx = 1 et g est à valeurs dans I. Montrer que

Pour tout entier n ⩾ 2, on note A_n l'ensemble des p = (p_1, …, p_n) de ℝ^n tels que pour tout i entier entre 1 et n, p_i ⩾ 0 et tels que ∑_(i = 1)^n p_i = 1. On définit alors sur A_n la fonction entropie, notée H_n, par

II-1. Soit un entier k ⩾ 2, et soit p = (p_1, …, p_k) dans A_k tel que pour tout i entre 1 et k, p_i > 0. A l'aide de la convexité de la fonction x ↦ − lnx, montrer que

En déduire que pour tout entier n ⩾ 2, et tout p ∈ A_n, on a: 0 ⩽ H_n(p) ⩽ ln(n).
II-2. Soient p et q dans A_n, et λ ∈ [0, 1]. Vérifier que le vecteur λp + (1 − λ)q appartient aussi à A_n, et montrer (en utilisant la convexité de la fonction x ↦ xlnx ) que

II-3.a. Pour p = (p_1, …, p_n) dans A_n et q = (q_1, …, q_m) dans A_m, on note p.q le vecteur de ℝ^(nm) défini par p.q = (p_1 q_1, …, p_1 q_m, p_2 q_1, …, p_2 q_m, …, p_n q_1, …, p_n q_m). Vérifier que p.q appartient à A_(nm) et que

II-3.b. Soit n ⩾ 3 et p = (p_1, …, p_n) dans A_n tel que p_1 + p_2 > 0. Vérifier que

II-4. Soient p = (p_1, …, p_n) et q = (q_1, …, q_n) deux éléments distincts de A_n. On suppose de plus que pour tout i, q_i > 0, et on définit alors l'entropie relative de p et q par

Soit I l'ensemble des indices i entre 1 et n tels que p_i ⩾ q_i. On pose alors p~ = ∑_(i ∈ I)p_i et q~ = ∑_(i ∈ I)q_i.
II-4.a. Montrer que I est non vide et de cardinal strictement inférieur à n. Puis montrer, à l'aide de la convexité de la fonction x ↦ − lnx, que pour tout sous-ensemble J non vide de {1, …, n}, on a:

En déduire alors que

II-4.b. Montrer que

II-4.c. A l'aide d'une étude de la fonction t ↦ p~lnt + (1 − p~)ln(1 − t), montrer que

II-5. Soit une suite de fonctions J_n : A_n → ℝ_+, définie pour n ⩾ 2, et vérifiant les propriétés suivantes:
(P1) Continuité: la fonction p ↦ J_2(p, 1 − p) est continue sur [0, 1].
(P2) Symétrie: ∀n ⩾ 2, ∀σ permutation de {1, …, n}, et ∀p = (p_1, …, p_n) ∈ A_n,

(P3) Maximalité: ∀n ⩾ 2, ∀p = (p_1, …, p_n) ∈ A_n, J_n(p_1, …, p_n) ⩽ J_n(1/n, …, 1/n).
(P4) Extensibilité: ∀n ⩾ 2, ∀p = (p_1, …, p_n) ∈ A_n, J_(n + 1)(p_1, …, p_n, 0) = J_n(p_1, …, p_n).
(P5) Additivité: ∀n, m ⩾ 2, ∀p ∈ A_n, ∀q ∈ A_m, J_(nm)(p.q) = J_n(p) + J_m(q).
(P6) Récursivité: ∀n ⩾ 3, ∀p = (p_1, …, p_n) ∈ A_n tel que p_1 + p_2 > 0,

II-5.a. On pose pour tout n ⩾ 2, ψ(n) = J_n(1/n, …, 1/n). Montrer que la suite (ψ(n))_(n ⩾ 2) est croissante, et que pour tous les entiers n, m ⩾ 2, on a ψ(nm) = ψ(n) + ψ(m).
II-5.b. On pose dans toute la suite c = ψ(2)/ln2. Montrer tout d'abord que si c = 0 alors ψ(n) = 0 pour tout n ⩾ 2. On suppose maintenant c ≠ 0. Soit un entier n > 2. En encadrant, pour tout entier r non nul, n^r entre des puissances de 2 , montrer que ψ(n) = cln(n).
II-5.c. Montrer par récurrence sur n ⩾ 2 que pour tout (p_1, p_2) ∈ A_2 tel que p_1 > 0 et p_2 > 0, et tous (q_1, …, q_n) et (r_1, …, r_n) dans A_n, on a:

II-5.d. Soient k et n deux entiers tels que 2 ⩽ k ⩽ n − 2, montrer que

Puis en déduire que pour tout p ∈ [0, 1], on a

II-5.e. Montrer par récurrence sur n que pour tout n ⩾ 2, on a J_n = cH_n.

Dans cette partie on notera F l'ensemble des fonctions f de ℝ dans ℝ_+, continues et telles que la fonction x ↦ x^2 f(x) soit bornée sur ℝ, l'intégrale ∫_(− ∞)^(+ ∞)x^2 f(x)dx converge et ∫_(− ∞)^(+ ∞)f(x)dx = 1.
On notera de plus F_0 l'ensemble des fonctions de F qui sont à support compact.
III-1. Pour tout f appartenant à F, on définit l'entropie différentielle de f par:

Montrer que cette intégrale est bien définie.
III-2. Soient μ un réel et σ un réel strictement positif. On définit sur ℝ la fonction g_(μ, σ) par

Montrer que g_(μ, σ) appartient à F, et que

En déduire la valeur de H(g_(μ, σ)).
III-3.a. Soit f ∈ F telle que ∀x ∈ ℝ, f(x) > 0. Pour tout μ réel et tout σ réel strictement positif, on pose

Montrer que cette quantité est bien définie, et montrer de plus, à l'aide de la convexité de la fonction t ↦ − lnt, que K_(μ, σ)(f) ⩾ 0.
III-3.b. En déduire que si on définit les réels m et s par m = ∫_(− ∞)^(+ ∞)xf(x)dx et s = √(∫_(− ∞)^(+ ∞)(x − m)^2 f(x)dx), alors

On reprend dans cette partie les notations des parties précédentes.
IV-1.a. Soit f ∈ F. Pour tout réel r ∈ ]1/2, + ∞[, et r ≠ 1, on définit l'entropie de Renyi d'ordre r de f par

Montrer que cette quantité est bien définie. La fonction f étant fixée, on considère la fonction F définie sur ]1/2, + ∞[ par r ↦ F(r) = ∫_(− ∞)^(+ ∞)f^r(x)dx. Montrer que F est de classe C^1, et calculer F^′(1).

IV-1.b. En déduire que h_r(f) tend vers H(f) lorsque r tend vers 1.
IV-2.a. Soient f et g dans F. On appelle alors produit de convolution de f et de g, que l'on note f∗g, la fonction définie sur ℝ par:

Justifier la convergence de cette intégrale pour tout x réel.
IV-2.b. Montrer que f est uniformément continue sur ℝ. En déduire que f∗g est continue sur ℝ.

IV-3.a. On suppose dans la suite que f et g sont dans F_0. Montrer alors que f∗g appartient aussi à F_0.

IV-3.b. En utilisant la convexité de la fonction t ↦ tlnt, montrer que

IV-4.a. Soient f et g dans F_0. On admet dans la suite le résultat suivant (inégalité de Young forte): pour tous p, q, r réels strictement supérieurs à 1 , tels que 1/r = 1/p + 1/q − 1, alors

où pour tout x > 1, on a posé C(x) = exp(1/xlnx + (x − 1)/xln(x − 1)/x).
Soit r ∈ ]1, + ∞[ et λ ∈ ]0, 1[. On pose p = r/(r + λ(1 − r)) et q = r/(r + (1 − λ)(1 − r)), montrer que

IV-4.b. On fixe λ ∈ ]0, 1[. En faisant tendre r vers 1 dans l'inégalité ci-dessus, montrer que

IV-4.c. Utiliser le résultat de la question précédente avec λ choisi de façon optimale pour en déduire que