\documentclass[10pt]{article}
\usepackage[french]{babel}
\usepackage[utf8]{inputenc}
\usepackage[T1]{fontenc}
\usepackage{amsmath}
\usepackage{amsfonts}
\usepackage{amssymb}
\usepackage[version=4]{mhchem}
\usepackage{stmaryrd}
\usepackage{bbold}

\title{BANQUE COMMUNE D'EPREUVES \\
 CONCOURS D'ADMISSION DE 2012 }

\author{Conception : H.E.C.}
\date{}


\begin{document}
\maketitle


\section*{OPTION SCIENTIFIQUE}
\section*{MATHEMATIQUES}
Mercredi 2 mai 2012, de 8 h. à 12 h.

La présentation, la lisibilité, l'orthographe, la qualité de la rédaction, la clarté et la précision des raisonnements entreront pour une part importante dans l'appréciation des copies.\\
Les candidats sont invités à encadrer dans la mesure du possible les résultats de leurs calculs.\\
Ils ne doivent faire usage d'aucun document : l'utilisation de toute calculatrice et de tout matériel électronique est interdite. Seule l'utilisation d'une règle graduée est autorisée.\\
Si au cours de l'épreuve, un candidat repère ce qui lui semble être une erreur d'énoncé, il la signalera sur sa copie et poursuivra sa composition en expliquant les raisons des initiatives qu'il sera amené à prendre

Le problème a pour objet la mise en évidence de quelques propriétés de l'entropie de variables aléatoires discrètes ou à densité. La partie IV utilise dans un exemple, certaines des propriétés établies dans le problème.

On suppose que toutes les variables aléatoires introduites dans le problème sont définies sur un même espace probabilisé ( \(\Omega, \mathcal{A}, P\) ). La notation exp désigne la fonction exponentielle.

\section*{Partie I. Quelques inégalités de concavité}
\begin{enumerate}
  \item Soit \(h\) la fonction de \(] 0,1\) [ dans \(\mathbb{R}\) définie par : \(h(x)=-x \ln x-(1-x) \ln (1-x)\).\\
a) Montrer que la fonction \(h\) est positive et concave sur \(] 0,1[\).\\
b) Montrer que \(h\) est prolongeable en une fonction continue sur le segment \([0,1]\). Ce prolongement est-il de classe \(C^{1}\) sur \([0,1]\) ?\\
c) Tracer la courbe représentative de \(h\) dans le plan rapporté à un repère orthonormé.
  \item Justifier pour tout réel \(u>0\), l'inégalité : \(\ln u \leqslant u-1\). Pour quelles valeurs de \(u\) a-t-on \(: \ln u=u-1\) ?
  \item Soit \(d\) la fonction de (] \(0,1[)^{2}\) dans \(\mathbb{R}\) définie par : \(d(x, y)=x \ln \left(\frac{y}{x}\right)+(1-x) \ln \left(\frac{1-y}{1-x}\right)\).
\end{enumerate}

Montrer que \(d(x, y) \leqslant 0\) et préciser les couples \((x, y)\) de \(\left(\left[0,1[)^{2}\right.\right.\) pour lesquels \(d(x, y)=0\).\\
4. On considère trois fonctions \(\ell, r\) et \(f\) vérifiant les hypothèses suivantes:

\begin{itemize}
  \item \(\ell\) est définie et de classe \(C^{1}\) sur \(\mathbb{R}\), à valeurs réelles et concave sur \(\mathbb{R}\) (on note \(\ell^{\prime}\) la fonction dérivée de \(\ell\) );
  \item \(r\) est définie et continue sur \(\mathbb{R}\), à valeurs réelles;
  \item \(f\) est définie et continue sur \(\mathbb{R}\), à valeurs positives ou nulles, et \(\int_{-\infty}^{+\infty} f(x) \mathrm{d} x=1\);
  \item les intégrales \(\int_{-\infty}^{+\infty} r(x) f(x) \mathrm{d} x\) et \(\int_{-\infty}^{+\infty} \ell(r(x)) f(x) \mathrm{d} x\) sont convergentes.\\
a) Établir pour tout couple \((x, y)\) de \(\mathbb{R}^{2}\), l'inégalité : \(\ell(x)-\ell(y) \leqslant \ell^{\prime}(y)(x-y)\).\\
b) Montrer pour tout réel \(y\), l'inégalité : \(\int_{-\infty}^{+\infty} \ell(r(x)) f(x) \mathrm{d} x \leqslant \ell(y)+\ell^{\prime}(y)\left(\int_{-\infty}^{+\infty} r(x) f(x) \mathrm{d} x-y\right)\).\\
c) En déduire l'inégalité : \(\int_{-\infty}^{+\infty} \ell(r(x)) f(x) \mathrm{d} x \leqslant \ell\left(\int_{-\infty}^{+\infty} r(x) f(x) \mathrm{d} x\right)\).
\end{itemize}

\begin{enumerate}
  \setcounter{enumi}{4}
  \item Soit \(\left(x_{n}\right)_{n \in \mathbb{N}^{*}}\) une suite réelle et \(\left(p_{n}\right)_{n \in \mathbb{N}^{*}}\) une suite de réels positifs ou nuls vérifiant \(\sum_{n=1}^{+\infty} p_{n}=1\), telles que les séries \(\sum_{n \geqslant 1} r\left(x_{n}\right) p_{n}\) et \(\sum_{n \geqslant 1} \ell\left(r\left(x_{n}\right)\right) p_{n}\) soient convergentes.\\
Établir l'inégalité : \(\sum_{n=1}^{+\infty} \ell\left(r\left(x_{n}\right)\right) p_{n} \leqslant \ell\left(\sum_{n=1}^{+\infty} r\left(x_{n}\right) p_{n}\right)\).
\end{enumerate}

\section*{Partie II. Entropie dans le cas continu}
On note \(\mathcal{F}\) l'ensemble des fonctions \(f\) définies et continues sur \(\mathbb{R}\), à valeurs strictement positives, vérifiant \(\int_{-\infty}^{+\infty} f(x) \mathrm{d} x=1\) et telles que l'intégrale \(\int_{-\infty}^{+\infty} f(x) \ln (f(x)) \mathrm{d} x\) soit convergente.\\
Pour toute variable aléatoire \(X\) ayant pour densité un élément \(f\) de \(\mathcal{F}\), on définit l'entropie \(H(X)\) de \(X\) par :

\[
H(X)=-\int_{-\infty}^{+\infty} f(x) \ln (f(x)) \mathrm{d} x
\]

\begin{enumerate}
  \setcounter{enumi}{5}
  \item On note \(Z\) une variable aléatoire qui suit la loi normale centrée réduite et \(\varphi\) sa densité continue.\\
a) Justifier l'existence de l'entropie \(H(Z)\) de \(Z\) et la calculer.\\
b) Soit \((a, b) \in \mathbb{R}_{+}^{*} \times \mathbb{R}\) et \(X\) une variable aléatoire qui admet pour densité un élément \(f\) de \(\mathcal{F}\). Montrer que la variable aléatoire \(Y=a X+b\) admet une densité appartenant à \(\mathcal{F}\) et que \(H(Y)=H(X)+\ln a\).\\
c) En déduire l'entropie d'une variable aléatoire suivant la loi normale d'espérance \(\mu\) et d'écart-type \(\sigma>0\).
  \item Dans cette question, on considère les couples \((f, g)\) de \(\mathcal{F}^{2}\) pour lesquels l'intégrale \(\int_{-\infty}^{+\infty} f(x) \ln \left(\frac{g(x)}{f(x)}\right) \mathrm{d} x\) est convergente. On pose alors : \(D(f, g)=-\int_{-\infty}^{+\infty} f(x) \ln \left(\frac{g(x)}{f(x)}\right) \mathrm{d} x\).\\
a) Montrer que \(D(f, g) \geqslant 0\).\\
b) On suppose que \(D(f, g)=0\). Établir l'égalité : \(\int_{-\infty}^{+\infty}\left(\ln \left(\frac{g(x)}{f(x)}\right)+1-\frac{g(x)}{f(x)}\right) f(x) \mathrm{d} x=0\).
\end{enumerate}

En déduire que \(f=g\).

\section*{Partie III. Entropie dans le cas discret}
\begin{enumerate}
  \setcounter{enumi}{7}
  \item Dans cette question, \(N\) désigne un entier supérieur ou égal à 2 .
\end{enumerate}

Soit \(X\) une variable aléatoire à valeurs dans \(\llbracket 1, N \rrbracket\). On pose pour tout \(k\) de \(\llbracket 1, N \rrbracket: p_{k}=P([X=k])\).\\
L'entropie \(H(X)\) de \(X\) est définie par : \(H(X)=-\sum_{k=1}^{N} p_{k} \ln \left(p_{k}\right)\).\\
S'il existe un entier \(k\) de \(\llbracket 1, N \rrbracket\) tel que \(p_{k}=0\), on pose par convention : \(p_{k} \ln \left(p_{k}\right)=0\).\\
On note \(h_{N}\) la fonction de \(\left(\left[0,1[)^{N}\right.\right.\) dans \(\mathbb{R}\) définie par : \(h_{N}(x)=h_{N}\left(x_{1}, \ldots, x_{N}\right)=-\sum_{k=1}^{N} x_{k} \ln \left(x_{k}\right)\).\\
a) Calculer en tout point \(x\) de (] \(0,1[)^{N}\), le gradient \(\nabla h_{N}(x)\) et la matrice hessienne \(\nabla^{2} h_{N}(x)\) de \(h_{N}\).\\
b) Montrer que pour l'optimisation de \(h_{N}\) sous la contrainte \(\sum_{k=1}^{N} x_{k}=1\), il existe un unique point critique \(x^{*}\) que l'on précisera.\\
c) En utilisant la question 5 ou l'égalité de Taylor-Lagrange à l'ordre 1 , montrer que \(h_{N}\) admet en \(x^{*}\) un maximum global sous la contrainte \(\sum_{k=1}^{N} x_{k}=1\).\\
d) Parmi les variables aléatoires à valeurs dans \(\llbracket 1, N \rrbracket\), quelle est la loi de celles qui ont la plus grande entropie ?

On note \(\mathcal{S}\) l'ensemble des suites réelles strictement positives \(\left(p_{n}\right)_{n \in \mathbb{N}^{*}}\) telles que \(\sum_{n=1}^{+\infty} p_{n}=1\).\\
Soit \(X\) une variable aléatoire à valeurs dans \(\mathbb{N}^{*}\) vérifiant pour tout \(n\) de \(\mathbb{N}^{*}, P([X=n])=p_{n}\) avec \(\left(p_{n}\right)_{n \in \mathbb{N}^{*}} \in \mathcal{S}\). On appelle entropie de \(X\), le réel \(H(X)\) défini sous réserve de convergence de la série \(\sum_{n \geqslant 1} p_{n}\left|\ln \left(p_{n}\right)\right|\), par :

\[
H(X)=\sum_{n=1}^{+\infty} p_{n}\left|\ln \left(p_{n}\right)\right|
\]

\begin{enumerate}
  \setcounter{enumi}{8}
  \item Soit \(\left(p_{n}\right)_{n \in \mathbb{N}^{*}}\) une suite de \(\mathcal{S}\) telle que la série \(\sum_{n \geqslant 1} n p_{n}\) est convergente.\\
a) Justifier l'existence d'un entier \(n_{0}\) tel que, pour tout entier \(n \geqslant n_{0}\), on a : \(\sqrt{p_{n}}\left|\ln \left(p_{n}\right)\right| \leqslant 1\).\\
b) Établir pour tout \(n \geqslant n_{0}\) tel que \(p_{n} \leqslant \frac{1}{n^{3}}\), l'inégalité : \(p_{n}\left|\ln \left(p_{n}\right)\right| \leqslant \frac{1}{n^{3 / 2}}\).\\
c) En déduire que pour tout \(n \geqslant n_{0}\), on a : \(p_{n}\left|\ln \left(p_{n}\right)\right| \leqslant \max \left\{\frac{1}{n^{3 / 2}}, 3 p_{n} \ln n\right\}\).\\
d) Montrer que la série \(\sum_{n \geqslant 1} p_{n}\left|\ln \left(p_{n}\right)\right|\) est convergente.
\end{enumerate}

Que peut-on en conclure sur l'entropie d'une variable aléatoire à valeurs dans \(\mathbb{N}^{*}\) possédant une espérance?\\
10. Soit \(\theta\) un réel de \(] 0,1\left[\right.\) et \(\left(p_{n}\right)_{n \in \mathbb{N}^{*}}\) la suite de \(\mathcal{S}\) définie par : pour tout \(n\) de \(\mathbb{N}^{*}, p_{n}=\theta(1-\theta)^{n-1}\).

Soit \(X\) une variable aléatoire à valeurs dans \(\mathbb{N}^{*}\) qui vérifie pour tout \(n\) de \(\mathbb{N}^{*}, P([X=n])=p_{n}\).\\
a) Reconnaître la loi de \(X\); préciser son espérance, puis calculer son entropie.\\
b) Écrire une fonction Pascal d'en-tête function X (theta :real) : integer; permettant de simuler \(X\).\\
c) Soit \(Y\) une variable aléatoire à valeurs dans \(\mathbb{N}^{*}\) ayant une espérance égale à celle de \(X\). Pour tout \(n\) de \(\mathbb{N}^{*}\), on pose : \(q_{n}=P([Y=n])\). On suppose que \(\left(q_{n}\right)_{n \in \mathbb{N}^{*}} \in \mathcal{S}\) et que la série \(\sum_{n \geqslant 1} q_{n} \ln \left(\frac{p_{n}}{q_{n}}\right)\) est convergente. Établir l'égalité : \(H(Y)-H(X)=\sum_{n=1}^{+\infty} q_{n} \ln \left(\frac{p_{n}}{q_{n}}\right)\).\\
d) Déterminer le signe de \(H(Y)-H(X)\). Conclusion.

\section*{Partie IV. Entropie et taux de rendement asymptotique}
\begin{enumerate}
  \setcounter{enumi}{10}
  \item Soit \(\left(X_{n}\right)_{n \in \mathbb{N}^{*}}\) une suite de variables aléatoires à valeurs réelles, définies sur ( \(\Omega, \mathcal{A}, P\) ), qui converge en probabilité vers une variable aléatoire \(X\).\\
a) Montrer que pour tout \(n\) de \(\mathbb{N}^{*}\), l'application \(Z_{n}\) définie sur \(\Omega\) par \(Z_{n}: \omega \longmapsto \exp \left(X_{n}(\omega)\right)\) est une variable aléatoire. De même, on note \(Z\) la variable aléatoire \(Z: \omega \longmapsto \exp (X(\omega))\).\\
Soit \(\varepsilon\) et \(\alpha\) deux réels strictement positifs.\\
b) Justifier l'existence d'un réel \(s\) tel que \(P([|X| \geqslant s])<\alpha\).\\
c) Soit \(K_{1}, K_{2}\) et \(K_{3}\) trois éléments de \(\mathcal{A}\). Montrer que \(P\left(K_{1} \cup K_{2} \cup K_{3}\right) \leqslant P\left(K_{1}\right)+P\left(K_{2}\right)+P\left(K_{3}\right)\); en déduire l'inégalité : \(P\left(\left[\left|Z_{n}-Z\right| \geqslant \varepsilon\right]\right) \leqslant P([|X| \geqslant s])+P\left(\left[\left|X_{n}-X\right| \geqslant 1\right]\right)+P\left(\left[\left|X_{n}-X\right| \geqslant \varepsilon \exp (-1-s)\right]\right)\).\\
d) Conclure.
\end{enumerate}

On considère une succession de courses hippiques entre \(N\) chevaux participants \((N \geqslant 2)\) numérotés \(1,2, \ldots, N\). Pour tout \(n\) de \(\mathbb{N}^{*}\), on note \(G_{n}\) la variable aléatoire égale au numéro du cheval gagnant de la \(n\)-ième course.

On suppose que les variables aléatoires \(G_{1}, G_{2}, \ldots, G_{n}, \ldots\) à valeurs dans \(\llbracket 1, N \rrbracket\), sont définies sur ( \(\Omega, \mathcal{A}, P\) ), mutuellement indépendantes et de même loi. On suppose qu'il n'y a qu'un seul gagnant par course.\\
On pose pour tout \(k\) de \(\llbracket 1, N \rrbracket\) et pour tout \(n\) de \(\mathbb{N}^{*}: p_{k}=P\left(\left[G_{n}=k\right]\right)\), avec \(0<p_{k}<1\).\\
Pour tout \(k\) de \(\llbracket 1, N \rrbracket\), on note \(c_{k}\left(c_{k}>1\right)\) la cote du cheval \(k\); ainsi, un parieur qui a misé un montant \(m_{k}\) sur le cheval \(k\) perdra sa mise quelle que soit l'issue de la course, mais recevra la somme \(m_{k} c_{k}\) si le cheval \(k\) est gagnant. On suppose que les cotes \(c_{1}, c_{2}, \ldots, c_{N}\) sont fixes au cours du temps.\\
À l'occasion de la première course, un parieur dispose d'une somme monétaire \(r_{0}>0\) qu'il souhaite répartir en totalité entre les \(N\) chevaux dans les proportions respectives \(f_{1}, f_{2}, \ldots, f_{N}\), où pour tout \(k\) de \(\llbracket 1, N \rrbracket, 0<f_{k}<1\). À l'issue de cette première course, le parieur dispose d'une somme monétaire \(R_{1}=r_{0} M_{1}\) avec \(M_{1}>0\).\\
À l'occasion de la deuxième course, ce parieur réinvestit en totalité la somme \(R_{1}\) entre les \(N\) chevaux dans les mêmes proportions \(f_{1}, f_{2}, \ldots, f_{N}\). À l'issue de cette deuxième course, le parieur dispose d'une somme monétaire \(R_{2}=R_{1} M_{2}\) avec \(M_{2}>0\), et ainsi de suite...\\
La richesse monétaire \(R_{n}\) acquise au terme de \(n\) courses est donc : \(R_{n}=r_{0} \prod_{i=1}^{n} M_{i}\).\\
On définit pour tout \(n\) de \(\mathbb{N}^{*}\), le taux de rendement moyen des paris par : \(T_{n}=\left(\frac{R_{n}}{r_{0}}\right)^{1 / n}-1\).\\
12. a) Justifier que \(\left(M_{n}\right)_{n \in \mathbb{N}^{*}}\) est une suite de variables aléatoires indépendantes, à valeurs strictement positives et de même loi.\\
b) On suppose que la variable aléatoire \(\ln \left(M_{1}\right)\) admet une espérance \(E\left(\ln \left(M_{1}\right)\right)\) et une variance \(V\left(\ln \left(M_{1}\right)\right)\). Montrer que la suite de variables aléatoires \(\left(T_{n}\right)_{n \in \mathbb{N}^{*}}\) converge en probabilité vers une variable certaine \(\tau\) que l'on exprimera en fonction de \(E\left(\ln \left(M_{1}\right)\right)\). Le réel \(\tau\) est le taux de rendement asymptotique des paris.\\
13. La stratégie du parieur consiste à choisir les proportions \(f_{1}, f_{2}, \ldots, f_{N}\) qui maximiseraient \(\tau\).

On rappelle que les proportions \(f_{1}, f_{2}, \ldots, f_{N}\) sont constantes au cours du temps.\\
a) Montrer que : \(\tau=\exp \left(\sum_{k=1}^{N} p_{k} \ln \left(f_{k} c_{k}\right)\right)-1\).\\
b) En déduire la stratégie optimale du parieur et la valeur optimale de \(\tau\) associée à ses paris.\\
c) On suppose dans cette question que \(\sum_{k=1}^{N} \frac{1}{c_{k}}=1\). Montrer que \(\sum_{k=1}^{N} p_{k} \ln \left(p_{k} c_{k}\right) \geqslant 0\).

Dans quel cas le parieur ne dispose-t-il d'aucune stratégie lui permettant de s'assurer un taux de rendement asymptotique optimal strictement positif?


\end{document}