\documentclass[10pt]{article}
\usepackage[french]{babel}
\usepackage[utf8]{inputenc}
\usepackage[T1]{fontenc}
\usepackage{amsmath}
\usepackage{amsfonts}
\usepackage{amssymb}
\usepackage[version=4]{mhchem}
\usepackage{stmaryrd}
\usepackage{bbold}

\begin{document}
\section*{ESSEC \\
 M B A}
CONCOURS D'ADMISSION

\section*{Option scientifique}
\section*{MATHEMATIQUES II}
La présentation, la lisibilité, l'orthographe, la qualité de la rédaction, la clarté et la précision des raisonnements entreront pour une part importante dans l'appréciation des copies.\\
Les candidats sont invités à encadrer dans la mesure du possible les résultats de leurs calculs.\\
Ils ne doivent faire usage d'aucun document; l'utilisation de toute calculatrice et de tout matériel électronique est interdite. Seule l'utilisation d'une règle graduée est autorisée.\\
Si au cours de l'épreuve un candidat repère ce qui lui semble une erreur d'énoncé, il le signalera sur sa copie et poursuivra sa composition en expliquant les raisons des initiatives qu'il sera amené à prendre.

Le problème étudie les rudiments de la théorie de la communication introduite en 1948 par Claude Shannon.

\section*{Dans tout le problème, ( \(\Omega, \mathcal{A}, P\) ) désigne un espace probabilisé.}
\section*{Partie I Introduction informatique}
On rappelle que les entiers compris entre 0 et 31 s'écrivent avec au plus 5 chiffres en binaire, on a donc : Pour tout \(n \in[0,31] \cap \mathbb{N}\), il existe une liste ( \(a_{0}, a_{1}, a_{2}, a_{3}, a_{4}\) ) d'éléments de \(\{0,1\}\) telle que \(n=a_{0}+a_{1} \cdot 2+a_{2} \cdot 2^{2}+a_{3} \cdot 2^{3}+a_{4} \cdot 2^{4}={\overline{a_{4} a_{3} a_{2} a_{1} a_{0}}}^{\text {deux }}\).\\
Cette écriture de \(n\) est unique et on appellera bin \((n)\) la liste \(\left(a_{4}, a_{3}, a_{2}, a_{1}, a_{0}\right)\).\\
I.1) Déterminer l'écriture binaire de 6 puis bin(6) et déterminer bin(21) (on justifiera les résultats).\\
I.2) On souhaite écrire une procédure PaSCAL pour obtenir bin( \(n\) ). Compléter la procédure suivante de sorte qu'à l'issue de l'exécution de \(\operatorname{bin}(n)\) on ait un tableau L tel que \(\mathrm{L}[1]\) contienne \(a_{4}, \mathrm{~L}[2]\) contienne \(a_{3}\) etc :

\begin{verbatim}
Type ecriture = array[1..5] of integer
Procedure bin(n : integer ; var L : ecriture)
var i, : integer (*à compléter éventuellement*)
begin
    for \(\mathrm{i}:=1\) to 5 do \(\mathrm{L}[\mathrm{i}]:=0\);
    (* à compléter*)
\(\mathrm{L}=1\) end ;
\end{verbatim}

I.3) On souhaite numéroter les cartes d'un jeu standard de 32 cartes. On propose ci-après la procédure carte (qui utilise la procédure bin précédente).\\
Remarque : string désigne les chaînes de caractères (entre deux apostrophes, on met une suite de caractères quelconques).

\begin{verbatim}
Procedure carte(n :integer)
var
    fam : array[1..4] of string ;
    val : array[1..8] of string;
    famille,valeur : string;
    L : array[1..5] of integer ;
begin
    fam[1] :='trèfle'; fam[2]:= 'carreau'; fam[3]:='coeur', fam[4]:='pique';
    val[1]:='sept'; val[2]:='huit'; val[3]:='neuf'; val[4]:='dix';
    val[5]:='valet'; val[6]:='dame'; val[7]:='roi',val[8]:='as';
    L:=bin(n);
    famille:=fam[2*L[1]+L[2]+1];
    valeur: = val[4*L[3]+2*L[4]+L[5]+1];
    writeln (valeur,' de ',famille,' est la carte numéro ',n);
end ;
\end{verbatim}

Quelle est la carte numéro 6 ? Qui est le numéro 1 ? Quel est le numéro de la dame de cœur ?

\section*{Partie II Position du problème et recherche des fonctions solutions}
On cherche à définir une mesure de l'incertitude d'un événement, c'est-à-dire, définir, pour un événement \(A\) de probabilité non nulle, un nombre réel \(i(A)\), appelé l'incertitude de \(A\) ou entropie de \(A\), en respectant le modèle suivant :\\
(i) Pour l'événement certain \(\Omega\), l'incertitude est nulle : \(i(\Omega)=0\).\\
(ii) Si \(A\) et l'événement contraire \(\bar{A}\) sont équiprobables, alors \(i(A)=1\).\\
(iii) Si \(A\) et \(B\) sont indépendants pour la probabilité \(P\) et si \(P(A \cap B) \neq 0\) alors \(i(A \cap B)=i(A)+i(B)\).\\
(iv) Si \(P(A)=P(B) \neq 0\) alors \(i(A)=i(B)\).

Le dernier axiome (iv) signifie que \(i(A)\) ne dépend que du réel \(p=P(A)\).\\
II.1) Soit \(\varphi\) une fonction définie sur \(] 0,1]\) à valeurs dans \(\mathbb{R}\). Pour un événement \(A\) de probabilité non nulle, on pose \(i_{\varphi}(A)=\varphi(P(A))\).\\
Montrer que si \(\varphi\) vérifie les conditions :

\[
\begin{array}{rcl}
\varphi(1)=0 & \text { et } & \varphi(1 / 2)=1 \\
\text { Pour tout } p \in] 0,1] & \text { et tout } q \in] 0,1] & \varphi(p q)=\varphi(p)+\varphi(q)
\end{array}
\]

alors \(i_{\varphi}\) vérifie (i),(ii),(iii) et (iv).\\
II.2) Existe-t-il des réels \(\alpha\) et \(\beta\) pour lesquels \(\varphi_{\alpha, \beta}: x \mapsto \alpha \ln (x)+\beta\) vérifie (1) et (2)?\\
II.3) Soit \(\varphi:] 0,1] \rightarrow \mathbb{R}\) une fonction continue sur ]0, 1] et vérifiant (1) et (2).\\
a) Montrer, à l'aide d'un changement de variable affine, que pour tout \(p \in] 0,1\) ] :

\[
\frac{1}{p} \int_{p / 2}^{p} \varphi(t) d t=\frac{1}{2} \varphi(p)+\int_{1 / 2}^{1} \varphi(q) d q
\]

b) En déduire que \(\varphi\) est dérivable sur \(] 0,1]\) et, en dérivant \(p \mapsto p \varphi(p)\), démontrer que :

\[
\forall p \in] 0,1], \quad-\frac{1}{2}=\frac{1}{2} p \varphi^{\prime}(p)+\int_{1 / 2}^{1} \varphi(q) d q
\]

c) En déduire qu'il existe alors ( \(\alpha, \beta\) ) tel que \(\varphi=\varphi_{\alpha, \beta}\) (on pourra considérer l'expression de \(\varphi^{\prime}(p)\) en fonction de \(p\) ).\\
II.4) Que peut-on conclure de cette étude?

Partie III Incertitude des événements\\
Dans toute la suite du problème, on notera \(\varphi\) la fonction définie sur \(] 0,1]\) par \(x \mapsto \varphi(x)=-\frac{\ln (x)}{\ln (2)}\).\\
Pour un événement \(A\) de probabilité non nulle, on pose \(i(A)=\varphi(P(A))\).\\
III.1) On choisit une carte au hasard dans un jeu de 32 cartes.

Soit \(A\) l'événement « la carte tirée est la dame de cœur ». Que valent \(P(A)\) et \(i(A)\) ?\\
III.2) Soit \(n \in \mathbb{N}^{\times}\)et \(E\) l'ensemble des entiers s'écrivant avec au plus \(n\) chiffres en binaire. On choisit un élément de \(E\) au hasard et \(A\) est l'événement « le nombre obtenu est 0 » .\\
Quel est le cardinal de \(E\) ? Que valent \(P(A)\) et \(i(A)\) ?\\
III.3) Soit \(A\) et \(B\) deux événements tels que \(A \subset B\) et \(P(A) \neq 0\). Comparer \(i(A)\) et \(i(B)\).\\
III.4) Que vaut \(\lim _{x \rightarrow 0^{+}} \varphi(x)\) et quelle interprétation peut-on donner de ce résultat?

Partie IV Incertitude d'une variable aléatoire discrète\\
Dans toute la suite du problème, on considère la fonction \(h\) définie sur [ 0,1 ] par

\[
h(0)=0 \quad \text { et pour } x \in] 0,1], \quad h(x)=-x \frac{\ln (x)}{\ln (2)}
\]

Pour une variable aléatoire réelle \(X\) discrète définie sur ( \(\Omega, \mathcal{A}, P\) ), on pose sous réserve d'existence :

\[
H(X)=\sum_{x \in X(\Omega)} h(P(X=x))
\]

\(H(X)\) est l'incertitude moyenne - ou entropie - de \(X\).\\
Si \(X\) est à valeurs dans un ensemble fini \(\left\{x_{1}, x_{2}, \ldots, x_{n}\right\}, H(X)\) existe et, en notant \(p_{k}=P\left(X=x_{k}\right)\), on a:

\[
H(X)=\sum_{k=1}^{n} h\left(P\left(X=x_{k}\right)\right)=\sum_{k=1}^{n} h\left(p_{k}\right)
\]

IV.1) Soit \(n \in \mathbb{N}^{\times}\). Si \(U_{n}\) suit la loi uniforme sur \(\{1,2, \ldots, n\}\), que vaut \(H\left(U_{n}\right)\) ?\\
IV.2) Si on suppose \(P(Y=1)=1 / 4, P(Y=2)=1 / 4\) et \(P(Y=3)=1 / 2\), que vaut \(H(Y)\) ?

Classer par ordre croissant \(H\left(U_{2}\right), H\left(U_{3}\right)\) et \(H(Y)\).\\
IV.3) Vérifier que \(h\) est continue et positive sur [ 0,1 ].

Est-elle dérivable en 0 ? Étudier \(h\) et dessiner sa courbe représentative .\\
IV.4) Soit \(X\) une variable aléatoire à valeurs dans un ensemble fini.

Montrer que \(H(X) \geqslant 0\) avec égalité si, et seulement si, \(X\) est quasi-certaine.\\
IV.5) Pour \(x \in[0,1]\), on pose \(h_{2}(x)=h(x)+h(1-x)\).\\
a) Pour \(x \in[0,1]\), on a clairement \(h_{2}(x)=h_{2}(1-x)\). Que signifie ce résultat quant à la courbe de \(h_{2}\) dans un repère orthonormé?\\
b) Étudier \(h_{2}\) et donner son graphe.\\
c) Soit \(X\) une variable aléatoire suivant une loi de Bernoulli de paramètre \(p \in] 0,1[\).

Montrer que \(H(X) \leqslant 1\) avec égalité si, et seulement si, \(p=1 / 2\).\\
IV.6) Soit \(X_{1}\) et \(X_{2}\) deux variables de Bernoulli indépendantes de paramètres respectifs \(p_{1}\) et \(p_{2}\).

Soit \(Z\) la variable de Bernoulli telle que \(P(Z=1)=P\left(\ll X_{1}+X_{2}\right.\) est impair » ).\\
Donner la loi et l'espérance de \(Z\). En notant \(p=P(Z=1)\), contrôler \((1-2 p)=\left(1-2 p_{1}\right)\left(1-2 p_{2}\right)\).\\
IV.7) Soit \(\left.n \in \mathbb{N}^{\times}, p \in\right] 0,1[\) et \(X\) une variable aléatoire suivant une loi binomiale de paramètres \(n\) et \(p\).

Soit \(Z_{n}\) la variable de Bernoulli telle que \(P\left(Z_{n}=1\right)=P(\) « \(X\) est impair » ).\\
Montrer que \(1-2 P\left(Z_{n}=1\right)=(1-2 p)^{n}\) (on pourra raisonner par récurrence).\\
Montrer que \(H\left(Z_{n}\right) \leqslant 1\). Dans quel(s) cas a-t-on égalité?

\section*{Partie V Maximalité de l'entropie}
V.1) Soit \(n \in \mathbb{N} \backslash\{0,1\}\).\\
a) Soit \(\mathcal{O}\) l'ensemble des \(\left.\left(p_{1}, p_{2}, \ldots, p_{n-1}\right) \in\right] 0,1\left[{ }^{n-1}\right.\) vérifiant \(1-p_{1}-p_{2}-\ldots-p_{n-1}>0\). On admettra que \(\mathcal{O}\) est un ouvert.\\
Pour \(\left(p_{1}, p_{2}, \ldots, p_{n-1}\right) \in \mathcal{O}\), on pose \(h_{n}\left(p_{1}, p_{2}, \ldots, p_{n-1}\right)=\sum_{k=1}^{n-1} h\left(p_{k}\right)+h\left(1-p_{1}-p_{2}-\ldots-p_{n-1}\right)\).\\
Montrer que \(h_{n}\) admet au plus un extremum sur \(\mathcal{O}\).\\
b) On rappelle que si une fonction \(f\) est convexe sur un intervalle \(I\), alors on a :

\[
\text { pour tout }\left(t_{1}, t_{2}, \ldots, t_{n}\right) \in I^{n}, \quad f\left(\frac{1}{n} \sum_{k=1}^{n} t_{k}\right) \leqslant \frac{1}{n} \sum_{k=1}^{n} f\left(t_{k}\right)
\]

Vérifier que \(-h\) est convexe sur \(] 0,1\) ] et en déduire :\\
si \(\left.\left.\left(p_{1}, p_{2}, \ldots, p_{n}\right) \in\right] 0,1\right]^{n}\) et \(p_{1}+p_{2}+\ldots+p_{n}=1 \quad\) alors \(\quad \sum_{k=1}^{n} h\left(p_{k}\right) \leqslant \frac{\ln (n)}{\ln (2)}\).\\
c) Soit \(X\) une variable aléatoire telle que \(X(\Omega)=\left\{x_{1}, x_{2}, \ldots, x_{n}\right\}\). Montrer que:\\
\(H(X) \leqslant \ln (n) / \ln (2)\) avec égalité si, et seulement si, \(X\) suit la loi uniforme sur \(\left\{x_{1}, x_{2}, \ldots, x_{n}\right\}\)\\
V.2) Soit \(p \in] 0,1[\) et \(G\) une variable aléatoire suivant une loi géométrique de paramètre \(p\).

On pose \(m=E(G)\) et pour \(k \in \mathbb{N}^{\times}, p_{k}=P(G=k)\).\\
a) Rappeler la valeur de \(m\), montrer que \(H(G)\) existe et la calculer.\\
b) Soit \(X\) une variable aléatoire telle que \(X(\Omega)=\mathbb{N}^{\times}, E(X)=m\) et \(H(X)\) existe.

Pour \(k \in \mathbb{N}^{\times}\), on pose \(q_{k}=P(X=k)\) et on supposera \(q_{k}>0\).\\
En justifiant rapidement que pour tout \(x>0, \quad \ln (x) \leqslant x-1\)\\
vérifier que pour tout \(k \in \mathbb{N}^{\times}\), on a \(: \ln \left(p_{k}\right)-\ln \left(q_{k}\right) \leqslant \frac{p_{k}}{q_{k}}-1\)\\
et établir : \(H(X) \leqslant H(G)\) avec égalité si, et seulement si, \(X\) suit la même loi que \(G\).

\section*{Partie VI Incertitude d'une variable aléatoire continue}
Pour une variable aléatoire \(X\) admettant une densité \(f\) continue sur \(\mathbb{R}\) éventuellement privé d'un nombre fini de points, on dit que \(X\) admet une incertitude quand l'intégrale \(\int_{-\infty}^{+\infty} h(f(x)) d x\) converge. Dans ce cas, la valeur de l'intégrale \(H(X)=\int_{-\infty}^{+\infty} h(f(x)) d x\) est appelée incertitude de \(X\).\\
VI.1) Cas des lois normales\\
a) Soit \(Y_{0}\) une variable aléatoire suivant une loi normale centrée réduite.

Montrer que \(H\left(Y_{0}\right)\) existe et calculer \(H\left(Y_{0}\right)\).\\
b) Soit \(Y\) une variable aléatoire suivant une loi normale de moyenne \(m\) et d'écart type \(\sigma>0\).

Montrer que \(H(Y)\) existe et calculer \(H(Y)\).\\
VI.2) Soit \(\lambda>0\) et \(X_{0}\) une variable aléatoire suivant une loi exponentielle de paramètre \(\lambda\). On désignera par \(f_{0}\) la densité de \(X_{0}\).\\
a) Montrer que \(H\left(X_{0}\right)\) existe et calculer \(H\left(X_{0}\right)\) en fonction de \(\lambda\).\\
b) Soit \(X\) une variable aléatoire à valeurs dans \(\mathbb{R}_{+}^{\times}\), admettant une densité \(f\). On suppose que \(H(X)\) existe et que \(X\) admet une espérance égale à \(\frac{1}{\lambda}\).\\
Montrer que :

\[
H\left(X_{0}\right)=-\frac{1}{\ln (2)} \int_{0}^{+\infty} f(x) \ln \left(f_{0}(x)\right) d x
\]

En utilisant (3) montrer que \(H(X) \leqslant H\left(X_{0}\right)\).


\end{document}