• (a)

  Puisque la fonction $g$ est de classe ${𝒞}^1$ sur $ℝ$, on peut écrire

  $$g(x)=g(y)+{\int }_y^x{g}^{\prime }(t)dt\text{.}$$

  Par le changement de variable $t=y+u(x-y)$, on obtient

  $$g(x)=g(y)+(x-y){\int }_0^1{g}^{\prime }(y+u(x-y))du\text{.}$$

  Ainsi,

  $$f(x,y)={\int }_0^1{g}^{\prime }(y+u(x-y))du$$

  Cette relation vaut pour $x\ne y$ et aussi pour $x=y$.

• (b)

  Soit $y\in ℝ$ fixé.

  L’application $\phi :(x,u)\mapsto g^{\prime }(y+u(x-y))$ admet une dérivée partielle

  $$\frac{\partial \phi }{\partial x}(x,u)=u{g}^{\prime \prime }(y+u(x-y))\text{.}$$

  Cette dérivée partielle est continue en $x$ et continue par morceaux en $u$.

  Pour $[a;b]\subset ℝ$ assez grand pour que $y$ en soit élément, on a

  $$\forall x\in [a;b],\forall u\in [0;1],y+u(x-y)\in [x;y]\subset [a;b]\text{.}$$

  La fonction $g^{\prime \prime }$ est continue donc bornée par un certain $M\in {ℝ}_{+}$ sur le segment $[a;b]$. On a alors

  $$\forall (x,u)\in [a;b]\times [0;1],\left|\frac{\partial \phi }{\partial x}(x,u)\right|\le M=\psi (u)\text{.}$$

  La fonction $\psi$ est évidemment intégrable sur $[0;1]$ et donc, par domination sur tout segment, on peut affirmer que l’application $x\mapsto {\int }_0^1\phi (x,u)du$ est de classe ${𝒞}^1$ et

  $$\frac{\mathrm{d}}{\mathrm{d}x}\left({\int }_0^1\phi (x,u)du\right)={\int }_0^1\frac{\partial \phi }{\partial x}(x,u)du\text{.}$$

  Ainsi, $f$ admet une dérivée partielle

  $$\frac{\partial f}{\partial x}(x,y)={\int }_0^{1}u{g}^{\prime \prime }(y+u(x-y))du\text{.}$$

  De plus, la fonction $(x,y,u)\mapsto u{g}^{\prime \prime }(y+u(x-y))$ est continue sur ${ℝ}^2\times [0;1]$ et par une domination sur $[a;b]\times [a;b]$, on obtient la continuité sur ${ℝ}^2$ de l’application $\frac{\partial f}{\partial x}$.

  De même, on montre que la deuxième dérivée partielle de $f$ existe et est continue.

• (a)

  Cas: $|x|<1$.

  $$\left|u_n(x,y)\right|=\mathrm{o}(x^n)$$

  donc la série $\sum u_n(x,y)$ est absolument convergente.

  Cas: $|x|>1$. Si la série $\sum u_n(x,y)$ converge alors $u_n(x,y)\underset{n\to +\mathrm{\infty }}{\overset{}{\to }}0$ donc

  $$\cos (ny)=u_n(x,y)\frac{\sqrt{n}}{x^n}\to 0$$

  par croissance comparée.
  Mais alors

  $$\cos (2ny)=2{\cos }^2(ny)-1\to -1$$

  ce qui est incohérent avec l’affirmation qui précède.
  Ainsi, la série $\sum u_n(x,y)$ diverge.

  Cas: $x=1$. Si $y=0\left[2\pi \right]$ alors $u_n(1,y)=\frac{1}{\sqrt{n}}$ et $\sum u_n(1,y)$ diverge.
  Si $y\ne 0\left[2\pi \right]$ alors par une transformation d’Abel, on obtient la convergence de la série $\sum u_n(1,y)$.

  Cas: $x=-1$. On remarque

  $$u_n(-1,y)=u_n(1,y+\pi )\text{.}$$

  Ainsi, $\sum u_n(-1,y)$ converge si, et seulement si, $y\ne \pi \left[2\pi \right]$.

  Finalement,

  $$D=\{(x,y)\in {ℝ}^2||x|<1\}\cup \{(1,y)/y\ne 0\left[2\pi \right]\}\cup \{(-1,y)/y\ne \pi \left[2\pi \right]\}\text{.}$$

• (b)

  L’intérieur de $D$ est alors

  $$D^{\circ }=\{(x,y)\in {ℝ}^2||x|<1\}\text{.}$$

  Soient $a\in [0;1[$ et $D_a=\{(x,y)\in {ℝ}^2||x|<a\}$.
  $u_n$ est de classe ${𝒞}^1$ sur $D_a$ et la série de fonctions $\sum u_n(x,y)$ converge simplement sur $D_a$.
  La série de fonctions $\sum \frac{\partial u_n}{\partial x}(x,y)$ converge normalement sur $D_a$ via

  $$\left|\frac{\partial u_n}{\partial x}(x,y)\right|\le \sqrt{n}{a}^{n-1}\text{.}$$

  Enfin, la série de fonctions $\sum \frac{\partial u_n}{\partial y}(x,y)$ converge normalement sur $D_a$ via

  $$\left|\frac{\partial u_n}{\partial y}(x,y)\right|\le \sqrt{n}{a}^n\text{.}$$

  On peut alors appliquer les théorèmes usuels qui affirment que

  $$(x,y)\mapsto \sum _{n=0}^{+\mathrm{\infty }}{u}_n(x,y)$$

  admet deux dérivées partielles continues sur $D_a$. C’est donc une fonction de classe ${𝒞}^1$ sur $D_a$. Enfin, cela valant pour tout $a\in [0;1[$, on obtient une fonction de classe ${𝒞}^1$ sur l’intérieur de $D$.

On peut écrire

$$F(x)={\int }_0^{x^3}f(x+1,t)dt-{\int }_0^{2x}f(x+1,t)dt=\phi (x,x^3)-\phi (x\mathrm{,2}x)$$

avec

$$\phi (x,u)={\int }_0^{u}f(x+1,t)dt={\int }_0^{1}uf(x+1,tu)dt\text{.}$$

Fixons $u\in ℝ$ et considérons $g(x,t)=uf(x+1,tu)$ définie sur $ℝ\times [0;1]$.
La fonction $g$ est continue en $x$ et continue par morceaux en $t$.
Soit $[a;b]\subset ℝ$. La fonction $f$ étant continue sur le compact $[a+1;b+1]\times [0;u]$, elle y est bornée par un certain $M\in {ℝ}_{+}$.
On a alors

$$\forall (x,u)\in [a;b]\times [0;u],\left|g(x,t)\right|\le M=\psi (t)\text{.}$$

La fonction $\psi$ est intégrable sur $[0;u]$ et donc, par intégration sur un segment, on obtient que la fonction $x\mapsto \phi (x,u)$ est de classe ${𝒞}^1$ et

$$\frac{\mathrm{d}}{\mathrm{d}x}\left(\phi (x,u)\right)=\frac{\partial \phi }{\partial x}(x,u)={\int }_0^{1}u\frac{\partial f}{\partial x}(x+1,tu)dt\text{.}$$

Ainsi $\phi$ admet une dérivée partielle $\frac{\partial \phi }{\partial x}$ et, une domination analogue à la précédente permet d’établir que cette fonction est continue en le couple $(x,u)\in {ℝ}^{{}^2}$.
D’autre part, $u\mapsto \phi (x,u)$ est évidemment dérivable et

$$\frac{\mathrm{d}}{\mathrm{d}u}\left(\phi (x,u)\right)=\frac{\partial \phi }{\partial u}(x,u)=f(x+1,u)\text{.}$$

Ainsi $\phi$ admet une dérivée partielle $\frac{\partial \phi }{\partial u}$ et celle-ci est clairement continue.

Finalement, $\phi$ est de classe ${𝒞}^1$ sur ${ℝ}^2$.
Notons enfin que les dérivées partielles de $\phi$ sont continues en $(x,u)$ et donc la fonction $\phi$ est de classe ${𝒞}^1$.
Puisque, $F$ est de classe ${𝒞}^1$.
Par dérivation de fonctions composées

$$F^{\prime }(x)=\frac{\partial \phi }{\partial x}(x,x^3)+3x^2\frac{\partial \phi }{\partial u}(x,x^3)-\frac{\partial \phi }{\partial x}(x,x^2)-2\frac{\partial \phi }{\partial u}(x\mathrm{,2}x)\text{.}$$

Enfin

$$F^{\prime }(x)={\int }_{2x}^{x^3}\frac{\partial f}{\partial x}(x+1,t)dt+3x^{2}f(x+1,x^3)-2f(x+\mathrm{1,2}x)\text{.}$$