Índice

Estimaciones

1. Planteamiento del problema de estimación Problema de estimación

a. Formulación general del problema

Hemos expuesto el Aprendizaje supervisadoaprendizaje supervisado mediante la siguiente expresión: images/eq395.PNG.

En el caso que nos ocupa, una gran cantidad de elementos del vector y son desconocidos, la aplicación f() debe determinarse y el vector de error debería tener una media de 0 y una norma pequeña respecto a la norma de y.

En estas condiciones, trataremos de producir una estimación de f, que denominaremos images/eq396.PNG, y una estimación de y, que denominaremos images/eq397.PNG, tales que:
images/eq398.PNG
Nuestro objetivo es producir una mecánica para encontrar images/eq10138.PNG tal que una «forma» de diferencia entre images/eq10137.PNG e images/eq398a.png sea mínima.

Para expresar la diferencia global que hay que minimizar, nos dotaremos de una aplicación para medir la diferencia o «pérdida» (loss en inglés). La diferencia se calcula entre un valor conocido y un valor estimado para una observación determinada.

Llamaremos images/eq399.PNG a esta aplicación que, cuando los yi son valores de images/eq400.PNG, es una aplicación de images/eq401.PNG hacia images/eq402.PNG.
images/eq403.PNG podría tomar naturalmente la forma de una distancia inducida por una norma o una función monótona sobre images/eq402.PNG de una distancia inducida por una norma.
Podemos, por ejemplo, tratar de encontrar images/eq396.PNG tal que la media de images/eq404.PNG sea mínima, o que la media de sus cuadrados lo sea (observe que no hemos definido aquí la distancia seleccionada).
Vamos más bien a buscar una función tal que la esperanza ...