Skip to content

Commit

Permalink
Jhan - REgularizacion
Browse files Browse the repository at this point in the history
  • Loading branch information
salazarjhan95 committed Sep 14, 2023
1 parent a507436 commit 16d1c9e
Show file tree
Hide file tree
Showing 3 changed files with 5 additions and 2 deletions.
3 changes: 2 additions & 1 deletion 06-lmsreg.Rmd
Original file line number Diff line number Diff line change
Expand Up @@ -113,10 +113,11 @@ El estadístico $R^{2}$ es uno de los métodos más utilizados para seleccionar
$$R^{2} ajustado = 1 - \frac{RSS/(n-d-1)}{TSS/(n-1)}$$
A diferencia de $C_{p}$, AIC y BIC que toman el mejor modelo que tengan en *menor* valor de error de prueba, un valor de $R^{2}$ ajustado *grande* indica el modelo con el error de prueba más bajo. Para el caso de $R^{2}$ ajustado es equivalente a maximizar $\frac{RSS}{n-d-1}$. Mientras que RSS decrece a medida que el número de variables aumenta, $\frac{RSS}{n-d-1}$ puede que incremente o disminuye debido a la presencia de *d* en el denominador. A diferencia del estadístico $R^{2}$, el estadístico $R^{2}$ ajustado *paga un precio* por incluir variables innecesarias en el modelo.


#### Validación y validación cruzada

Otra alternativa para los métodos que vimos anteriormente, donde podemos estimar directamente el error de prueba es usando un conjunto de validación o la validación cruzada. Con cualquiera de estos dos métodos podemos calcular el error para cada uno de los modelos, y luego seleccionar el mejor modelo para el cual el estimado para el error de prueba es el más pequeño.

Cuando se hace el conjunto de validación o la validación cruzada,

## Métodos de contracción (Cristian)

Expand Down
2 changes: 1 addition & 1 deletion docs/search_index.json

Large diffs are not rendered by default.

2 changes: 2 additions & 0 deletions docs/selección-de-modelos-lineares-y-regularización.html
Original file line number Diff line number Diff line change
Expand Up @@ -347,6 +347,8 @@ <h5><span class="header-section-number">6.1.3.1.4</span> <span class="math inlin
</div>
<div id="validación-y-validación-cruzada" class="section level4 hasAnchor" number="6.1.3.2">
<h4><span class="header-section-number">6.1.3.2</span> Validación y validación cruzada<a href="selección-de-modelos-lineares-y-regularización.html#validación-y-validación-cruzada" class="anchor-section" aria-label="Anchor link to header"></a></h4>
<p>Otra alternativa para los métodos que vimos anteriormente, donde podemos estimar directamente el error de prueba es usando un conjunto de validación o la validación cruzada. Con cualquiera de estos dos métodos podemos calcular el error para cada uno de los modelos, y luego seleccionar el mejor modelo para el cual el estimado para el error de prueba es el más pequeño.</p>
<p>Cuando se hace el conjunto de validación o la validación cruzada,</p>
</div>
</div>
</div>
Expand Down

0 comments on commit 16d1c9e

Please sign in to comment.