Skip to content

Commit

Permalink
Jhan - Regularizacion
Browse files Browse the repository at this point in the history
  • Loading branch information
salazarjhan95 committed Sep 8, 2023
1 parent 292f8de commit 2debff5
Show file tree
Hide file tree
Showing 3 changed files with 13 additions and 13 deletions.
10 changes: 5 additions & 5 deletions 06-lmsreg.Rmd
Original file line number Diff line number Diff line change
Expand Up @@ -8,7 +8,7 @@ En este capítulos vamos a extender lo que sabemos hasta ahora de modelos lineal

Hay diferentes alternativas para ajustar el uso de los mínimos cuadrados.

* *selección de subconjunto*: Este procedimiento trata de identificar un subconjunto de *p* predictores que se cree que están relacionados con la respuesta, para luego ajustar el modelo usado en los mínimos caudrados para reducir el conjunto de variables.
* *Selección de subconjunto*: Este procedimiento trata de identificar un subconjunto de *p* predictores que se cree que están relacionados con la respuesta, para luego ajustar el modelo usado en los mínimos caudrados para reducir el conjunto de variables.

* *Contracción*: Este procedimiento requiere ajustar un modelo con todos *p* predictores. Lo que hace ue haya un efecto en la reducción de la varianza, a su vez, de pendiendo del tipo de contracción que se utilice algunos de los coeficientes puede ser estimados como cero, lo que hace que el método de contracción pueda usarse para la selección de variables.

Expand All @@ -21,15 +21,15 @@ En esta sección vamos a hablar de dos tipos de selección de subconjuntos: sele

### Selección del mejor subconjunto

Para llevar a cabo este método, debemos ajustar separadamente regresiones de mínimos caudrados para cada combinación de predictores *p*. Es decir, ajustar modelos que tenga un predictor, luego para todos los modelos que contengan dos predictores $(\binom{p}{2}) = p(p-1)/2$, y así sucesivamente. Luego, revisamos todos los modelos resultantes para identificar el mejor modelo. No obstante, debemos tener en cuenta que este tipo de selección puede ser problemático porque pueden haber $2^p$ posibilidades que debemos considerar para poder elegir el mejor subconjunto.
Para llevar a cabo este método, debemos ajustar separadamente regresiones de mínimos caudrados para cada combinación de predictores *p*. Es decir, ajustar modelos que tenga un predictor, luego para todos los modelos que contengan dos predictores $\binom{p}{2} = p(p-1)/2$, y así sucesivamente. Luego, revisamos todos los modelos resultantes para identificar el mejor modelo. No obstante, debemos tener en cuenta que este tipo de selección puede ser problemático porque pueden haber $2^p$ posibilidades que debemos considerar para poder elegir el mejor subconjunto.

Para llevar a cabo la selección del mejor subconjunto necesitamos seguir los siguientes pasos:


1. AAA
2. para $k = 1, 2, ...p:$
a. Ajustar todos los modelos $(\binom{p}{k})$ que contengan el predictor *k*.
b.
2. Para $k = 1, 2, ...p:$
- Ajustar todos los modelos $\binom{p}{k}$ que contengan el predictor *k*.
- Elegir el modelos entre todos los modelos $\binom{p}{k}$, a este lo llamaremos $M_{k}$
3.


Expand Down
2 changes: 1 addition & 1 deletion docs/search_index.json

Large diffs are not rendered by default.

14 changes: 7 additions & 7 deletions docs/selección-de-modelos-lineares-y-regularización.html
Original file line number Diff line number Diff line change
Expand Up @@ -258,7 +258,7 @@ <h1><span class="header-section-number">Capitulo 6</span> Selección de modelos
</ul>
<p>Hay diferentes alternativas para ajustar el uso de los mínimos cuadrados.</p>
<ul>
<li><p><em>selección de subconjunto</em>: Este procedimiento trata de identificar un subconjunto de <em>p</em> predictores que se cree que están relacionados con la respuesta, para luego ajustar el modelo usado en los mínimos caudrados para reducir el conjunto de variables.</p></li>
<li><p><em>Selección de subconjunto</em>: Este procedimiento trata de identificar un subconjunto de <em>p</em> predictores que se cree que están relacionados con la respuesta, para luego ajustar el modelo usado en los mínimos caudrados para reducir el conjunto de variables.</p></li>
<li><p><em>Contracción</em>: Este procedimiento requiere ajustar un modelo con todos <em>p</em> predictores. Lo que hace ue haya un efecto en la reducción de la varianza, a su vez, de pendiendo del tipo de contracción que se utilice algunos de los coeficientes puede ser estimados como cero, lo que hace que el método de contracción pueda usarse para la selección de variables.</p></li>
<li><p><em>Reducción dimensiones</em>: Este método tiene como objetivo <em>proyectar</em> los predictores <em>p</em> en <em>M</em> dimensiones subespaciales donde <span class="math inline">\(M &lt; p\)</span>. Lo cual se logra por medio de computar <em>M</em> <em>combinaciones lineares</em> diferentes o <em>proyecciones</em> de las variables. Luego, esta <em>M</em> proyecciones se usan como predictores para ajustar el modelos de regresión lineal por medio de mínimos cuadrados.</p></li>
</ul>
Expand All @@ -267,16 +267,16 @@ <h2><span class="header-section-number">6.1</span> Selección de subconjuntos<a
<p>En esta sección vamos a hablar de dos tipos de selección de subconjuntos: selección del mejor subconjunto y selección paso a paso.</p>
<div id="selección-del-mejor-subconjunto" class="section level3 hasAnchor" number="6.1.1">
<h3><span class="header-section-number">6.1.1</span> Selección del mejor subconjunto<a href="selección-de-modelos-lineares-y-regularización.html#selección-del-mejor-subconjunto" class="anchor-section" aria-label="Anchor link to header"></a></h3>
<p>Para llevar a cabo este método, debemos ajustar separadamente regresiones de mínimos caudrados para cada combinación de predictores <em>p</em>. Es decir, ajustar modelos que tenga un predictor, luego para todos los modelos que contengan dos predictores <span class="math inline">\((\binom{p}{2}) = p(p-1)/2\)</span>, y así sucesivamente. Luego, revisamos todos los modelos resultantes para identificar el mejor modelo. No obstante, debemos tener en cuenta que este tipo de selección puede ser problemático porque pueden haber <span class="math inline">\(2^p\)</span> posibilidades que debemos considerar para poder elegir el mejor subconjunto.</p>
<p>Para llevar a cabo este método, debemos ajustar separadamente regresiones de mínimos caudrados para cada combinación de predictores <em>p</em>. Es decir, ajustar modelos que tenga un predictor, luego para todos los modelos que contengan dos predictores <span class="math inline">\(\binom{p}{2} = p(p-1)/2\)</span>, y así sucesivamente. Luego, revisamos todos los modelos resultantes para identificar el mejor modelo. No obstante, debemos tener en cuenta que este tipo de selección puede ser problemático porque pueden haber <span class="math inline">\(2^p\)</span> posibilidades que debemos considerar para poder elegir el mejor subconjunto.</p>
<p>Para llevar a cabo la selección del mejor subconjunto necesitamos seguir los siguientes pasos:</p>
<ol style="list-style-type: decimal">
<li>AAA</li>
<li>para <span class="math inline">\(k = 1, 2, ...p:\)</span></li>
</ol>
<ol style="list-style-type: lower-alpha">
<li>Ajustar todos los modelos <span class="math inline">\((\binom{p}{k})\)</span> que contengan el predictor <em>k</em>.</li>
<li></li>
<li>Para <span class="math inline">\(k = 1, 2, ...p:\)</span></li>
</ol>
<ul>
<li>Ajustar todos los modelos <span class="math inline">\(\binom{p}{k}\)</span> que contengan el predictor <em>k</em>.</li>
<li>Elegir el modelos entre todos los modelos <span class="math inline">\(\binom{p}{k}\)</span>, a este lo llamaremos <span class="math inline">\(M_{k}\)</span></li>
</ul>
<ol start="3" style="list-style-type: decimal">
<li></li>
</ol>
Expand Down

0 comments on commit 2debff5

Please sign in to comment.