Apuntes SSII completos

3 files changed, 794 insertions, 2 deletions

diff --git a/si/n.lyx b/si/n.lyx
index ed6a3bf..f406569 100644
--- a/si/n.lyx
+++ b/si/n.lyx
@@ -333,5 +333,19 @@ filename "n6.lyx"
 
 \end_layout
 
+\begin_layout Chapter
+Aprendizaje computacional
+\end_layout
+
+\begin_layout Standard
+\begin_inset CommandInset include
+LatexCommand input
+filename "n7.lyx"
+
+\end_inset
+
+
+\end_layout
+
 \end_body
 \end_document
diff --git a/si/n3.lyx b/si/n3.lyx
index 25dfd6e..4198637 100644
--- a/si/n3.lyx
+++ b/si/n3.lyx
@@ -1486,9 +1486,11 @@ gets n$
 
 		
 \backslash
-Repetir{para $(u_i,S)
+Repetir{$
 \backslash
-in A$ sea $S
+forall(u_i,S)
+\backslash
+in A,S
 \backslash
 nsubseteq R$}{
 \end_layout
diff --git a/si/n7.lyx b/si/n7.lyx
new file mode 100644
index 0000000..90829cc
--- /dev/null
+++ b/si/n7.lyx
@@ -0,0 +1,776 @@
+#LyX 2.3 created this file. For more info see http://www.lyx.org/
+\lyxformat 544
+\begin_document
+\begin_header
+\save_transient_properties true
+\origin unavailable
+\textclass book
+\begin_preamble
+\usepackage{amssymb}
+\end_preamble
+\use_default_options true
+\begin_modules
+algorithm2e
+\end_modules
+\maintain_unincluded_children false
+\language spanish
+\language_package default
+\inputencoding auto
+\fontencoding global
+\font_roman "default" "default"
+\font_sans "default" "default"
+\font_typewriter "default" "default"
+\font_math "auto" "auto"
+\font_default_family default
+\use_non_tex_fonts false
+\font_sc false
+\font_osf false
+\font_sf_scale 100 100
+\font_tt_scale 100 100
+\use_microtype false
+\use_dash_ligatures true
+\graphics default
+\default_output_format default
+\output_sync 0
+\bibtex_command default
+\index_command default
+\paperfontsize default
+\spacing single
+\use_hyperref false
+\papersize default
+\use_geometry false
+\use_package amsmath 1
+\use_package amssymb 1
+\use_package cancel 1
+\use_package esint 1
+\use_package mathdots 1
+\use_package mathtools 1
+\use_package mhchem 1
+\use_package stackrel 1
+\use_package stmaryrd 1
+\use_package undertilde 1
+\cite_engine basic
+\cite_engine_type default
+\biblio_style plain
+\use_bibtopic false
+\use_indices false
+\paperorientation portrait
+\suppress_date false
+\justification true
+\use_refstyle 1
+\use_minted 0
+\index Index
+\shortcut idx
+\color #008000
+\end_index
+\secnumdepth 3
+\tocdepth 3
+\paragraph_separation indent
+\paragraph_indentation default
+\is_math_indent 0
+\math_numbering_side default
+\quotes_style french
+\dynamic_quotes 0
+\papercolumns 1
+\papersides 1
+\paperpagestyle default
+\tracking_changes false
+\output_changes false
+\html_math_output 0
+\html_css_as_file 0
+\html_be_strict false
+\end_header
+
+\begin_body
+
+\begin_layout Standard
+El 
+\series bold
+aprendizaje
+\series default
+ es el cambio adaptativo del comportamiento de un organismo resultante de
+ su interacción con el medio, y es un aspecto esencial de la inteligencia.
+ Permite implementar tareas que solo podemos describir bien mediante ejemplos,
+ hallar correlaciones entre grandes cantidades de datos, mejorar automáticamente
+ el diseño de un sistema con el tiempo, usar grandes cantidades de conocimiento
+ que sobrepasan la capacidad de codificación por un humano, adaptar el programa
+ a cambios en el entorno y actualizar automáticamente el conocimiento del
+ programa.
+\end_layout
+
+\begin_layout Standard
+El aprendizaje ocurre con una fase de entrenamiento, en la que el programa
+ adquiere experiencia con ejemplos etiquetados si el aprendizaje es 
+\series bold
+supervisado
+\series default
+ o con observaciones del entorno si no lo es, y una fase de prueba, en la
+ que se comprueba que el programa 
+\series bold
+clasifica
+\series default
+ los nuevos ejemplos o 
+\series bold
+predice
+\series default
+ su solución correctamente (da un resultado correcto).
+\end_layout
+
+\begin_layout Standard
+La 
+\series bold
+precisión
+\series default
+ es la fiabilidad del modelo aprendido, medida normalmente por la proporción
+ de ejemplos clasificados correctamente, aunque a veces es preferible sacrificar
+ precisión por velocidad de predicción, por ejemplo en detección de errores
+ en cadenas de producción.
+\end_layout
+
+\begin_layout Standard
+Si el modelo lo usa un humano, el razonamiento debe ser fácil de entender
+ para evitar errores.
+ También es importante reducir el tiempo de aprendizaje y el número de observaci
+ones necesarias.
+\end_layout
+
+\begin_layout Section
+Estimación del error
+\end_layout
+
+\begin_layout Standard
+El 
+\series bold
+estimador del error en los ejemplos
+\series default
+ es la proporción de ejemplos de la prueba clasificados incorrectamente,
+ y es un buen estimador si los ejemplos de prueba no se usaron en el entrenamien
+to.
+ El 
+\series bold
+error de resustitución
+\series default
+ es el estimador del error poniendo como ejemplos los mismos datos que en
+ el entrenamiento, y es una aproximación optimista al error real.
+\end_layout
+
+\begin_layout Standard
+La estimación del error por 
+\series bold
+validación cruzada
+\series default
+ mide el error de un método, no de un modelo concreto, y se aplica cuando
+ los datos son escasos.
+ El conjunto de ejemplos 
+\begin_inset Formula $S$
+\end_inset
+
+ se particiona en trozos 
+\begin_inset Formula $S_{1},\dots,S_{v}$
+\end_inset
+
+ de tamaño semejante, y para cada 
+\begin_inset Formula $i\in\{1,\dots,v\}$
+\end_inset
+
+, se construye un modelo sobre 
+\begin_inset Formula $S\setminus S_{i}$
+\end_inset
+
+ y se calcula su error estimador de los ejemplos 
+\begin_inset Formula $R_{i}$
+\end_inset
+
+ usando el conjunto de prueba 
+\begin_inset Formula $S_{i}$
+\end_inset
+
+.
+ El error de validación cruzada es 
+\begin_inset Formula $\sum_{i=1}^{v}\frac{|S_{i}|}{|S|}R_{i}$
+\end_inset
+
+.
+ Un buen valor de 
+\begin_inset Formula $v$
+\end_inset
+
+ es 10, y entonces el método se llama 
+\series bold
+\emph on
+\lang english
+10-fold cross-validation
+\series default
+\emph default
+\lang spanish
+.
+ Otro caso es el 
+\series bold
+\emph on
+\lang english
+leave-one-out
+\series default
+\emph default
+\lang spanish
+, en el que 
+\begin_inset Formula $S$
+\end_inset
+
+ se particiona en 
+\begin_inset Formula $|S|$
+\end_inset
+
+ trozos de un elemento.
+ Solo se usa cuando 
+\begin_inset Formula $S$
+\end_inset
+
+ es pequeño, pues es computacionalmente costoso.
+\end_layout
+
+\begin_layout Standard
+A veces algunos errores son más costosos que otros; por ejemplo es más costoso
+ un falso negativo de una enfermedad que un falso positivo.
+ Si el problema es clasificar ejemplos en 
+\begin_inset Formula $n$
+\end_inset
+
+ categorías, una 
+\series bold
+matriz de confusión
+\series default
+ es una matriz 
+\begin_inset Formula $A\in{\cal M}_{n}(\mathbb{N})$
+\end_inset
+
+ en la que 
+\begin_inset Formula $a_{ij}$
+\end_inset
+
+ es el número de ejemplos de clase 
+\begin_inset Formula $i$
+\end_inset
+
+ que fueron clasificados como de clase 
+\begin_inset Formula $j$
+\end_inset
+
+, y una 
+\series bold
+matriz de costos
+\series default
+ es una matriz 
+\begin_inset Formula $C\in{\cal M}_{n}(\mathbb{R})$
+\end_inset
+
+ en la que 
+\begin_inset Formula $c_{ij}$
+\end_inset
+
+ es el coste de clasificar un ejemplo de clase 
+\begin_inset Formula $i$
+\end_inset
+
+ como de clase 
+\begin_inset Formula $j$
+\end_inset
+
+, y que por tanto tiene diagonal nula.
+ Entonces el estimador de coste de una mala clasificación es 
+\begin_inset Formula 
+\[
+\sum_{i=1}^{n}\sum_{\begin{subarray}{c}
+j=1\\
+j\neq i
+\end{subarray}}^{n}a_{ij}c_{ij}.
+\]
+
+\end_inset
+
+
+\end_layout
+
+\begin_layout Standard
+Cuando el rango de soluciones es numérico y continuo, un buen estimador
+ es el 
+\series bold
+error cuadrático medio
+\series default
+ (
+\series bold
+MSE
+\series default
+, 
+\emph on
+\lang english
+Mean Squared Error
+\emph default
+\lang spanish
+), que con 
+\begin_inset Formula $n$
+\end_inset
+
+ ejemplos con soluciones 
+\begin_inset Formula $x_{1},\dots,x_{n}$
+\end_inset
+
+ para los que el programa da soluciones respectivas 
+\begin_inset Formula $y_{1},\dots,y_{n}$
+\end_inset
+
+ es
+\begin_inset Formula 
+\[
+\frac{1}{n}\sum_{i=1}^{n}(x_{i}-y_{i})^{2}.
+\]
+
+\end_inset
+
+
+\end_layout
+
+\begin_layout Section
+Aprendizaje memorístico
+\end_layout
+
+\begin_layout Standard
+Es una técnica consistente en almacenar todo es conocimiento nuevo para
+ usarlo cuando se encuentre un caso similar, y puede estar integrada en
+ un sistema de aprendizaje más complejo.
+\end_layout
+
+\begin_layout Standard
+Es adecuada cuando es más conveniente almacenar los datos que re-calcular.
+ En particular el acceso debe ser rápido, lo que requiere indizado.
+ No es adecuada cuando el entorno cambia rápidamente y lo almacenado puede
+ quedar fácilmente desfasado.
+\end_layout
+
+\begin_layout Standard
+Se puede decidir si almacenar o no cada vez que llega nueva información
+ o almacenar todo y después olvidar lo que se usa menos.
+\end_layout
+
+\begin_layout Section
+Resolución de problemas
+\end_layout
+
+\begin_layout Standard
+Un programa para resolver problemas puede recordar la estructura del programa
+ que ha resuelto, los métodos usados para resolverlo y su solución, generalizar
+ la experiencia y usarla para resolver problemas similares.
+\end_layout
+
+\begin_layout Standard
+El primer programa en hacer esto fue STRIPS, que tras cada episodio de planifica
+ción tomaba el plan calculado o una parte y lo transformaba en un 
+\series bold
+macro-operador
+\series default
+, una secuencia de acciones abstracta encapsulada en un 
+\series bold
+operador
+\series default
+ o acción para su uso posterior como una acción normal.
+\end_layout
+
+\begin_layout Standard
+Como es raro que se de un mismo problema dos veces, el macro-operador debe
+ generalizarse, cambiando constantes por variables siempre que se pueda.
+ STRIPS sustituye todas las constantes por variables y después re-evalúa
+ las precondiciones de cada operador usado para unificar y convertir variables
+ en constantes si es necesario.
+ Los buenos macro-operadores son muy útiles, y pueden producir un pequeño
+ cambio local en el mundo aunque los operadores que lo forman produzcan
+ muchos cambios locales.
+\end_layout
+
+\begin_layout Section
+Reglas de asociación
+\end_layout
+
+\begin_layout Standard
+Las 
+\series bold
+reglas de asociación
+\series default
+ relacionan los elementos que pueden aparecer en una base de datos, y son
+ útiles para toma de decisiones, diagnóstico y predicción.
+ 
+\end_layout
+
+\begin_layout Standard
+Sea 
+\begin_inset Formula $I$
+\end_inset
+
+ un conjunto de ítems que pueden aparecer en la descripción de un elemento
+ de una base de datos, una regla de asociación tiene forma 
+\begin_inset Quotes cld
+\end_inset
+
+Si 
+\begin_inset Formula $X$
+\end_inset
+
+ entonces 
+\begin_inset Formula $Y$
+\end_inset
+
+
+\begin_inset Quotes crd
+\end_inset
+
+ o 
+\begin_inset Quotes cld
+\end_inset
+
+
+\begin_inset Formula $X\Rightarrow Y$
+\end_inset
+
+
+\begin_inset Quotes crd
+\end_inset
+
+, donde 
+\begin_inset Formula $X,Y\subseteq I$
+\end_inset
+
+ son disjuntos.
+ Sea 
+\begin_inset Formula $D\subseteq{\cal P}(I)$
+\end_inset
+
+ un conjunto finito de elementos de la base de datos, el 
+\series bold
+soporte
+\series default
+ de un 
+\begin_inset Formula $Z\subseteq I$
+\end_inset
+
+ es 
+\begin_inset Formula $s(Z):=\frac{|\{e\in D:Z\subseteq e\}|}{|D|}$
+\end_inset
+
+; la 
+\series bold
+confianza
+\series default
+ o 
+\series bold
+precisión
+\series default
+ de la regla 
+\begin_inset Quotes cld
+\end_inset
+
+si 
+\begin_inset Formula $X$
+\end_inset
+
+ entonces 
+\begin_inset Formula $Y$
+\end_inset
+
+
+\begin_inset Quotes crd
+\end_inset
+
+ es 
+\begin_inset Formula $c(X\Rightarrow Y):=\frac{s(X\cup Y)}{s(X)}$
+\end_inset
+
+, y su 
+\series bold
+soporte
+\series default
+ o 
+\series bold
+cobertura
+\series default
+ es 
+\begin_inset Formula $s(X\Rightarrow Y):=s(X\cup Y)$
+\end_inset
+
+.
+\begin_inset Foot
+status open
+
+\begin_layout Plain Layout
+Las diapositivas usan la notación de mierda 
+\begin_inset Formula $|X|:=|\{e\in D:X\subseteq e\}|$
+\end_inset
+
+.
+\end_layout
+
+\end_inset
+
+ 
+\end_layout
+
+\begin_layout Standard
+\begin_inset Float algorithm
+wide false
+sideways false
+status open
+
+\begin_layout Plain Layout
+\begin_inset ERT
+status open
+
+\begin_layout Plain Layout
+
+
+\backslash
+Entrada{Conjunto de ítems $I$ de tamaño $k
+\backslash
+in
+\backslash
+mathbb{N}$, conjunto de elementos $D
+\backslash
+subseteq{
+\backslash
+cal P}(I)$ y soporte mínimo $f
+\backslash
+in[0,1]$.}
+\end_layout
+
+\begin_layout Plain Layout
+
+
+\backslash
+Salida{Conjunto ${
+\backslash
+cal L}
+\backslash
+subseteq{
+\backslash
+cal P}(I)$ de conjuntos de ítems con soporte al menos $f$.}
+\end_layout
+
+\begin_layout Plain Layout
+
+$L_1
+\backslash
+gets
+\backslash
+{
+\backslash
+{i
+\backslash
+}
+\backslash
+}_{i
+\backslash
+in D,s(
+\backslash
+{i
+\backslash
+})
+\backslash
+geq f}$
+\backslash
+;
+\end_layout
+
+\begin_layout Plain Layout
+
+$k
+\backslash
+gets1$
+\backslash
+;
+\end_layout
+
+\begin_layout Plain Layout
+
+
+\backslash
+Mientras{$L_k
+\backslash
+neq
+\backslash
+emptyset$}{
+\end_layout
+
+\begin_layout Plain Layout
+
+	$G
+\backslash
+gets
+\backslash
+{S
+\backslash
+cup
+\backslash
+{i
+\backslash
+}
+\backslash
+}_{S
+\backslash
+in L_k,i
+\backslash
+in I
+\backslash
+setminus S}$%
+\end_layout
+
+\begin_layout Plain Layout
+
+		
+\backslash
+tcp*{{
+\backslash
+rm Fase de formación.}}
+\end_layout
+
+\begin_layout Plain Layout
+
+	$C
+\backslash
+gets
+\backslash
+{S
+\backslash
+in G:
+\backslash
+forall i
+\backslash
+in S,S
+\backslash
+setminus
+\backslash
+{i
+\backslash
+}
+\backslash
+in L_k
+\backslash
+}$%
+\end_layout
+
+\begin_layout Plain Layout
+
+		
+\backslash
+tcp*{{
+\backslash
+rm Fase de poda.}}
+\end_layout
+
+\begin_layout Plain Layout
+
+	$L_{k+1}
+\backslash
+gets
+\backslash
+{S
+\backslash
+in C:s(S)
+\backslash
+geq f
+\backslash
+}$%
+\end_layout
+
+\begin_layout Plain Layout
+
+		
+\backslash
+tcp*{{
+\backslash
+rm Candidatos de tamaño $k$ frecuentes.}}
+\end_layout
+
+\begin_layout Plain Layout
+
+	$k
+\backslash
+gets k+1$
+\backslash
+;
+\end_layout
+
+\begin_layout Plain Layout
+
+}
+\end_layout
+
+\begin_layout Plain Layout
+
+${
+\backslash
+cal L}
+\backslash
+gets
+\backslash
+bigcup_{i=1}^{k-1}L_i$
+\backslash
+;
+\end_layout
+
+\end_inset
+
+
+\end_layout
+
+\begin_layout Plain Layout
+\begin_inset Caption Standard
+
+\begin_layout Plain Layout
+\begin_inset CommandInset label
+LatexCommand label
+name "alg:a-priori"
+
+\end_inset
+
+Algoritmo a priori.
+\end_layout
+
+\end_inset
+
+
+\end_layout
+
+\end_inset
+
+
+\end_layout
+
+\begin_layout Standard
+Para obtener reglas con buenos valores de soporte y confianza, primero ejecutamo
+s el algoritmo a priori (algoritmo 
+\begin_inset CommandInset ref
+LatexCommand ref
+reference "alg:a-priori"
+plural "false"
+caps "false"
+noprefix "false"
+
+\end_inset
+
+) para obtener los conjuntos de ítems frecuentes en 
+\begin_inset Formula ${\cal L}$
+\end_inset
+
+ y luego tomamos las reglas 
+\begin_inset Formula $r\in\bigcup_{L\in{\cal L}}\{X\Rightarrow L\setminus X\}_{X\subseteq L}$
+\end_inset
+
+ con 
+\begin_inset Formula $c(r)\geq p$
+\end_inset
+
+, donde 
+\begin_inset Formula $p$
+\end_inset
+
+ es la precisión mínima.
+\end_layout
+
+\end_body
+\end_document