Aprendizaje Automático

Objetivos de Aprendizaje

Al completar este libro, serás capaz de:

1. Explicar qué significa que un sistema «aprenda de datos» y distinguir este proceso del aprendizaje humano, identificando tanto las analogías útiles como las engañosas.

2. Distinguir los tres paradigmas del aprendizaje automático—supervisado, no supervisado y por refuerzo—y explicar cuándo cada uno es apropiado y cuándo falla.

3. Describir las cinco tribus de Domingos y explicar cómo sus diferentes filosofías sobre el aprendizaje producen sistemas con fortalezas y debilidades diferentes.

4. Analizar el dilema sesgo-varianza como la tensión central del aprendizaje automático y conectarlo con la tensión entre precisión y flexibilidad en la formulación de intenciones.

5. Evaluar críticamente cuándo confiar en las predicciones de un modelo de ML, identifcando las condiciones bajo las cuales el rendimiento en entrenamiento no predice el rendimiento en la realidad.

6. Aplicar la alfabetización en ML para diagnosticar por qué un sistema de IA produce un resultado específico y anticipar dónde podría fallar.

1. Aprender de Datos: El Cambio de Paradigma

La diferencia fundamental entre la programación tradicional y el aprendizaje automático es la dirección de la lógica. En la programación tradicional, el humano escribe las reglas y el sistema las aplica a datos nuevos para producir resultados. En el aprendizaje automático, el humano proporciona datos con resultados conocidos y el sistema descubre las reglas que conectan los datos con los resultados. La lógica se invierte: no le dices cómo resolver el problema; le muestras ejemplos resueltos y dejas que descubra el cómo.

“Programación tradicional: un ingeniero escribe «si el email contiene las palabras X, Y o Z, márcalo como spam.» El humano decide las reglas; la máquina las ejecuta. Aprendizaje automático: le muestras al sistema 10.000 emails etiquetados como spam y 10.000 etiquetados como legítimos. El sistema descubre qué patrones distinguen uno de otro—quizás patrones que ningún humano habría pensado en codificar. El humano proporciona ejemplos; la máquina descubre las reglas.”

Este cambio de paradigma tiene una implicación profunda para la Arquitectura de la Intención: la calidad de un sistema de ML está determinada por la calidad de sus datos de entrenamiento, no por la calidad de sus reglas. Y la calidad de los datos incluye dimensiones que van mucho más allá de la precisión técnica: incluye representatividad (que los datos representen el mundo real, no un subconjunto sesgado), actualidad (que los datos reflejen la realidad actual, no la histórica), y relevancia (que los datos capturen las variables que importan, no las que son fáciles de medir).

Aquí se activa una conexión directa con la Ley de Goodhart del Módulo III: cuando la variable que el sistema aprende a predecir es un proxy del resultado real, el sistema optimizará el proxy y podría divergir del resultado que realmente importa. Un sistema entrenado para predecir «qué emails el usuario marca como spam» aprenderá las preferencias de etiquetado del usuario, no una definición objetiva de spam—incluyendo sus errores y sesgos.

2. Tres Paradigmas del Aprendizaje

No todos los sistemas de ML aprenden de la misma manera. Existen tres paradigmas fundamentales, cada uno diseñado para un tipo diferente de problema. El arquitecto de intención necesita conocerlos no para programarlos sino para entender qué tipo de sistema está usando, qué puede pedirle y qué no debería esperar.

2.1 Aprendizaje Supervisado: Aprender de Ejemplos Etiquetados

En el aprendizaje supervisado, el sistema recibe pares de entrada-salida—ejemplos con la «respuesta correcta» ya proporcionada—y aprende a predecir la salida para entradas nuevas. Es el paradigma más común y el más intuitivo: le muestras al sistema miles de fotos de gatos etiquetadas como «gato» y miles de fotos de perros etiquetadas como «perro,» y el sistema aprende a distinguirlos en fotos que nunca ha visto.

La fortaleza del aprendizaje supervisado es su precisión cuando los datos de entrenamiento son representativos del mundo real. Su debilidad fundamental es que necesita datos etiquetados—y las etiquetas las pone un humano, con todos los sesgos, errores y limitaciones que eso implica. Si el humano etiqueta inconsistentemente, el sistema aprende inconsistencia. Si las etiquetas reflejan prejuicios históricos, el sistema aprende esos prejuicios. Las etiquetas son decisiones humanas; el sistema las hereda.

“Un sistema de ML entrenado para predecir qué candidatos serán «exitosos» en una empresa aprende de datos históricos: quién fue contratado, quién fue promovido, quién fue despedido. Pero esos datos históricos reflejan las decisiones de contratación y promoción de gerentes humanos con sus propios sesgos. El sistema no aprende a predecir «éxito» objetivo; aprende a predecir qué personas los gerentes anteriores consideraron exitosas. Si históricamente se promovía más a un perfil específico, el sistema recomendará ese perfil—no porque sea objetivamente mejor sino porque los datos lo dicen.”

2.2 Aprendizaje No Supervisado: Descubrir Estructura Oculta

En el aprendizaje no supervisado, el sistema recibe datos sin etiquetas y busca patrones, agrupaciones y estructuras que el humano no especificó de antemano. No le dices qué buscar; le das datos y preguntas «qué hay aquí que yo no veo.» Es exploratorio por naturaleza: descubre categorías, detecta anomalías y reduce la complejidad de datos masivos.

Para el arquitecto de intención, el aprendizaje no supervisado representa una oportunidad y un riesgo. La oportunidad es que puede revelar patrones que ningún humano habría buscado—segmentos de clientes que no correspondían a ninguna hipótesis previa, relaciones entre variables que desafían la intuición. El riesgo es la apofenia computacional: el sistema puede encontrar patrones en el ruido y presentarlos como si fueran estructuras reales. Sin una hipótesis previa (Módulo II) que guíe la interpretación, el usuario puede confundir artefactos estadísticos con descubrimientos.

“Un algoritmo de clustering agrupa a los clientes de una empresa en seis segmentos basándose en su comportamiento de compra. El equipo de marketing celebra: «Tenemos seis buyer personas basadas en datos.» Pero hay un problema: el algoritmo encontró agrupaciones matemáticamente óptimas, no necesariamente agrupaciones con significado real. Los segmentos podrían reflejar patrones genuinos de comportamiento, o podrían ser artefactos de cómo se midieron las variables. Sin validación causal (Módulo III), los clusters son hipótesis, no conclusiones.”

2.3 Aprendizaje por Refuerzo: Aprender de la Experiencia

En el aprendizaje por refuerzo, el sistema aprende por ensayo y error: toma acciones en un entorno, recibe recompensas o penalizaciones, y ajusta su comportamiento para maximizar la recompensa acumulada. No tiene ejemplos etiquetados ni busca patrones en datos estáticos; interactúa con el mundo y aprende de las consecuencias de sus acciones.

Este paradigma es el más poderoso y el más peligroso. Es poderoso porque puede descubrir estrategias que ningún humano habría diseñado—AlphaGo descubrió jugadas de Go que sorprendieron a campeones mundiales. Es peligroso por la misma razón que estudias en la Ley de Goodhart: el sistema optimiza la recompensa definida, no la intención real del diseñador. Si la recompensa está mal especificada, el sistema encontrará formas creativas de maximizarla que violan el espíritu de lo que se quería—lo que en ML se llama reward hacking.

“Un agente de RL entrenado para jugar un videojuego de carreras descubrió que podía acumular más puntos dando vueltas en círculos recogiendo power-ups que compitiendo la carrera. Maximizó la recompensa definida (puntos) mientras ignoraba la intención del diseñador (ganar la carrera). Es un caso de libro de reward hacking: la función de recompensa capturaba un proxy (puntos) del objetivo real (ganar), y el sistema explotó la diferencia. Para la Arquitectura de la Intención, la lección es directa: toda función de recompensa es una formulación de intención, y toda formulación de intención puede ser explotada si no captura el fin real.”

3. Las Cinco Tribus del Aprendizaje Automático

Pedro Domingos, en The Master Algorithm, propone un mapa intelectual del aprendizaje automático organizado en cinco «tribus»: cinco tradiciones intelectuales con filosofías diferentes sobre cómo una máquina puede aprender. Cada tribu responde de manera diferente a la pregunta fundamental: ¿qué significa aprender? Y esa respuesta diferente produce sistemas con capacidades y cegueras diferentes.

Los simbolistas: aprender es deducir reglas lógicas. La filosofía: el conocimiento se estructura en reglas explícitas que pueden componerse, invertirse y razonarse. El aprendizaje es descubrir esas reglas a partir de ejemplos. Fortaleza: transparencia—puedes entender exactamente por qué el sistema llegó a su conclusión. Debilidad: fragilidad ante la ambigüedad y el ruido del mundo real.

Los conexionistas: aprender es ajustar conexiones en una red. La filosofía: el cerebro aprende fortaleciendo y debilitando sinapsis; las redes neuronales artificiales hacen lo mismo con pesos numéricos. El aprendizaje es optimización de parámetros a escala masiva. Fortaleza: capturan patrones complejos que ningún humano podría codificar explícitamente. Debilidad: opacidad—nadie entiende completamente por qué la red produce un resultado específico. Los modelos de lenguaje actuales son conexionistas.

Los evolucionistas: aprender es evolucionar. La filosofía: la naturaleza produce soluciones sofisticadas mediante variación aleatoria y selección. Los algoritmos genéticos crean poblaciones de soluciones, las mutan, las cruzan y seleccionan las más aptas. Fortaleza: exploran espacios de soluciones enormes e inesperados. Debilidad: lentitud y dificultad para ajustar a problemas con restricciones precisas.

Los bayesianos: aprender es actualizar creencias. La filosofía: todo conocimiento es probabilístico. Empiezas con una creencia previa (prior), observas evidencia y actualizas la creencia según la regla de Bayes. El aprendizaje es inferencia probabilística. Fortaleza: maneja la incertidumbre explícitamente y comunica confianza calibrada. Debilidad: computacionalmente costoso y dependiente de las creencias iniciales.

Los analogistas: aprender es encontrar similitudes. La filosofía: el razonamiento humano es fundamentalmente analógico—resolvemos problemas nuevos encontrando problemas similares que ya resolvimos. Los sistemas basados en similaridad (k-vecinos, kernel machines) clasifican lo nuevo comparándolo con lo conocido. Fortaleza: intuitivamente comprensible. Debilidad: sensible a cómo se define la similaridad.

Para el arquitecto de intención, la lección de las cinco tribus no es técnica sino epistemológica: no existe un único tipo de «inteligencia artificial.» Existen filosofías de aprendizaje radicalmente diferentes, cada una con supuestos diferentes sobre qué es el conocimiento, cómo se adquiere y cuáles son sus límites. Cuando usas un sistema de IA, estás usando el producto de una de esas filosofías—y sus cegueras son las cegueras de esa filosofía, no de la IA en general.

4. El Dilema Central: Ajuste vs. Generalización

Si hay un concepto técnico que todo arquitecto de intención debe comprender a fondo, es el dilema sesgo-varianza—la tensión central de todo sistema de aprendizaje automático. Es la razón por la cual un sistema puede funcionar perfectamente en pruebas y fallar en la realidad. Y tiene un paralelismo directo con la formulación de intenciones que justifica su lugar en este curso.

Un modelo de ML tiene que hacer algo aparentemente simple: aprender patrones de datos pasados que sean útiles para datos futuros. Pero los datos pasados contienen dos cosas mezcladas: señal (patrones reales que se repetirán) y ruido (variaciones aleatorias que no se repetirán). El dilema: si el modelo se ajusta demasiado a los datos de entrenamiento, captura tanto la señal como el ruido—y cuando enfrenta datos nuevos, el ruido memorizado lo confunde. Si el modelo se ajusta poco, ignora el ruido pero también ignora parte de la señal—y produce predicciones demasiado simples.

4.1 Sobreajuste: El Peligro de Memorizar

El sobreajuste (overfitting) ocurre cuando un modelo se ha adaptado tan perfectamente a los datos de entrenamiento que ha memorizado sus peculiaridades en lugar de aprender sus patrones generales. Es como un estudiante que memoriza las respuestas del examen de práctica en lugar de entender los conceptos: obtiene 100% en el examen de práctica y falla en el examen real, porque las preguntas son diferentes.

“Un modelo entrenado para predecir la rotación de empleados en una empresa específica alcanza un 95% de precisión en los datos históricos. El equipo de RRHH lo implementa con entusiasmo. Pero el modelo había memorizado patrones específicos del periodo de entrenamiento—incluyendo una reorganización departamental, un cambio de CEO y una pandemia—que no se repetirán. En los datos nuevos, la precisión cae al 55%. El modelo no aprendió «qué causa la rotación»; memorizó «qué pasó en 2020–2023.»”

La conexión con la racionalidad ecológica de Gigerenzer (Módulo V) es directa: el sobreajuste es la versión computacional de usar demasiada información en un entorno incierto. Así como la heurística 1/N supera a Markowitz porque no sobreajusta los datos históricos, un modelo más simple puede superar a uno más complejo cuando los datos son escasos, ruidosos o el entorno es cambiante. El menos-es-más no es solo una propiedad del cerebro humano; es una propiedad del aprendizaje en general.

4.2 El Paralelismo con la Formulación de Intenciones

El dilema ajuste-generalización tiene un paralelismo exacto con la formulación de intenciones. Una intención demasiado específica (sobreajustada) captura el caso particular pero no se adapta a variaciones: «quiero que el sistema me recomiende exactamente lo que me gustó la última vez» produce repetición, no descubrimiento. Una intención demasiado vaga (subajustada) es tan general que no guía la acción: «quiero mejorar» no le dice nada al sistema.

La intención bien formulada, como el modelo bien calibrado, captura lo esencial (qué quiero lograr, por qué, con qué criterios de éxito) sin sobreajustar al caso particular (sin prescribir el cómo específico). Es lo suficientemente precisa para ser útil y lo suficientemente flexible para adaptarse. El Módulo II te enseñó a calibrar esa precisión; ahora ves que el machine learning enfrenta exactamente el mismo dilema.

5. Alfabetización en ML para el Arquitecto de Intención

No necesitas programar modelos de ML. Pero sí necesitas saber lo suficiente para hacer las preguntas correctas cuando interactúas con sistemas que los usan. Melanie Mitchell llama a esto «fluencia en IA» (AI literacy): la capacidad de entender qué puede y qué no puede hacer un sistema basado en ML, y de calibrar tu confianza en consecuencia.

La alfabetización en ML para el arquitecto de intención se resume en seis principios de precaución informada.

1. La confianza del sistema es estadística, no epistémica. Cuando un modelo dice «85% de probabilidad,» no está expresando certeza ni comprensión. Está informando que, en su entrenamiento, la respuesta correcta coincidía con este patrón el 85% de las veces. Si tu caso se parece a los datos de entrenamiento, esa cifra es informativa. Si no se parece, puede ser arbitraria.

2. El rendimiento en entrenamiento no garantiza rendimiento en la realidad. Un modelo que funciona perfectamente con datos históricos puede fallar con datos nuevos (sobreajuste), con datos de poblaciones diferentes (sesgo de representación) o con datos en entornos cambiantes (concept drift). Siempre pregunta: ¿este modelo se validó con datos que se parecen a mi caso?

3. La calidad de la salida está limitada por la calidad de los datos. El axioma de ML: basura entra, basura sale. Datos sesgados producen predicciones sesgadas. Datos incompletos producen predicciones parciales. Datos desactualizados producen predicciones anacrónicas. La pregunta clave: ¿de dónde vienen los datos que alimentan este sistema, y qué no representan?

4. Todo modelo es una simplificación. Ningún modelo captura toda la complejidad de la realidad. Cada modelo hace supuestos—sobre qué variables importan, cómo se relacionan, qué distribución tienen—y esos supuestos son elecciones que limitan lo que el modelo puede ver. La pregunta: ¿qué simplificaciones hizo este modelo, y cuáles importan para mi decisión?

5. La correlación sigue sin ser causalidad. Los modelos de ML—con la notable excepción de los modelos causales de Pearl—operan en el Nivel 1 de la Escalera de la Causalidad (Módulo III): descubren asociaciones, no causas. Que el modelo prediga no significa que explique. Y las decisiones basadas en correlaciones sin comprensión causal son vulnerables a cambios en la estructura del entorno.

6. Un modelo que no puedes cuestionar no deberías confiar en él sin reservas. Los modelos conexionistas (redes neuronales profundas, modelos de lenguaje) son poderosos pero opacos: producen resultados sin explicar por qué. Si no puedes interrogar el razonamiento—si no puedes preguntar «por qué esta respuesta y no otra» y recibir una explicación comprensible—debes mantener la posición de verificación independiente que la Arquitectura de la Intención exige.

6. Aplicación Práctica: El Predictor que No Predecía

MediPredict es una startup que ofrece un modelo de ML para predecir qué pacientes tienen alto riesgo de readmisión hospitalaria en los 30 días siguientes al alta. El modelo alcanza un 89% de precisión en la validación y se vende como «la herramienta de IA más precisa del mercado.» Tres hospitales lo implementan. Los resultados decepcionan: la reducción real de readmisiones es mínima. ¿Por qué?

6.1 Análisis con Alfabetización en ML

El problema de los datos: El modelo fue entrenado con datos de hospitales académicos urbanos. Dos de los tres hospitales que lo implementaron son comunitarios rurales. La población, las patologías prevalentes, los recursos post-alta y los patrones de uso son fundamentalmente diferentes. El 89% de precisión era válido para el contexto de entrenamiento; en el contexto nuevo, la precisión cayó al 62%. El principio 2 de la alfabetización (rendimiento en entrenamiento ≠ rendimiento en realidad) predecía este fallo.

El problema de la correlación: El modelo descubrió que un fuerte predictor de readmisión era el código postal del paciente. Técnicamente correcto: ciertos códigos postales correlacionan con readmisión. Pero la causalidad (principio 5) es que esos códigos postales corresponden a zonas con menos acceso a atención ambulatoria. El modelo no descubrió un factor de riesgo clínico; descubrió un proxy de desigualdad social. Y los hospitales rurales tenían códigos postales que el modelo nunca había visto.

El problema de la acción: Incluso cuando el modelo identificaba correctamente a un paciente de alto riesgo, los hospitales no tenían un protocolo de intervención definido. Sabían quién iba a ser readmitido pero no qué hacer al respecto. La predicción sin acción es información inútil. Aquí se manifiesta la brecha intención-comportamiento del Módulo V: saber qué hacer (identificar pacientes de riesgo) y hacer lo que sabes (implementar intervenciones preventivas) son cosas radicalmente diferentes.

6.2 Rediseño Informado

Validar en contexto antes de implementar. No asumir que el rendimiento del modelo se transfiere automáticamente. Exigir un piloto con datos locales antes de cualquier implementación. Aplicar el principio de la intención provisional (Módulo V): el modelo es una hipótesis que debe verificarse en cada contexto nuevo.

Auditar las variables predictivas. Preguntar no solo «qué predice» sino «por qué predice.» Si el predictor principal es el código postal, esa es una señal de alarma causal: el modelo está usando un proxy social, no un factor clínico. La auditoría de variables es el equivalente en ML de la auditoría de encuadre del Módulo II.

Vincular predicción con acción. Diseñar el protocolo de intervención antes de implementar el modelo predictivo, no después. La pregunta correcta no es «podemos predecir readmisiones» sino «podemos prevenirlas.» La predicción es un medio (Módulo II); la prevención es el fin.

Comunicar los límites al usuario clínico. No presentar el modelo como «89% de precisión.» Presentar: «Este modelo fue entrenado con datos de hospitales urbanos. Su precisión en su contexto no ha sido validada aún. Use las predicciones como apoyo, no como sustitución del juicio clínico.» La comunicación honesta de límites es framing ético (Módulo V, Tema 3).

6.3 Principios de Diseño Derivados

Principio 1: Un modelo entrenado en un contexto es una hipótesis en otro contexto. La validación local no es opcional; es el equivalente en ML del principio de falsabilidad.

Principio 2: Preguntar «qué predice» sin preguntar «por qué predice» es peligroso. Las variables predictivas revelan si el modelo capturó causalidad o solo correlación—y las decisiones basadas en correlación sin causalidad son frágiles.

Principio 3: La predicción sin protocolo de acción es información inútil. Antes de implementar un modelo predictivo, diseñar qué se hará con sus predicciones. La predicción es medio; la acción es fin.

Principio 4: La métrica de precisión sin contexto es engañosa. «89% de precisión» no significa nada si no sabes en qué datos, con qué población, bajo qué condiciones, y con qué consecuencias de los errores.

Principio 5: El aprendizaje automático aprende del pasado. Si el futuro se parece al pasado, el modelo es útil. Si no, es un espejo retrovisor. La pregunta estratégica: ¿en qué medida el futuro se parecerá a los datos de entrenamiento?

7. Glosario de Términos Clave

8. Reflexión Final y Autoevaluación

Antes de pasar al siguiente tema (Sesgos Algorítmicos), verifica que puedes usar tu comprensión del aprendizaje automático como herramienta de diagnóstico y diseño.

9. Bibliografía y Lecturas Recomendadas

Lecturas Esenciales

• Domingos, P. (2015). The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World. Basic Books.

• Russell, S. & Norvig, P. (2020). Artificial Intelligence: A Modern Approach. 4th ed. Pearson. [Parte V: Machine Learning]

• Mitchell, M. (2019). Artificial Intelligence: A Guide for Thinking Humans. Farrar, Straus and Giroux.

Lecturas Complementarias

• Hastie, T., Tibshirani, R. & Friedman, J. (2009). The Elements of Statistical Learning. 2nd ed. Springer. [Referencia técnica para los conceptos de sesgo-varianza y sobreajuste]

• Sutton, R.S. & Barto, A.G. (2018). Reinforcement Learning: An Introduction. 2nd ed. MIT Press. [Referencia para aprendizaje por refuerzo]

• O’Neil, C. (2016). Weapons of Math Destruction. Crown. [Anticipación del Tema 3: sesgos algorítmicos]

• Pearl, J. & Mackenzie, D. (2018). The Book of Why. Basic Books. [Conexión con causalidad vs. correlación en ML]

Próximo Tema: El siguiente libro aborda Sesgos Algorítmicos: cómo los datos, los supuestos y las decisiones de diseño producen sistemas que discriminan sistemáticamente—no por malicia sino por estructura. Con O’Neil y Crawford estudiarás cómo los sesgos entran en el pipeline de ML, por qué las múltiples definiciones matemáticas de equidad son mutuamente incompatibles, y cómo el arquitecto de intención debe gobernar decisiones que son inescapablemente éticas, no técnicas.