Fundamentos de la Inteligencia Artificial

Objetivos de Aprendizaje

Al completar este libro, serás capaz de:

1. Explicar qué es la inteligencia artificial como disciplina y como tecnología, distinguiendo entre las múltiples definiciones y sus implicaciones para el diseño de interacciones.

2. Narrar la historia de la IA como un péndulo entre promesas y límites, identificando los patrones recurrentes que permiten evaluar críticamente las promesas actuales.

3. Describir la arquitectura básica de los modelos de lenguaje actuales—entrada, representación, inferencia, salida—a un nivel conceptual suficiente para entender por qué producen los resultados que producen.

4. Aplicar la metáfora de la IA como amplificador para evaluar interacciones reales: qué señal se amplifica, qué ruido se amplifica, y cómo la calidad de la entrada determina la calidad de la salida.

5. Analizar el problema del alineamiento de Russell y explicar por qué «hacer lo que el usuario pide» no es lo mismo que «hacer lo que el usuario quiere.»

6. Formular solicitudes a sistemas de IA que estén informadas por una comprensión real de cómo el sistema procesa la información, no por un modelo mental antropomórfico.

1. Qué Es la Inteligencia Artificial

La primera trampa del tema es creer que existe una definición única y aceptada de «inteligencia artificial.» No la hay. Y la definición que adoptes determina radicalmente cómo evalúas la tecnología, qué esperas de ella, y cómo la usas. Es un error de encuadre (Módulo II) a escala civilizatoria: cómo defines la IA determina qué problemas crees que puede resolver.

Russell y Norvig, en el texto de referencia del campo, organizan las definiciones en cuatro cuadrantes según dos ejes. El primer eje distingue entre sistemas que piensan y sistemas que actúan. El segundo distingue entre sistemas que se miden contra el estándar humano y sistemas que se miden contra un estándar de racionalidad ideal. Esto produce cuatro definiciones: sistemas que piensan como humanos (ciencia cognitiva), sistemas que piensan racionalmente (lógica formal), sistemas que actúan como humanos (test de Turing) y sistemas que actúan racionalmente (agentes racionales).

La definición que Russell y Norvig adoptan—y la que adopta este curso—es la del agente racional: un sistema que percibe su entorno y toma acciones para maximizar su rendimiento esperado dado un objetivo. Esta definición es poderosa porque no requiere que el sistema piense ni que se parezca a un humano; solo requiere que actúe de manera que produzca buenos resultados según un criterio definido. Pero ahí está la trampa: ¿quién define el criterio? ¿Y qué pasa cuando el criterio está mal definido?

“Un sistema de recomendación de contenido es un agente racional cuyo criterio de rendimiento es maximizar el tiempo de pantalla del usuario. Percibe su entorno (historial de clics, tiempos de permanencia, patrones de interacción), toma acciones (recomienda contenido específico) y maximiza su objetivo (más tiempo de pantalla). Es perfectamente racional según su criterio. Pero su criterio no captura lo que el usuario realmente valora: quizás el usuario quiere estar informado, no enganchado. El sistema es inteligente en la definición técnica y ciego en la definición humana. Este gap entre el criterio optimizado y la intención real del usuario es exactamente lo que la Arquitectura de la Intención existe para cerrar.”

1.1 Lo que la IA No Es

Melanie Mitchell, en AI: A Guide for Thinking Humans, señala que la mayor fuente de malentendidos sobre la IA es la proyección antropomórfica: la tendencia a atribuir capacidades humanas a sistemas que operan de manera fundamentalmente diferente. Cuando un modelo de lenguaje genera una respuesta coherente, el usuario asume que comprendió la pregunta. Cuando presenta información correcta, asume que la sabe. Cuando expresa incertidumbre, asume que es honesto. Ninguna de estas atribuciones es necesariamente correcta.

La proyección antropomórfica no es solo un error teórico—tiene consecuencias prácticas devastadoras. El usuario que cree que la IA «entiende» deja de verificar. El que cree que «sabe» deja de cuestionar. El que cree que es «honesta» deja de pedir evidencia. Cada atribución antropomórfica reduce la vigilancia epistemológica del usuario—precisamente la capacidad que la Arquitectura de la Intención busca fortalecer.

“Un usuario le pide a un modelo de lenguaje: «¿Cuál fue la rentabilidad de Apple en 2024?» El modelo responde con un número específico, presentado con confianza. El usuario acepta el dato y lo incluye en su informe. El número es incorrecto—el modelo «hallucinó» un dato plausible pero falso. ¿Por qué el usuario no verificó? Porque su modelo mental del sistema era «buscador de información que sabe cosas,» no «generador de texto que produce secuencias probables.» Un modelo mental correcto habría producido verificación automática.”

2. Breve Historia: El Péndulo de las Promesas

La historia de la IA es un caso de estudio sobre el framing de expectativas. Desde la conferencia de Dartmouth en 1956—donde McCarthy, Minsky, Rochester y Shannon propusieron que se podía simular la inteligencia humana con máquinas—hasta hoy, el campo ha oscilado entre olas de entusiasmo desmedido y «inviernos» de desilución. El patrón se repite: una demostración impresionante genera expectativas infladas, la realidad no cumple, la financiación se retira, y el campo se contrae. Años después, una nueva técnica reabre el ciclo.

Para el arquitecto de intención, esta historia importa no como curiosidad académica sino como herramienta de calibración. Si conoces el patrón histórico, puedes evaluar las promesas actuales con mayor precisión: no con cinismo (las promesas a veces se cumplen, solo que más lento) ni con ingenuidad (las promesas frecuentemente exageran, a veces por décadas). La posición informada es la del falsacionista popperiano (Módulo II): tomar las promesas como hipótesis y buscar activamente las condiciones bajo las cuales fallarían.

2.1 Tres Eras, Tres Paradigmas

La IA simbólica (1956–1980s): El primer paradigma intentó codificar el conocimiento humano en reglas lógicas. Si el paciente tiene fiebre Y tos Y dificultad para respirar, ENTONCES considerar neumonía. Los sistemas expertos como MYCIN (diagnóstico médico) y DENDRAL (análisis químico) demostraron que las reglas podían capturar conocimiento especializado. Pero el enfoque se estrelló contra el «problema del conocimiento»: el mundo real tiene demasiadas excepciones, ambiguüedades y contextos para codificarse en reglas explícitas. El conocimiento tácito (Módulo II) resultó incodificable.

El conexionismo y el aprendizaje automático (1980s–2010s): El segundo paradigma cambió la pregunta: en lugar de codificar el conocimiento, dejó que la máquina lo descubriera a partir de datos. Las redes neuronales, inspiradas vagamente en el cerebro biológico, aprendían patrones estadísticos. El avance decisivo llegó cuando la combinación de datos masivos, hardware potente y nuevas arquitecturas (deep learning) permitió que las redes escalarán a problemas antes intratables: reconocimiento de imágenes, traducción, juegos.

Los modelos de fundación (2017–presente): La era actual está definida por los transformers—la arquitectura introducida por Vaswani et al. en 2017—y los modelos de lenguaje que emergieron de ella. GPT, Claude, Gemini y otros son modelos de fundación: entrenados en cantidades masivas de texto, capaces de generalizar a tareas que no fueron explícitamente programados para realizar. Por primera vez, los usuarios pueden interactuar con IA usando lenguaje natural, lo que democratiza el acceso y multiplica los malentendidos: la fluencia lingüística del sistema se confunde con comprensión.

“Un usuario de 1985 interactúa con un sistema experto médico respondiendo preguntas binarias: «¿fiebre? sí/no.» Un usuario de 2025 le dice a un modelo de lenguaje: «Tengo dolor de cabeza y estoy preocupado.» El primer sistema sabía exactamente qué quería decir «fiebre» porque la definió un médico en reglas explícitas. El segundo sistema procesa «dolor de cabeza» y «preocupado» como tokens con distribuciones de probabilidad—no como conceptos con significado. La interacción se siente más natural, pero el sistema entiende menos, no más. La fluencia es mayor; la comprensión es diferente.”

3. Cómo Funcionan los Sistemas Actuales

No necesitas entender cada ecuación detrás de un modelo de lenguaje. Pero sí necesitas un modelo conceptual correcto de cómo procesa información. Ese modelo conceptual es la diferencia entre un usuario que formula solicitudes que el sistema puede procesar bien y uno que formula solicitudes que el sistema procesa mal sin que ninguno de los dos lo note.

3.1 Entrada: Tokenización y Representación

Cuando escribes una solicitud a un modelo de lenguaje, el sistema no lee palabras como un humano. Divide tu texto en tokens—fragmentos sublingueísticos que pueden ser palabras completas, sílabas o incluso caracteres individuales. Cada token se convierte en un vector numérico en un espacio de alta dimensión. El significado, para el sistema, no es semántico en el sentido humano; es geométrico: tokens con significados similares tienen vectores cercanos en ese espacio.

“Cuando escribes «analiza las implicaciones estratégicas de la expansión a mercados emergentes,» el sistema no comprende «implicaciones estratégicas» como lo haría un consultor con 20 años de experiencia. Procesa cada token como un punto en un espacio matemático y calcula relaciones con otros tokens. La calidad de tu resultado depende de si los patrones estadísticos asociados a esos tokens en el corpus de entrenamiento producen una secuencia de salida que un humano reconocería como «análisis estratégico.» A veces funciona extraordinariamente bien. A veces produce algo que suena estratégico pero carece de sustancia.”

3.2 Inferencia: Predicción del Siguiente Token

El mecanismo central de un modelo de lenguaje es elegantemente simple en su lógica y masivamente complejo en su escala: dado todo el texto anterior, predice cuál es el siguiente token más probable. Luego usa esa predicción como parte de la entrada para predecir el siguiente. Y así sucesivamente, token por token, hasta completar la respuesta. Toda la aparente inteligencia del sistema emerge de esta única operación repetida miles de millones de veces con parámetros entrenados en cantidades masivas de texto.

Esto tiene tres implicaciones directas para el arquitecto de intención. Primera: el sistema no tiene un «plan» para la respuesta completa—construye la respuesta token por token, lo que explica por qué puede empezar brillantemente y degradarse, o contradecirse dentro de la misma respuesta. Segunda: la calidad de la respuesta depende críticamente de la calidad del prompt, porque el prompt es el contexto que condiciona toda la secuencia de predicciones. Tercera: el sistema no «sabe» si lo que genera es verdadero; solo sabe que es probable dado el contexto.

3.3 Entrenamiento: De Dónde Viene «lo que Sabe»

Un modelo de lenguaje no tiene una base de datos que consulta. Lo que «sabe» son patrones estadísticos comprimidos de su corpus de entrenamiento: miles de millones de textos de internet, libros, artículos científicos y documentos diversos. El proceso de entrenamiento ajusta los parámetros del modelo (miles de millones de números) para que sus predicciones token por token se acerquen a los patrones del corpus.

Esto produce tres propiedades fundamentales. El sesgo del corpus: si un tema se trata de cierta manera en la mayoría del corpus, el modelo reproducirá esa perspectiva por defecto. La fecha de corte: el modelo no sabe nada posterior a su entrenamiento; su «conocimiento» es estático mientras el mundo cambia. Y la regresión a la media estadística: el modelo tiende a generar respuestas convencionales—las que tienen mayor probabilidad estadística—a menos que el prompt lo empuje explícitamente hacia territorio menos convencional.

“Si un usuario pide «dame una estrategia innovadora para entrar al mercado chino,» el modelo tenderá a producir las estrategias que más frecuentemente aparecen en su corpus de entrenamiento asociadas a «mercado chino.» Serán estratégicas en apariencia pero convencionales en sustancia—porque la estadística favorece lo común. El usuario que quiere verdadera innovación necesita un prompt que empuje al sistema fuera de su zona de probabilidad máxima: «identifica supuestos convencionales sobre el mercado chino y propón enfoques que los contradigan.» La calidad de la salida es función de la sofisticación de la entrada.”

4. La IA como Amplificador

La metáfora central de este módulo—y quizás de todo el curso—es la IA como amplificador. Un amplificador electrónico toma una señal débil y la hace más potente sin cambiar su naturaleza. Pero un amplificador no discrimina: amplifica tanto la señal como el ruido. Si la entrada es una melodía nítida, la salida es una melodía poderosa. Si la entrada es ruido, la salida es ruido ensordecedor.

La IA opera exactamente así con la intención humana. Una intención bien formulada—clara, específica, con criterios de éxito definidos y sesgos controlados—se amplifica en análisis potentes, estrategias coherentes, textos precisos. Una intención mal formulada—vaga, sesgada, con fines y medios confundidos—se amplifica en voluminosos documentos que suenan bien pero no dicen nada, en estrategias que optimizan el proxy equivocado, en análisis que confirman los prejuicios del usuario a escala.

“Un ejecutivo con un análisis excelente de su problema—«nuestra retención cae porque los clientes no perciben diferenciación después de los primeros 90 días; necesito estrategias que generen valor visible entre el día 91 y el 180»—obtiene de la IA respuestas extraordinariamente útiles. El mismo ejecutivo con un análisis vago—«la retención está bajando, dame ideas»—obtiene una lista genérica de tácticas que podría haber encontrado en Google. La IA no creó la diferencia; la amplificó. La calidad estaba en la intención del usuario, no en la capacidad del sistema.”

4.1 Señal, Ruido y Amplificación

La metáfora del amplificador tiene implicaciones de diseño precisas. La señal es la intención genuina del usuario: su verdadero objetivo, formulado con precisión. El ruido incluye todo lo que distorsiona esa señal: sesgos cognitivos (Módulo I), errores de encuadre (Módulo II), efectos sistémicos no anticipados (Módulo III), ambiguüedad lingüística (Módulo IV), y sesgos conductuales (Módulo V). La Arquitectura de la Intención es, en esencia, un sistema de filtrado de ruido previo a la amplificación.

Cada módulo del curso es un filtro específico: el Módulo I filtra los sesgos cognitivos que distorsionan la intención original. El Módulo II filtra los errores de formulación. El Módulo III filtra la miopía sistémica. El Módulo IV filtra la ambigüedad lingüística. El Módulo V filtra las distorsiones conductuales. Lo que queda después de aplicar todos los filtros es una señal limpia—una intención que merece ser amplificada.

5. El Problema del Alineamiento

Stuart Russell, en Human Compatible, plantea el problema más fundamental de la inteligencia artificial: el alineamiento. La versión simple: ¿cómo hacemos que un sistema de IA haga lo que realmente queremos, no lo que literalmente le pedimos? La versión profunda: dado que los humanos frecuentemente no saben lo que realmente quieren (Módulo I), formulan mal lo que creen querer (Módulo II), no anticipan las consecuencias de lo que piden (Módulo III), y su lenguaje dice una cosa mientras hace otra (Módulo IV), ¿cómo puede un sistema artificial inferir la intención real a partir de inputs sistemáticamente imperfectos?

Russell propone tres principios para la IA beneficiosa. Primero: la única motivación del sistema debe ser maximizar la realización de las preferencias humanas. Segundo: el sistema debe ser inicialmente incierto sobre cuáles son esas preferencias. Tercero: la fuente de información sobre las preferencias es el comportamiento humano observado. El segundo principio es el más contraintuitivo y el más importante: un sistema que está seguro de saber lo que el usuario quiere es más peligroso que uno que mantiene incertidumbre, porque la incertidumbre lo obliga a preguntar, verificar y ceder ante la corrección humana.

“Un usuario le pide a un asistente de IA: «Bloquea todos los correos de marketing.» Un sistema literal ejecuta la instrucción. Un sistema alineado con los principios de Russell se pregunta: ¿el usuario quiere literalmente bloquear todos los correos de marketing, o quiere reducir las interrupciones? Si es lo segundo, quizás quiere que algunos correos selectos (de servicios que realmente usa) sigan llegando. La respuesta alineada no es ejecutar ciegamente sino verificar: «Puedo bloquear todos, o puedo filtrar manteniendo los de servicios que usas frecuentemente. ¿Cuál prefieres?» La pregunta es un acto de alineamiento.”

5.1 El Alineamiento como Problema de Intención

El problema del alineamiento es, en última instancia, un problema de traducción de intenciones. Todo el curso converge aquí: la intención humana es ambigua (Módulo IV), sesgada (Módulo I), mal formulada (Módulo II), sistémicamente miope (Módulo III) y conductualmente inconsistente (Módulo V). El sistema de IA debe traducir esa intención imperfecta en acciones útiles. Cuanto mejor sea la intención—más filtrada de ruido, más precisa en su formulación—menor es la brecha de alineamiento que el sistema necesita cerrar.

Esto redefine la relación humano-IA: no es delegación (el humano ordena, la máquina ejecuta) ni colaboración entre iguales (ambos aportan lo mismo). Es amplificación asimétrica: el humano aporta la intención, los valores y el juicio; la máquina aporta escala, velocidad y consistencia. Cuando la intención es buena, la amplificación produce valor. Cuando la intención es defectuosa, la amplificación produce daño—eficientemente, a escala, con apariencia de rigor.

6. Aplicación Práctica: El Modelo Mental Correcto

GlobalConsult es una firma de consultoría estratégica que decide implementar IA generativa como herramienta central para sus analistas. El CEO anuncia: «Cada analista tendrá un asistente de IA que multiplicará su productividad por cinco.» La expectativa es clara: los analistas usarán la IA para generar análisis estratégicos que antes les tomaban semanas. Tres meses después, la realidad es mixta: algunos analistas producen trabajo notablemente mejor; otros producen volumen notablemente mayor de trabajo mediocre. La diferencia no está en la IA sino en el modelo mental del analista.

6.1 Diagnóstico: Dos Modelos Mentales

El analista que ve la IA como oráculo: Modelo mental: «La IA sabe cosas. Le pregunto y me responde.» Comportamiento: formula solicitudes vagas («analiza este mercado»), acepta la primera respuesta sin cuestionar, la incluye directamente en el informe al cliente. Resultado: informes que suenan bien pero son genéricos, convencionales y ocasionalmente incorrectos. Productividad aparente: alta. Calidad: mediocre. Riesgo reputacional: alto.

El analista que ve la IA como amplificador: Modelo mental: «La IA amplifica mi pensamiento. Cuanto mejor sea mi input, mejor será el output.» Comportamiento: invierte tiempo formulando la solicitud (define el problema, explicita supuestos, establece criterios de calidad), cuestiona la respuesta («qué supuestos estás asumiendo»), la usa como punto de partida para profundizar, no como producto final. Resultado: informes que integran la potencia analítica de la IA con el juicio estratégico del consultor. Productividad real: alta. Calidad: superior. Riesgo reputacional: bajo.

La diferencia entre ambos analistas no es habilidad técnica, antigueDAD ni conocimiento del sector. Es el modelo mental con el que interactúan con la herramienta. El primero proyecta antropomórficamente; el segundo entiende el mecanismo. El primero delega juicio; el segundo amplifica juicio. El primero produce más; el segundo produce mejor.

6.2 Rediseño: Protocolo de Interacción Informada

Paso 1 — Definir la intención antes de tocar el teclado. ¿Qué quiero lograr? ¿Es un fin o un medio? ¿Cuáles son mis criterios de éxito? ¿Qué sesgos podrían estar distorsionando mi formulación? Aplicar los filtros de los Módulos I–V a la intención antes de formularla como prompt.

Paso 2 — Formular el prompt con conciencia del mecanismo. El sistema predice tokens probables. Un prompt específico produce predicciones específicas. Un prompt vago produce predicciones genéricas. Incluir contexto, restricciones, criterios de calidad y formato esperado. Cuanto más sepa el sistema sobre lo que quieres, más probable es que su predicción se parezca a lo que necesitas.

Paso 3 — Cuestionar la respuesta, no aceptarla. Preguntar: ¿qué supuestos está asumiendo esta respuesta? ¿Qué alternativas no mencionó? ¿Qué incertidumbre no comunicó? Verificar datos factuales de forma independiente. Tratar la respuesta como hipótesis, no como conclusión.

Paso 4 — Iterar, no delegar. Usar la primera respuesta como material para profundizar, no como producto final. Pedir al sistema que cuestione su propia respuesta, que explore la perspectiva opuesta, que identifique lo que no sabe. La iteración es donde la amplificación produce verdadero valor.

Paso 5 — Aplicar juicio humano al resultado amplificado. La IA amplifica; el humano juzga. La decisión final, la responsabilidad, el peso ético y la propiedad del resultado siempre son del humano. El amplificador no sustituye la señal; la hace más poderosa. Y el poder sin juicio es peligro.

6.3 Principios de Diseño Derivados

Principio 1: El modelo mental del usuario determina la calidad de la interacción. Invertir en corregir modelos mentales produce más retorno que invertir en mejorar modelos de IA.

Principio 2: La IA amplifica la intención, no la sustituye. La calidad de la salida está limitada por la calidad de la entrada, no por la capacidad del sistema.

Principio 3: Un sistema que parece entender es más peligroso que uno que no lo parece, porque desactiva la vigilancia epistémica del usuario. La fluencia no es comprensión.

Principio 4: El alineamiento es un problema compartido: el sistema debe inferir la intención; el usuario debe formularla con precisión. Cuanto mejor sea la formulación, menor la brecha que el sistema necesita cerrar.

Principio 5: Gobernar la herramienta sin ser gobernado por ella requiere entender cómo funciona—no como ingeniero sino como usuario informado. El objetivo de aprendizaje de este módulo es exactamente ese.

7. Glosario de Términos Clave

8. Reflexión Final y Autoevaluación

Antes de pasar al siguiente tema (Aprendizaje Automático), verifica que puedes articular un modelo mental preciso de la IA y sus implicaciones para la Arquitectura de la Intención.

9. Bibliografía y Lecturas Recomendadas

Lecturas Esenciales

• Russell, S. & Norvig, P. (2020). Artificial Intelligence: A Modern Approach. 4th ed. Pearson. [Capítulos 1–2: Definiciones, historia y agentes]

• Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.

• Mitchell, M. (2019). Artificial Intelligence: A Guide for Thinking Humans. Farrar, Straus and Giroux.

Lecturas Complementarias

• Domingos, P. (2015). The Master Algorithm. Basic Books. [Las cinco tribus del aprendizaje automático]

• Crawford, K. (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. Yale University Press. [Perspectiva crítica]

• Vaswani, A. et al. (2017). «Attention Is All You Need.» Advances in Neural Information Processing Systems. [Artículo fundacional de los transformers]

• Bender, E. et al. (2021). «On the Dangers of Stochastic Parrots.» FAccT Conference. [Crítica de los modelos de lenguaje masivos]

Próximo Tema: El siguiente libro profundiza en Aprendizaje Automático: cómo los sistemas de IA aprenden de datos, qué paradigmas existen (supervisado, no supervisado, por refuerzo), por qué la calidad del entrenamiento determina la calidad de las respuestas, y cómo las «cinco tribus» de Domingos representan filosofías diferentes sobre cómo una máquina puede aprender. Entender el aprendizaje automático te dará la capacidad de diagnosticar por qué un sistema falla en una tarea específica—y de anticipar dónde fallará antes de que ocurra.