Actuación responsable — IA y ética

La dimensión humana: influencia, momento y signos

La influencia empieza antes del mensaje. Cialdini muestra en Pre-Suasion que "lo que captura la atención inmediatamente antes de una petición influye dramáticamente en la respuesta": los "momentos privilegiados" —el contexto y el priming que preceden a una decisión— moldean la decisión misma (Arquitectura de Intención, Módulo VII: Persuasión y Ética Cognitiva · Psicología de la Persuasión). Quien diseña la pantalla, el orden de las opciones o el correo previo a la reunión ya está influyendo, lo sepa o no.

Bajo carga cognitiva, gana la ruta periférica. El modelo de probabilidad de elaboración distingue la persuasión por ruta central (evaluar argumentos) de la periférica (señales heurísticas), y advierte que "los usuarios bajo carga cognitiva serán más susceptibles a señales periféricas — incluida la aparente confianza del texto generado por IA" (Módulo VII · Psicología de la Persuasión). La seguridad con que escribe una máquina no es evidencia de nada.

Los signos comunican aunque nadie lo haya decidido. La semiótica muestra que íconos, colores y disposiciones espaciales portan "significados culturalmente específicos" (Módulo IV: El Lenguaje como Acción · Semiótica): un botón verde grande y uno gris pequeño ya son un argumento. Y las metáforas conceptuales —"el tiempo es dinero, la discusión es guerra"— "moldean cómo las personas formulan intenciones sin darse cuenta" (Módulo IV · Semiótica). El diseño responsable audita también lo que la interfaz dice sin palabras.

El momento oportuno es una decisión ética. El kairos —"información entregada demasiado pronto se olvida; demasiado tarde, es inútil; en el momento justo, transforma la comprensión" (Módulo VII · Comunicación Estratégica)— implica que elegir cuándo se informa a alguien es parte de respetar (o vulnerar) su autonomía.

La disciplina del método

Amplificador, no reemplazo. "Un amplificador aumenta la potencia de una señal existente sin cambiar su fuente. Una IA que amplifica la intención humana toma metas, valores y juicios como insumos y aumenta la escala, velocidad y precisión de su ejecución" (Módulo VI: La IA como Amplificador · Fundamentos de IA). Y el diseño seguro según Russell: sistemas que "infieren las preferencias humanas, mantienen incertidumbre sobre ellas y difieren al humano en las decisiones cargadas de valores" (Módulo VI · Fundamentos de IA).

Conocer los modos de falla. Los modelos de lenguaje producen "alucinación (información plausible pero falsa), adulación (decir al usuario lo que quiere oír), sensibilidad a la formulación e incapacidad de calibrar la incertidumbre. No son errores de programación sino propiedades estructurales del objetivo de predicción" (Módulo VI · Limitaciones de los Modelos). Además, un modelo "se degrada —a veces catastróficamente y sin aviso— con entradas fuera de su distribución de entrenamiento" (Módulo VI · Limitaciones de los Modelos). La postura correcta: "saber cuándo confiar en la salida y cuándo verificar de forma independiente" (Módulo VI · Limitaciones de los Modelos).

El sesgo algorítmico opera a escala. "A diferencia de los sesgos humanos, los algorítmicos operan a escala con consistencia mecánica", entrando por "sesgo histórico (los datos reflejan discriminación pasada), de representación y de medición" (Módulo VI · Sesgos Algorítmicos). Y la conclusión no delegable: "'quitar el sesgo' requiere juicios de valor explícitos sobre qué concepción de justicia priorizar — una decisión que no puede delegarse al algoritmo. El humano debe permanecer en control de las decisiones cargadas de valores" (Módulo VI · Sesgos Algorítmicos).

La frontera ética. "La persuasión que opera mediante argumento racional e información precisa respeta la autonomía. La manipulación que explota vulnerabilidades cognitivas y oculta su intención, no" (Módulo VII · Psicología de la Persuasión). Habermas añade la vara: la acción estratégica que no revela su intención "requiere escrutinio ético" (Módulo VII · Comunicación Estratégica). Y Floridi da el marco de evaluación: beneficencia, no maleficencia, autonomía y justicia (Módulo VII · Ética Aplicada), junto con el consentimiento informado: "la persona debe entender qué datos se recogen, cómo se usan, cuáles son las capacidades y límites del sistema" (Módulo VII · Ética Aplicada).

Caso hilo conductor: Distribuciones Marino

Para completar 480 fichas en 3 meses con media persona, la solución usa IA como amplificador: un modelo genera borradores de descripciones y extrae atributos de las hojas técnicas de los proveedores. El diseño responsable se construye así:

• División ejecución / juicio: la IA redacta y extrae (ejecución amplificable); un humano verifica cada atributo técnico contra la hoja del fabricante antes de publicar (juicio no delegable). La razón es estructural, no ceremonial: la alucinación es una propiedad del modelo, y una rosca de 3/4" inventada produce exactamente las devoluciones que el proyecto combate.
• Detección de fuera-de-distribución: los productos con hojas técnicas escaneadas de baja calidad o en otros idiomas se marcan para proceso 100% manual — ahí el modelo degrada sin aviso.
• Persuasión sin manipulación: las fichas usan marcos veraces ("compatible con conexiones NPT" es información; "¡los expertos eligen esta!" sin sustento sería explotación de la señal de autoridad). El botón de compra es prominente, pero la tabla de compatibilidad —la información que protege al cliente de equivocarse— es igual de visible: la interfaz persuade hacia la compra correcta, no hacia cualquier compra.
• Auditoría Floridi: beneficencia (el cliente compra bien a la primera), no maleficencia (verificación humana de datos técnicos), autonomía (información completa y comparable, sin urgencia artificial), justicia (las fichas se completan por rotación de ventas, no privilegiando marcas por acuerdos ocultos — y si los hubiera, se declaran).

Ejercicio doble

Pregunta filtro

¿Esta solución mantiene el juicio en manos humanas y resiste el escrutinio de sus efectos sobre las personas y el entorno?

Referencias al syllabus Arquitectura de Intención

• Módulo IV: El Lenguaje como Acción · Semiótica (signos, metáforas conceptuales)
• Módulo VI: La IA como Amplificador · Fundamentos de IA (amplificador vs. reemplazo, Russell)
• Módulo VI: La IA como Amplificador · Aprendizaje Automático (alfabetización en ML, calibración de confianza)
• Módulo VI: La IA como Amplificador · Sesgos Algorítmicos (canales del sesgo, decisiones de valor no delegables)
• Módulo VI: La IA como Amplificador · Limitaciones de los Modelos (alucinación, adulación, fuera-de-distribución)
• Módulo VII: Persuasión y Ética Cognitiva · Psicología de la Persuasión (Pre-Suasion, rutas central/periférica, frontera persuasión-manipulación)
• Módulo VII: Persuasión y Ética Cognitiva · Comunicación Estratégica (Habermas, kairos)
• Módulo VII: Persuasión y Ética Cognitiva · Ética Aplicada (Floridi, consentimiento informado, Zuboff)

Bibliografía: Russell (2019); Russell & Norvig (2020); Mitchell (2019); O'Neil (2016); Crawford (2021); Cialdini (2016); Habermas (1981); Floridi (2023); Zuboff (2019); Eco (1976); Lakoff & Johnson (1980).