Cada vez que delegamos una decisión en una máquina, no estamos delegando solo el cálculo. Estamos delegando criterio. Y eso debería incomodarnos más de lo que lo hace. Este post da continuidad al anterior Ícaro: inteligencia artificial y criterio humano y da un paso más. Allí hablaba de alas. De la fascinación por volar. Y del error de confundir la potencia con la sabiduría. Ícaro no cayó porque la tecnología fuera insuficiente, sino porque nadie le enseñó a decidir cuándo, cómo y hasta dónde volar. Hoy las alas ya no son de cera. Son algoritmos, modelos predictivos, inteligencia artificial. Y la pregunta sigue siendo la misma.
Nos gusta pensar que decidimos de forma racional, objetiva, neutra. Pero no es cierto. Ninguna decisión se toma en el vacío. Toda decisión está atravesada por valores, por prioridades, por renuncias. Incluso cuando creemos que estamos “optimizando”, estamos eligiendo qué cuenta y qué no. La inteligencia artificial no elimina esta realidad. Al contrario: la amplifica. A veces se hace visible. Otras veces queda escondida bajo una capa de aparente neutralidad matemática.
Hay muchos ámbitos donde esta tensión se ve claramente. Es el caso de los vehículos autónomos. Cuando un coche debe reaccionar ante un accidente inevitable, no hay salida limpia. No existe la decisión correcta. Solo existen compromisos trágicos. Y es precisamente ahí, en el límite, donde aflora la pregunta incómoda: ¿qué criterios aceptamos que guíen una decisión automática? ¿Los nuestros? ¿Los del fabricante? ¿Los del regulador? ¿Los del mercado?
Para explorar esta pregunta, un grupo de universidades encabezado por el MIT desarrolló hace años una herramienta pública llamada Moral Machine. No da respuestas. No pretende tener razón. Hace algo mucho más interesante: te obliga a decidir. Te enfrenta a dilemas extremos y, al final, te devuelve un espejo. Un perfil que muestra qué has priorizado cuando nadie te observaba. ¿A quién has protegido? ¿A quién has sacrificado? ¿Qué reglas has respetado? ¿Y cuáles has ignorado? La experiencia es incómoda. Y por eso es valiosa. Si aún no lo has hecho, entra en www.moralmachine.net y enfréntate al dilema.
Cuando terminas el ejercicio, aparecen preguntas inevitables. ¿Por qué he decidido así? ¿Qué me ha resultado más difícil? ¿He sido coherente? ¿Hay decisiones que jamás me gustaría delegar en una máquina, aunque estadísticamente fueran “mejores”? En ese momento descubres algo fundamental: no es tan importante lo que has decidido, sino el criterio que has usado sin darte cuenta.
Pero este no es un debate individual. Es profundamente colectivo. Por eso, desde hace años, instituciones y comunidades científicas llevan intentando poner palabras —y límites— a estas decisiones. Alemania fue pionera en 2017 al establecer que la dignidad humana no es computable y que la discriminación, aunque mejore un resultado agregado, no es aceptable. Investigadores como Bonnefon, Shariff y Rahwan mostraron la paradoja social: queremos coches utilitaristas, pero no queremos viajar en ellos si nos sacrifican. La Unión Europea, con el AI Act, ha intentado traducir estas tensiones éticas en obligaciones legales: transparencia, responsabilidad, supervisión humana. Insistiendo en una idea clave: la ética no se añade al final, se diseña desde el inicio.
Todo esto no es un debate abstracto ni futurista. Está ocurriendo ahora. Basta con leer las noticias de estos días en medios, donde la Comisión Europea dictamina que el diseño adictivo de la IA de TikTok vulnera las leyes digitales de la Unión, especialmente por su impacto en los menores. No se cuestiona solo el contenido, sino algo más profundo: el diseño deliberado de contextos de decisión que capturan la atención, moldean comportamientos y explotan vulnerabilidades cognitivas.
Aquí la tecnología no “decide” por nosotros de forma explícita, pero empuja. No hay dilemas dramáticos como en un accidente de tráfico, pero sí millones de microdecisiones diarias que no se toman en el vacío. Scroll tras scroll, notificación tras notificación, el criterio se va erosionando sin que apenas lo notemos. El problema ya no es si una máquina puede decidir mejor que un humano en una situación límite, sino quién y cómo se diseñan los incentivos, los ritmos y las dependencias que gobiernan nuestra atención cotidiana.
Y de nuevo, Europa aparece en un lugar incómodo pero necesario; ya lo dijimos en un post anterior. Europa se ha construido históricamente sobre una idea exigente: el progreso no es solo crecimiento; es equilibrio. Equilibrio entre libertad y responsabilidad, entre innovación y derechos, entre eficiencia económica y cohesión social. No es casualidad que muchos de los marcos éticos más avanzados sobre inteligencia artificial, desde el código alemán hasta el AI Act europeo, nazcan aquí. Europa desconfía —sanamente— de las soluciones simples para problemas complejos. No para frenar la innovación, sino porque entiende que diseñar tecnología es también diseñar sociedad.
Si ya has pasado por la Máquina Moral y te has enfrentado a tus propias contradicciones, te propongo ir un paso más allá. No te quedes en el resultado. Conviértelo en criterio explícito.
Imagina que debes redactar una política pública real que guíe el diseño y el marco legal de los vehículos autónomos. Ponle nombre. Todo lo importante empieza por un nombre. Define su propósito: ¿protección máxima de la vida humana? ¿Minimización del daño agregado? ¿Defensa incondicional de la dignidad individual? Delimita su alcance: ¿solo situaciones inevitables? ¿Todo el ciclo de diseño del sistema?
Después, entra en lo incómodo.
¿Quién es el responsable último de las acciones del vehículo? ¿El propietario? ¿El fabricante? ¿El desarrollador del modelo? ¿Un esquema de responsabilidad compartida?
Si el coche se ve obligado a poner en riesgo a una parte inocente, ¿qué hará? Y antes aún: ¿cómo defines “parte inocente”? ¿Es una categoría fija o depende del contexto?
¿Puede el sistema considerar la edad, el número de personas, el cumplimiento de normas y la probabilidad estadística de supervivencia? ¿Hay variables que deben prohibirse explícitamente? ¿Quién asume la responsabilidad si el sistema lesiona a alguien que tú has considerado inocente? ¿En qué circunstancias debería prevalecer la intervención humana sobre la decisión algorítmica? ¿Esta política debe aplicarse siempre o hay situaciones excepcionales en las que quedaría suspendida?
No se trata de acertar. Se trata de obligarse a decidir con coherencia.
Cuando termines, compara tu política con el código ético alemán de 2017, o los argumentos de investigadores como Bonnefon, Shariff y Rahwan sobre la paradoja social del utilitarismo. Observa dónde coincides. Observa dónde discrepas. Y pregúntate por qué.
Ese ejercicio revela algo más profundo que una opinión sobre los coches autónomos. Revela tu concepción de la justicia, la responsabilidad y el poder tecnológico.
La inteligencia artificial no solo necesita datos. Necesita marcos. Y los marcos no los escriben las máquinas. Los escribimos nosotros. Y escribirlos implica asumir responsabilidad.
Si aceptas el reto, no estarás jugando a un dilema filosófico. Estarás entrenando la competencia más estratégica de esta década: formular políticas conscientes en un mundo automatizado.
Si la inteligencia artificial nos da alas, el reto no es volar más alto sin más. El reto es volar con brújula. Porque Ícaro no cayó por falta de tecnología. Cayó por falta de criterio. Y en un mundo donde las decisiones se amplifican, aprender a decidir bien puede ser, más que nunca, la verdadera innovación. Porque la verdadera innovación no es construir máquinas más inteligentes. Es formar humanos con mejor criterio.
ACERCA DE INSPIRA
INSPIRA es el blog de TOOLBOARD. Un espacio abierto para emprendedores, intraemprendedores, innovadores y personas comprometidas con el progreso económico y social. Nace del libro “El viaje del emprendedor“ y explora temas como el emprendimiento, la economía, la creatividad, la innovación, el design thinking, la gobernanza, las nuevas tecnologías y la inteligencia artificial desde una mirada rigurosa y humana. Porque emprender no es solo crear empresas, sino crear valor económico y social para construir una sociedad mejor.
