(Este planteamiento fue compartido por Duber López en el capítulo “
IA Responsable y Guardarraíles: ¿De quién es la responsabilidad?” de nuestra charla Castor Sin Filtro, un espacio abierto en el que puedes participar todos los viernes a las 11:30 a. m. (hora Colombia). dando click aquí )
Mucha gente le tiene pánico a la Inteligencia Artificial. Es una reacción común y comprensible. Escuchamos hablar de algoritmos avanzados y de inmediato nos imaginamos un futuro distópico controlado por máquinas. Sin embargo, la tecnología en sí misma no es la que debería quitarnos el sueño.
El peligro real no está en las líneas de código de un modelo de Machine Learning. El verdadero peligro surge cuando un ser humano imprudente decide conectar esa tecnología a un sistema crítico —como un dron o un dispositivo de defensa— y le otorga autonomía total para tomar decisiones de vida o muerte. Eso sí es aterrador. La máquina solo ejecuta lo que se le permite; la irresponsabilidad siempre tiene una firma humana detrás.
Tres reglas básicas que no podemos ignorar
Para evitar estos escenarios, es necesario trasladar principios fundamentales de control a la forma en que desarrollamos e implementamos tecnología hoy en día. Si tuviéramos que resumir las leyes esenciales para el uso de la IA, serían estas tres:
- No causar daño: Una IA jamás debe atentar contra las personas, la sociedad o la estabilidad de una organización. El bienestar humano está primero.
- Obedecer objetivos legítimos: Las herramientas deben responder a metas humanas válidas y éticas, siempre y cuando estas no violen la primera regla de no hacer daño. Definir qué es “legítimo” es una tarea compleja que nos corresponde debatir a fondo.
- Control y trazabilidad: Todo sistema debe ser rastreable, gobernable y sostenible en el tiempo. Nunca debemos perder la capacidad de auditar o apagar un proceso automatizado.
La urgencia de un debate real
Al final, la conversación no debería centrarse en qué tan inteligente se está volviendo el software, sino en qué tan capaces somos nosotros de ponerle límites claros. La IA avanza a pasos agigantados y la única forma de garantizar que juegue a nuestro favor es asegurando que el criterio humano mantenga siempre el control absoluto del interruptor.
Si quieres profundizar en estrategias de evolución digital, agilidad y el impacto real de la tecnología en las organizaciones, te invitamos a seguir los contenidos de Castor Evolución Digital y Juan Andrés Ochoa en LinkedIn, YouTube, TikTok e Instagram.
Además, no te pierdas Castor Sin Filtro, todos los viernes a las 11:30 A.M. (Hora Colombia), para debatir en vivo sobre Inteligencia Artificial, Evolución digital, Agilidad, innovación, TI, estrategia digital e Inteligencia Artificial en Latino America.
