(Este planteamiento fue compartido por Lucho Salazar en el capítulo “
IA Responsable y Guardarraíles: ¿De quién es la responsabilidad?” de nuestra charla Castor Sin Filtro, un espacio abierto en el que puedes participar todos los viernes a las 11:30 a. m. (hora Colombia). dando click aquí )
A mí todavía me golpea mucho escuchar el término “Inteligencia Artificial responsable”. Se habla de eso en conferencias, artículos y juntas directivas como si la tecnología tuviera conciencia o capacidad de decidir por sí misma. Pero la verdad es otra: todavía hoy, no existe tal cosa. La responsabilidad no es del algoritmo; sigue siendo, y siempre será, exclusivamente humana.
El problema no radica en lo que el software hace por su cuenta, sino en las decisiones que toma el equipo, la persona o la organización que decide implementarlo. La IA es una herramienta; el criterio y las consecuencias le pertenecen a quien la opera.
Un error de 1 dólar que costó miles
Para entenderlo mejor, solo hay que mirar lo que ya ha pasado en el mercado. Hay un caso muy famoso de una empresa que decidió poner una Inteligencia Artificial como agente de ventas en su sitio web. Un usuario hábil conversó con el bot y, tras insistir un rato, logró convencerlo de que le vendiera un vehículo carísimo por tan solo un dólar.
Cuando la situación estalló, la primera reacción de la empresa fue intentar lavarse las manos: “No, es que eso lo hizo el agente, fue un error de la IA”.
Error. No lo hizo la IA. Lo hizo la empresa al soltar una herramienta sin los controles, la supervisión ni los límites adecuados. Sea que el resultado sea un éxito rotundo o un desastre financiero, la autoría del acto siempre vuelve al factor humano.
Miremos el espejo correcto
Cuando delegamos la culpa en la tecnología, estamos evitando la verdadera conversación. En lugar de gastar tiempo discutiendo cómo hacer que un código sea “ético”, los líderes y las organizaciones deberíamos enfocarnos en nuestras propias acciones:
- ¿Qué estamos haciendo realmente con la IA?
- ¿Qué controles estamos estableciendo antes de lanzarla al público?
- ¿Qué nivel de responsabilidad estamos asumiendo frente a nuestros clientes cuando automatizamos un proceso?
La tecnología avanza rápido, pero la ética y el control siguen estando de nuestro lado de la pantalla. Si una implementación falla, no busquemos culpables en el código; revisemos los procesos de la organización.
Si quieres profundizar en estrategias de evolución digital, agilidad y el impacto real de la tecnología en las organizaciones, te invitamos a seguir los contenidos de Castor Evolución Digital y Juan Andrés Ochoa en LinkedIn, YouTube, TikTok e Instagram.
Además, no te pierdas Castor Sin Filtro, todos los viernes a las 11:30 A.M. (Hora Colombia), para debatir en vivo sobre Inteligencia Artificial, Evolución digital, Agilidad, innovación, TI, estrategia digital e Inteligencia Artificial en Latino America.
