Auditores: la información documentada vive dentro de IA, no en carpetas!!
Autora del blog MADE Opina. Comparto reflexiones personales, aprendizajes y miradas sobre el mundo actual.
Esta
mañana escuchaba el audiolibro Sapiens: De animales a dioses, de Yuval
Noah Harari, y una frase se me quedó dando vueltas durante horas:
“(Nosotros), animales
sin importancia, hemos avanzado desde las canoas a los galeones, a los buques
de vapor y a las lanzaderas espaciales, pero nadie sabe adónde vamos. Somos más
poderosos de lo que nunca fuimos, pero apenas tenemos idea de qué hacer con
todo ese poder.”
Harari reflexiona sobre el progreso humano en las últimas
décadas: nos hemos convertido en dioses tecnológicos, pero seguimos avanzando
sin una dirección moral clara.
Si repasamos lo que ha ocurrido en los últimos años, cuesta
no estar de acuerdo. Lo vemos cada día: TikTok, Instagram o X descubrieron que
el algoritmo que más engancha es el que dispara la ira, el miedo y la
polarización, porque eso genera más “engagement”. Durante la pandemia, algunos
gobiernos usaron datos de los móviles para rastrear contactos, pero rara vez se
habla con claridad de qué ocurrió después con esos datos. Slack, Teams o el
email nos permiten estar siempre conectados y, como consecuencia, cada vez más
personas siguen trabajando hasta altas horas desde casa. Y hay muchos más
ejemplos. El denominador común es el mismo: grandes avances tecnológicos
acompañados de una alarmante ausencia de reflexión moral.
La IA reproduce hoy, casi palabra por palabra, la
estructura de la reflexión de Harari:
- Canoas
→ Lanzaderas: Hemos pasado de máquinas que calculan lentamente a sistemas
que generan texto, imagen, código, estrategia
- Sin
saber adónde vamos: Los propios investigadores de IA en Anthropic, OpenAI,
DeepMind no tienen consenso sobre qué hará una AGI o cómo controlarla
- Poder
sin sabiduría: Podemos entrenar modelos que se vuelven más capaces, pero
nuestras herramientas de alineamiento/control no avanzan al ritmo del
poder
ChatGPT hace en segundos lo que a una persona le llevaría
horas. DALL·E genera imágenes. Copilot escribe código.
La advertencia de Harari sigue intacta: somos
poderosos, pero no siempre sabemos qué hacer con ese poder.
Auditar es elegir estar alerta
La IA replica este dilema perfectamente. Tenemos máquinas
que generan texto, código, decisiones en segundos. Máquinas que pueden ser
usadas para bien o para mal, sin que haya nada en la máquina que lo distinga.
Pero hay algo que sí sabe distinguirlo: la presencia
deliberada de alguien que se atreva a preguntar.
“¿Quién aprobó esto? ¿Está documentado? ¿Sigue vigente lo
que se está citando como verdad? ¿Quién verifica esto?”
Esas preguntas no son técnicas. Son morales. Son
preguntas sobre responsabilidad, sobre si lo que estamos haciendo está alineado
con lo que dijimos que haríamos.
Imagina una organización donde una IA corporativa se
despliega sin que nadie pregunte nada. Donde cita políticas que no existen como
si fueran verdad. Donde 70, 700 personas toman decisiones basadas en lo que el
sistema les dijo.
¿Es un fallo de seguridad? Sí. ¿Es un fallo técnico? Quizás.
Pero es, antes que nada, un fallo moral: la decisión de no
verificar, de no cuestionar, de no mirar.
Y es precisamente aquí donde la auditoría deja de ser una
función técnica o burocrática, y se convierte en una postura ética.
La transición inevitable no es que los auditores aprendan
código o machine learning. La transición es que los auditores — cualquier
auditor, de cualquier disciplina — se nieguen a mirar para otro lado
cuando la IA está en el centro de lo que documenta, comunica y decide.
Porque si la auditoría es el guardián de la información
documentada, y la IA es ahora dónde vive la información documentada,
entonces auditar la IA no es una opción técnica. Es una obligación
moral.
Harari escribió que los dioses sin dirección moral son
peligrosos. Nosotros estamos creando dioses cada día. Alguien tiene que estar
en la sala diciendo: "Espera. ¿Esto está bien? ¿Esto es lo que
quisimos?"
Ese alguien es el auditor. No porque sepa programar, sino
porque se atreve a preguntar.
