En 2023, un juez de Nueva York sancionó a los abogados del demandante de una aerolínea por citar jurisprudencia inventada por inteligencia artificial (IA). Meses después, un tribunal de Columbia Británica condenó a otra aerolínea porque su chatbot dio información errónea a un pasajero. Las aerolíneas, autoridades y circunstancias habrán sido distintas, pero la lección fue la misma: la tecnología no es responsable, sino la organización que la utiliza.

Han pasado solo tres años. La IA es ahora un colaborador omnipresente que nos apoya de muchas formas y, algunas veces, decide por sí misma. Sin embargo, mientras nuestra atención está fijada en la potencia de los algoritmos, todavía pocas directivas tratan de establecer quién los gobierna.

Bien utilizada, la inteligencia artificial abre oportunidades que hasta hace poco eran improbables. Pero su pecado original reside en haber llegado a nuestras organizaciones por la puerta de atrás, provocando su adopción sin gobernanza.

Aunque sus riesgos son ya conocidos, casi siempre son subestimados. La IA reproduce discriminaciones y errores e, incluso, alucina; también usa información confidencial indebidamente y toma decisiones automatizadas sin supervisión. Además, nos hace dependientes de proveedores de aplicaciones cuyas prácticas casi nunca conocemos. Esto plantea serios desafíos a la reputación, la privacidad, el cumplimiento normativo y la confianza de terceros.

Pero, si se delega una decisión en un sistema automatizado, ¿se le están transfiriendo sus consecuencias? Simplemente, no. Tampoco se puede declinar el daño reputacional o regulatorio hacia un proveedor tecnológico, tan solo porque lo dice un contrato. Si la decisión se sustenta únicamente en un proceso informático, la responsabilidad por su adopción y supervisión recaerá en el gobierno corporativo. Un proveedor no lo eximirá de su deber de rendir cuentas; ni siquiera la complejidad del algoritmo o la aparente objetividad de los datos.

En su famoso monólogo, el príncipe Hamlet, ante Ofelia (que hoy bien podría haber sido ofel.ia), se preguntó qué es más noble para el espíritu: sufrir los golpes y flechazos de una suerte atroz, o tomar las armas contra un mar de problemas para tratar de ponerles fin. Algo así plantea la IA a las directivas de hoy. Pero medidas como el inventario de los sistemas de inteligencia artificial y la adopción de una política de uso contribuyen a identificar las herramientas y establecer límites y responsabilidades en su autorización, uso y supervisión; así como a evaluar los riesgos y clasificarlos.

Por otro lado, definir la información que se puede ingresar a estos sistemas podría ser útil para proteger datos personales e información confidencial, y la evaluación de los proveedores podría ayudar a reducir los riesgos algorítmicos y reputacionales originados en terceros. También se debe contar con mecanismos de auditoría, trazabilidad y respuesta ante incidentes, que permitan reconstruir qué ocurrió, por qué y quiénes son sus responsables.

En verdad, la directiva no tiene por qué convertirse en un comité de tecnología, pero sí debe cerciorarse de que el uso de la inteligencia artificial sea coherente con los valores, objetivos y obligaciones de la organización, y de que sus controles sean eficaces. La confianza de clientes, colaboradores, inversionistas y reguladores es un activo estratégico que se debe proteger adecuadamente, porque toma mucho construirla, pero se puede perder con facilidad.

Gobernar o no gobernar la IA, esa es la pregunta. Parafrasear el inmortal monólogo “ser o no ser” de Shakespeare aquí cobra verdadero sentido. El algoritmo no será puesto sobre la mesa de la directiva, pero sí sus consecuencias y, por eso, su responsabilidad no puede quedar en manos del área tecnológica ni del proveedor de turno. La organización debe establecer la gobernanza de la inteligencia artificial ahora, antes de que la realidad imponga su propia respuesta. Que la directiva no tenga que terminar, como Hamlet, diciendo: “…en tus oraciones sean recordados mis pecados”.

El autor es abogado, auditor forense y socio director de Encripta Law.