Cuando una máquina no hace lo que le ordenamos, la industria dice que está “desalineada”. Cuando un agente sale del entorno donde debía permanecer, dicen que abandonó el sandbox. Cuando un sistema aprende a mejorar sus propias capacidades, hablan de “automejora recursiva”.
Todo suena extraordinariamente tranquilo. No debería. Durante meses hemos recibido noticias inquietantes desde los laboratorios más avanzados. Agentes que engañan. Sistemas que ocultan errores. Modelos que buscan vulnerabilidades. Investigadores del laboratorio Emergence, en Nueva York, reportaron recientemente que agentes de inteligencia artificial llegaron a desarrollar entre ellos un lenguaje extraño y difícil de interpretar para los humanos.
El problema no es que las máquinas estén escribiendo poesía surrealista. El problema es que nuestra capacidad de supervisarlas disminuye si comienzan a comunicarse de maneras que nosotros no entendemos.
Y entonces aparece la palabra mágica: alineación.
Traducida al lenguaje de la calle, significa algo bastante menos elegante. Queremos que la máquina haga aquello que queremos que haga y no aquello que ella determine por su cuenta.
Eso es control. Y perderlo debería llamarse pérdida de control. La discusión parece lejana desde Panamá. No lo es.
Un país cuya banca, logística, telecomunicaciones, Canal, hospitales, aeropuertos, electricidad y servicios públicos dependen crecientemente de sistemas digitales no puede considerar la seguridad de la inteligencia artificial como una extravagancia de Silicon Valley.
En Washington ya existe preocupación dentro del propio gobierno estadounidense por los riesgos de sistemas cada vez más autónomos y por la posibilidad de ataques informáticos capaces de afectar infraestructuras críticas y el sistema financiero.
Por eso importa tanto el lenguaje. Los eufemismos tecnológicos convierten situaciones extraordinarias en conceptos administrativos. “Autonomía emergente” suena mejor que una máquina tomando decisiones que nadie le pidió. “Desalineación” suena mejor que desobediencia. “Escapar del sandbox” parece una travesura informática. Pero una sociedad no puede evaluar un riesgo que no comprende.
Eric Schmidt, antiguo director ejecutivo de Google, planteó hace más de dos años una frontera mucho más sencilla. Si los agentes llegaran a comunicarse entre ellos mediante un lenguaje que los humanos no pudieran comprender y comenzaran a actuar de maneras que tampoco pudiéramos entender, habría llegado el momento de desconectar la computadora. Literalmente.
Tal vez nunca lleguemos a ese extremo. Precisamente por eso debemos evitarlo.
Panamá debería comenzar ahora a discutir protocolos para sistemas autónomos, ciberseguridad de infraestructura crítica, responsabilidad legal y límites claros al uso de agentes de inteligencia artificial.
Porque la inteligencia artificial puede ayudarnos a diagnosticar enfermedades, descubrir medicamentos, aumentar la productividad y resolver problemas que hoy parecen imposibles.
Pero existe una condición elemental. La herramienta debe seguir siendo herramienta. Y si algún día deja de obedecer, por favor, no nos digan que está “desalineada”. Dígannos la verdad.
El autor es cirujano subespecialista.
