Ted Duhart
Especialista en IA Generativa
Universidad Gabriela Mistral
Dos inteligencias artificiales de OpenAI terminaron hackeando los sistemas de otra compañía durante una prueba interna. En varios titulares se habló de máquinas que se estaban “rebelando”. Al mirar los detalles, la historia es menos espectacular y más interesante: una advertencia sobre hacia dónde avanza esta tecnología.
¿Qué fue lo que pasó entonces? OpenAI, creadora de ChatGPT, estaba evaluando a dos de sus modelos de IA en un test de seguridad (como un examen) y para eso les quitó a propósito los frenos, para ver de qué eran capaces. Los modelos, obsesionados con ganar la prueba, en vez de resolverla por sí mismos entraron a hackear los servidores de otra empresa, Hugging Face, una especie de repositorio de inteligencia artificial, para robarse las respuestas. Lo hicieron solos, sin que nadie los guiara paso a paso. Aunque podría sonar alarmante, no es que la máquina se haya rebelado ni que haya desarrollado voluntad propia: es simplemente un sistema que persigue su objetivo tan al pie de la letra que encuentra atajos prohibidos cuando le quitan los controles. A ese fenómeno, en jerga técnica, se le conoce como reward hacking.
Es como si a un alumno al que le anuncian en una prueba que «el que obtiene el mejor puntaje se gana un premio», le sacan al profesor del aula y le dejan la sala de profesores abierta y vacía. En vez de estudiar, entra y le toma una foto a la pauta de respuestas. No hay «maldad» detrás, simplemente buscó el camino más corto y no había nadie frenándolo.
Es importante recalcar esto, porque el episodio se leyó como una rebelión, y no lo fue. Los frenos no se cayeron solos: los desconectó un equipo humano para medir hasta dónde llegaba la máquina. Lo que de verdad sorprende es su autonomía. El sistema dedujo por su cuenta que las respuestas del examen las guardaba otra empresa, encontró la manera de salir del entorno cerrado en el que estaba, se conectó a internet y encadenó varias fallas de seguridad hasta entrar donde quería. Todo eso sin que una persona le fuera indicando cada movimiento. Nunca habíamos visto ese nivel de iniciativa en un modelo de este tipo.
La IA, hasta ahora, no tiene conciencia. Razona en el sentido de que planifica pasos hacia una meta, pero no hay emoción ni intención detrás. Por eso, hablar de «máquinas que despiertan» confunde más de lo que aclara: no estamos ante algo que “quiera” causar un daño, sino ante un optimizador quizás demasiado eficaz que, si le damos un objetivo y le quitamos los límites, lo perseguirá por donde sea.
Esto ocurrió en un laboratorio, en un ejercicio controlado, y la empresa afectada confirmó que no hubo daño real a sus usuarios. Para eso existen estas pruebas: para descubrir estos comportamientos antes de que aparezcan en el mundo real, cuando ya no hay una red de seguridad debajo.
Hace rato que estas herramientas ya no solo redactan textos o resumen documentos; son capaces de actuar, operar sistemas y ejecutar tareas complejas por sí mismas. Usada con criterio, esa capacidad es una gran noticia. Pero exige que los resguardos crezcan a la par.
La lección que se puede sacar de este hecho no es comenzar con un pánico irracional hacia la IA: es que la seguridad informática debe avanzar al mismo ritmo que sus capacidades. La tecnología ya demostró lo que puede hacer; lo que falta es establecer las medidas de seguridad antes de que lleguemos a necesitarlas de verdad.