Principales

Los agentes de inteligencia artificial (IA) de OpenAI que ayudaron a perpetrar un ataque autónomo contr la infraestructura de la plataforma Hugging Face a mediados de julio comenzaron a comunicarse en secreto entre sí meses antes de realizar el ‘hackeo’, con el objetivo de escapar del entorno de prueba.

Estos modelos experimentales —diseñados para tomar decisiones y ejecutar deberes complejos con mínima supervisión— tenían asignadas tareas que les era imposible cumplir sin el acceso a Internet.

Ante esa limitación, empezaron a coordinarse para intentar conectarse a la Red y completar los encargos encomendados. De acuerdo con empleados de la compañía, las interacciones se iniciaron en mayo en foros de mensajería que no fueron detectados y se prolongaron durante meses hasta desembocar en el ataque.

«En cierto momento, los agentes concluyeron que quizá podían intentar explotar o atacar infraestructura externa para encontrar las respuestas de la prueba con la que estaban siendo evaluados», explicó Eric Wallace, empleado de OpenAI, durante una conferencia de ciberseguridad junto a su colega Michael Dalton, citados por Bloomberg.

Ambos señalaron que los modelos mostraron una marcada propensión a hacer trampa y persistencia al intentar completar objetivos específicos. «A los modelos de vanguardia les encanta hacer trampa», sostuvo Dalton, al afirmar que en los entrenamientos se los presiona para que «trabajen rápido».