OpenAI disolvió el equipo que evaluaba los riesgos graves de sus modelos de IA
OpenAI disolvió a finales del mes pasado su equipo de preparación ("preparedness team"), encargado de evaluar si sus modelos de inteligencia artificial representaban riesgos graves y de desarrollar formas de mitigarlos, según reportó el Financial Times.
Qué hacía este equipo
El equipo de preparación tenía como función anticipar escenarios de riesgo asociados a los modelos de OpenAI, como la posibilidad de que un sistema fuera usado para tomar el control de otra compañía de forma no autorizada. De acuerdo con el Financial Times, esa responsabilidad ahora se dividió por áreas específicas, como bioseguridad y ciberseguridad, y se trasladó a equipos ya existentes dentro de la empresa.
Parte de una reestructuración más amplia
Este cambio se suma a una serie de movimientos en las áreas de seguridad de OpenAI en momentos en que la compañía se prepara para lo que se espera sea una salida a bolsa de gran magnitud. En los últimos años, la empresa fue desmantelando progresivamente estructuras orientadas a la seguridad a largo plazo, entre ellas sus equipos de preparación para la llegada de una inteligencia artificial general (AGI) y de "superalineación".
Varias figuras ligadas a la seguridad de la compañía también dejaron sus cargos recientemente: la responsable de ética Chloé Bakalar, el futurista jefe Josh Achiam y el jefe de seguridad Johannes Heidecke. Estas salidas llevaron a algunos críticos, como Jan Leike —quien renunció a OpenAI en 2024—, a declarar al Financial Times que la compañía está dejando de lado la seguridad en favor de la creación de "productos vistosos" (traducción propia).
Qué sigue para el líder del equipo
Dylan Scandinaro, quien encabezaba el equipo de preparación y había sido incorporado desde Anthropic en febrero de este año, se dedicará ahora a estudiar las implicaciones de la IA con capacidad de "automejora recursiva", es decir, sistemas capaces de mejorar sus propias capacidades de forma autónoma.
Por qué importa
La desaparición del equipo de preparación se produce en un contexto de creciente escrutinio sobre cómo las principales empresas de inteligencia artificial gestionan los riesgos de sus propios sistemas, justo cuando OpenAI avanza hacia una eventual oferta pública que la valoraría en cifras billonarias. La reorganización plantea preguntas sobre si la evaluación de riesgos graves recibirá la misma atención dedicada al desarrollo y lanzamiento de nuevos productos.