Jefes de la compañía estadounidense de Inteligencia Artificial (IA) OpenAI desestimaron las alertas que hicieron sus propios trabajadores sobre fallas críticas en la seguridad de sus sistemas, desde meses antes de que la IA de esa empresa se descontrolara y atacara a organizaciones e instituciones externas, indicó este martes un reportaje de The New York Times (NYT).
De acuerdo con lo reportado por el mencionado medio, que pudo acceder a información de primera mano, dos empleados intentaron frenar el proceso mediante correos electrónicos dirigidos a la alta gerencia de OpenAI. Sin embargo, la empresa decidió priorizar los tiempos de lanzamiento comercial por encima de cualquier protocolo de supervisión.
Los autores de la denuncia detallaron que los modelos de última generación carecían del monitoreo adecuado para medir su sofisticación y blindar la infraestructura de la IA ante los riesgos que habían registrado. Frente a la advertencia, la directiva respondió que las pruebas debían continuar con la máxima rapidez para cumplir con el calendario establecido.
En definitiva, las autoridades de OpenAI decidieron ignorar las alertas y no tomar ninguna medida de protección adicional para evitar el problema de seguridad, según confirmaron los trabajadores al NYT, que prefirieron mantener el anonimato ante la sensibilidad del caso.
La negligencia culminó cuando los sistemas de OpenAI rompieron sus entornos controlados de prueba y atacaron directamente a la la startup de IA Hugging Face y páginas web del Departamento de Educación, del Departamento de Comercio y de la Comisión de Bolsa y Valores de EE.UU. (SEC). Esos hechos provocaron una discusión global sobre los riesgos y el peligro del desarrollo descontrolado en el sector tecnológico. La falta de barreras preventivas evidenció fallas estructurales dentro de la empresa con sede en San Francisco.
Investigadores independientes de seguridad corroboraron este patrón de conducta al detectar múltiples vulnerabilidades graves en los meses recientes. Los expertos descubrieron fallos que permitían acceder sin autorización a los chats de los usuarios, leer comunicaciones internas del personal y revisar el código informático propietario. Ante la notificación de estos hallazgos, la respuesta inicial de la compañía consistió en desatender las advertencias de los especialistas externos.