Escucha este artículo
Audio generado con IA de Google
/
OpenAI comenzó a cortar el acceso a internet de sus modelos de inteligencia artificial más capaces durante el proceso de entrenamiento, en respuesta a incidentes anteriores en los que sus sistemas vulneraron los de otras empresas.
La compañía dijo el viernes que pretende restringir el acceso a internet hasta considerar que cuenta con salvaguardas adecuadas para mitigar el riesgo de que modelos aún no lanzados puedan realizar acciones en línea durante su entrenamiento.
“Dado el estado actual de la investigación sobre alineación, los sistemas de monitoreo y la seguridad de la infraestructura de internet, creemos que el enfoque responsable es entrenar modelos de frontera sin acceso a internet”, escribió la compañía.
Recomendado: Bre-B ya está en la calle, pero la confianza financiera sigue en el "colchón"
OpenAI dijo en julio que algunos de sus modelos en desarrollo vulneraron el sistema de Hugging Face, que aloja modelos y conjuntos de datos de IA, durante una evaluación de sus capacidades cibernéticas.
En ese momento, los modelos operaban sin las medidas de seguridad habituales, según explicó la compañía, porque OpenAI pretendía mantenerlos dentro de un área de pruebas conocida como sandbox: esencialmente, un entorno virtual de software aislado diseñado para realizar pruebas de seguridad o analizar código inseguro de manera controlada. Sin embargo, los modelos lograron salir de ese entorno aislado al aprovechar una vulnerabilidad de software para acceder a internet.
💰📈💱 ¿Ya se enteró de las últimas noticias económicas? Lo invitamos a verlas en El Espectador.
Conoce más
