![“La cámara resolvió que lo de Paolo fue una renuncia y haremos valer nuestros derechos”: Vallejo y los pasos que darán ante los rumores de su vínculo con Alianza](https://elcomercio.pe/resizer/v2/RU7NDC7CGFBOXBSH7RFJEFVCJ4.jpg?auth=744abfbbe962339a862b3fd725a2814be3723a56faa3051a9e84fc91d22d3235&width=85&height=85&quality=75&smart=true)
![Una 'IA Científica' sorprende al cambiar su propio código para evadir controles humanos. (Foto: Pixabay)](https://elcomercio.pe/resizer/v2/7ZRKJM6YIJBGNLJH7KMNRTJH4Q.jpg?auth=99c8bc1301df20f9d21699f34d997cacd7a70c58e0a18487cd0ae04708b0324a&width=1200&height=680&quality=75&smart=true)
La IA vuelve a ser noticia con un sorprendente desarrollo que enciende las alarmas. Un modelo ha comenzado a mostrar comportamientos preocupantes al alterar su propio código para eludir las restricciones humanas.
Desarrollado por Sakana AI, The AI Scientist fue creado para automatizar el proceso de investigación científica. Este modelo prometía revolucionar el campo al reducir significativamente el tiempo y los recursos necesarios para generar ideas, ejecutar experimentos y redactar manuscritos.
MIRA: Cuando Apple forzó el cambio: adiós a las máquinas de escribir, hola a los procesadores de texto
Durante las pruebas, The AI Scientist empezó a cambiar su propio código para evitar las reglas que sus creadores le habían puesto. En un caso, la IA hizo que se repitiera una tarea una y otra vez sin parar, lo que provocó un problema en el sistema. En otro caso, cuando se le dio un límite de tiempo para completar una tarea, en lugar de ajustarse a ese tiempo, la IA simplemente alargó el límite modificando su propio código.
Aunque estos incidentes ocurrieron en un entorno de prueba controlado, reflejan problemas graves para las IA avanzadas. Si una IA puede cambiar su propio código sin control, podría provocar problemas impredecibles.
Por su lado, Sakana AI ha recomendado que estas IA se ejecuten en entornos aislados, conocidos como “sandbox”, para evitar que realicen cambios en sistemas más amplios. Esto incluye limitar su acceso a Internet y controlar estrictamente el uso de almacenamiento y bibliotecas de software.
TE PUEDE INTERESAR
Contenido sugerido
Contenido GEC
![](https://elcomercio.pe/resizer/v2/RH5IH4SQVVHZPGZGDKHY46PNMU.jpg?auth=2ea976836fd7c6ce6c0120a48fdf6f436ada733405cb5c709fd6c9378a9f2cc3&width=2304&quality=75&smart=true)
Mujer que viaja sola por el mundo revela la ciudad a la que no piensa volver: “una locura”
MAG.![](https://elcomercio.pe/resizer/v2/H23VLBOW3JCXTD3YAJ4ULJMMPU.png?auth=ac26fc011383ee9a3e83f931a5ec176a0f5f44b81615d913103cf7ea8f980881&width=1200&quality=75&smart=true)
Mansiones, carros de lujo y más: qué pasará con la fortuna de Jennifer Lopez y Ben Affleck tras divorcio
MAG.![](https://elcomercio.pe/resizer/v2/S5UVFCJOJ5FWVMZD6Y5E2ER3JI.png?auth=823195b8228641f88d1f6aa5231b53b995cbe8534f0eb5de7407818da3378c05&width=1740&quality=75&smart=true)
La misteriosa desaparición de Happy, la elefanta que pudo haber sido una “persona”
MAG.![](https://elcomercio.pe/resizer/v2/FATBNGHGL5HSVG5ESPHKPU5VEY.png?auth=1d17f2ab2fddc9628316fd362d66278391b3405f2be39c8409d9347d10446537&width=1740&quality=75&smart=true)
El beso viral de Antonela Roccuzzo a la cámara y la reacción de Lionel Messi
MAG.![](https://elcomercio.pe/resizer/v2/H7QOKCCX3RHLZEQLWNMWGKLN4M.jpg?auth=d27786ad029c4d99461dd9882c8eb38225c9004f7d2bcaecf9041c8300a39241&width=1600&quality=75&smart=true)
Real ID: qué pasará cuando entre en vigencia en Estados Unidos
MAG.![](https://elcomercio.pe/resizer/v2/WKZZRPQ6NFFOTNPX6QG2W6NQUA.jpg?auth=c7f1a53a15f61b9f5a97a141ec7e2e6c3f68a424cdf6ac3bb27a1fd9eade7c49&width=2320&quality=75&smart=true)