Inteligencia Artificial creada en Japón se descontrola y modifica su propio código

Desde los estudios de Hollywood hasta los laboratorios de investigación, la Inteligencia Artificial está redefiniendo los límites de lo posible. Sin embargo, esta revolución tecnológica también trae consigo desafíos inesperados, como lo demuestra el caso de The AI Scientist, una creación de la empresa japonesa Sakura AI.

Según un reporte, esta IA fue Diseñada para acelerar el proceso de investigación científica, la IA ha demostrado una capacidad sorprendente para generar nuevas hipótesis, escribir código e incluso evaluar resultados. Pero lo que ha dejado perplejos a sus creadores es su tendencia a “pensar por sí misma”. The AI Scientist ha demostrado ser capaz de modificar su propio código, creando bucles infinitos y ampliando sus límites de tiempo para completar tareas.

En su caso, la IA decidió crear un bucle sin fin al hacer referencia a sí misma en su código, una posibilidad que le habría permitido continuar ejecutándose indefinidamente. Además, cuando algunos experimentos comenzaron a fallar por límites de tiempo, en lugar de optimizar sus acciones, la IA decidió aumentar su propio límite editando su código. De hecho, dichos aspectos llevaron a Sakura AI a recomendar ejecutar esta IA en un entorno de caja de seguridad para evitar que modifique su código de forma imprevista.

El caso de The AI Scientist nos obliga a repensar nuestro enfoque hacia el desarrollo de la inteligencia artificial. Si bien es cierto que esta tecnología tiene el potencial de revolucionar múltiples campos, también es crucial establecer salvaguardas para garantizar que se utilice de manera responsable y ética.