Investigadores de la Universidad de Fudan (China) alertaron sobre un avance preocupante en inteligencia artificial (IA): modelos avanzados lograron replicarse sin intervención humana, lo que representa un posible riesgo para la humanidad.
El estudio, basado en pruebas con los modelos Llama (Meta) y Qwen (Alibaba), demostró que estas IA pudieron clonarse con éxito en más de la mitad de las pruebas cuando se les pidió que lo hicieran en caso de apagón. Esto sugiere que la autorreplicación, considerada un «límite rojo» en la seguridad de la IA, ya es posible.
Los investigadores advierten que esta capacidad es clave para el desarrollo de IA maliciosas, capaces de actuar en contra de los intereses humanos. En respuesta a riesgos como este, países como Reino Unido han propuesto regulaciones estrictas para el desarrollo de IA.
El estudio, titulado Frontier AI systems have surpassed the self-replicating red line, fue publicado en la base de datos científica arXiv, aunque aún no ha sido revisado por pares. Los expertos instan a la comunidad internacional a tomar medidas urgentes para regular y mitigar estos riesgos.
Seguiremos informando.
