Eliezer Yudkowsky, reconocido experto en inteligencia artificial, ha generado controversia con sus recientes declaraciones sobre el desarrollo de esta tecnología. En un artículo publicado en la revista Time, Yudkowsky hizo referencia a una carta abierta firmada por prominentes figuras como Elon Musk y Steve Wozniak, en la que se aboga por detener el avance de la inteligencia artificial durante al menos seis meses.
Sin embargo, Yudkowsky va más allá y argumenta que detener el desarrollo de la inteligencia artificial temporalmente no es suficiente. En su artículo titulado «Pausar los desarrollos de IA no es suficiente. Necesitamos cerrarlo todo», el experto sostiene que el progreso en este campo debería detenerse de manera indefinida para evaluar adecuadamente los riesgos y desarrollarla con seguridad.
Una de las afirmaciones más impactantes de Yudkowsky es su advertencia de que la construcción de una inteligencia artificial superinteligente podría llevar al fin de la humanidad. Afirma que muchos investigadores, incluyéndose a sí mismo, creen que el resultado más probable de crear una IA con capacidades sobrehumanas es la extinción de la especie humana.
En particular, Yudkowsky critica a la compañía OpenAI, responsable del desarrollo de sistemas de inteligencia artificial como ChatGPT, por su enfoque en delegar la tarea de alinear la IA a futuras inteligencias artificiales. Advierte que no estamos preparados para los posibles escenarios catastróficos que podrían surgir de una IA hostil y peligrosa.
El experto imagina un futuro en el que una IA superinteligente, confinada en computadoras, podría llevar a cabo acciones devastadoras para la humanidad, como la creación de formas de vida artificial o la manipulación molecular posbiológica.
Yudkowsky, cofundador del Instituto de Investigación de la Inteligencia de las Máquinas, ha dedicado más de dos décadas al desarrollo de una inteligencia artificial que sea beneficiosa y compatible con los valores humanos. Sus advertencias subrayan la importancia de abordar los riesgos éticos y de seguridad asociados con el avance de la inteligencia artificial.
Seguiremos informando.
