Una coalición global de científicos, empresarios y celebridades está pidiendo una moratoria mundial para frenar el desarrollo de la llamada superinteligencia, un tipo de inteligencia artificial que podría superar a los humanos en todas las tareas cognitivas.
La carta, firmada por más de 4.300 personalidades —entre ellas Steve Wozniak (cofundador de Apple), Richard Branson, Geoffrey Hinton, Yoshua Bengio, la cantante Kate Bush y el músico Will.I.am— advierte que una IA sin control podría amenazar la libertad humana, el orden económico e incluso la supervivencia de la especie.
“Debemos detener el desarrollo de sistemas de superinteligencia hasta que exista un consenso científico de que pueden ser controlados de forma segura”, señala el manifiesto.
Los firmantes alertan que el progreso de la IA está avanzando más rápido de lo que los gobiernos pueden regular, y piden una pausa global antes de que la tecnología escape a la supervisión humana.
Actualmente, OpenAI, Google DeepMind, Anthropic y xAI están compitiendo por crear modelos cada vez más avanzados, capaces de razonar, planificar y autoprogramarse.
Mientras tanto, los intentos de regulación como la Ley de IA de la Unión Europea aún tardarán años en aplicarse, y muchos expertos advierten que ya podrían ser insuficientes frente a la velocidad del desarrollo tecnológico.
“Esta no es una película de ciencia ficción”, señaló un académico firmante del documento. “Estamos construyendo algo que podría redefinir lo que significa ser humano”.
