Sam Altman advierte que el mundo puede “perder el control del futuro” ante la inteligencia artificial

El director ejecutivo de OpenAI, Sam Altman, volvió a llamar la atención en la madrugada de este lunes sobre la pérdida del "control del futuro" ante la inteligencia artificial, e insistió en la necesidad de crear modelos seguros en su desarrollo, según publicó en su cuenta de X.

Dos escenarios de riesgo

Además de la necesidad de un mayor control, Altman advirtió sobre la creación de "un mundo con demasiada concentración de poder", dado que "si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos".

"Hay dos formas —la pérdida de control y la concentración— en que el progreso de la IA podría salir muy mal y que debemos evitar", destacó el directivo de OpenAI. Según explicó, evitar simultáneamente estas dos amenazas requiere "caminar por un sendero angosto", y puso como ejemplos el peligro de que un país o un laboratorio de inteligencia artificial concentren demasiado poder.

Un llamado a la confianza en las empresas estadounidenses

Siguiendo con su reflexión, Altman pidió confianza en las empresas estadounidenses que desarrollan IA, ya que, en su opinión, "cada vez más actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado". "El mundo merece confianza en que las empresas estadounidenses que desarrollan una IA cada vez más capaz actuarán de manera responsable", escribió el ejecutivo en su publicación original en inglés.

Un marco federal para la "IA de frontera"

Altman apeló a un marco legal federal en Estados Unidos que "establezca requisitos de seguridad consistentes para la IA de frontera" (frontier AI), un conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual. Estos requisitos, explicó, pueden suponer la evaluación de los nuevos modelos de forma preventiva, durante su desarrollo, y no cuando estén a punto de salir al mercado.

El ejecutivo también respaldó la posibilidad de incorporar auditores independientes como parte de los mecanismos de control, aunque consideró que las empresas no deberían esperar la aprobación de nuevas leyes para comenzar a implementar esas medidas por su cuenta.

El directivo pidió, además, la colaboración entre empresas para formular nuevos enfoques y compartir estándares de seguridad, sin detener el ritmo de progreso de la IA, aunque consideró que "ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia". Por último, Altman solicitó la colaboración del Gobierno de Estados Unidos para encontrar una coordinación internacional en el desarrollo de esta tecnología.

Un riesgo que Altman califica de "inaceptable"

En una publicación posterior, el CEO de OpenAI fue más categórico al sostener que "es inaceptable asumir un riesgo del 10% de acabar con la vida de todo el mundo" antes de que termine la década, una afirmación que refleja la magnitud de las preocupaciones que el propio directivo plantea sobre el ritmo actual de desarrollo de la inteligencia artificial.

OpenAI descarta salir a bolsa en 2026

Estas declaraciones se dieron en el mismo momento en que trascendió que OpenAI decidió no salir a cotizar en bolsa durante 2026, pese a haber iniciado el proceso de forma confidencial en junio. Altman explicó que sería "un momento poco prudente" para dar ese paso, precisamente por las preocupaciones de seguridad que atraviesa actualmente la industria.

Una ola de advertencias que ya venía gestándose

Las peticiones del sector de la IA para regular la inteligencia artificial y ralentizar su desarrollo sorprendieron la semana pasada, cuando el propio Altman comunicó a su plantilla sus planes para moderar el ritmo con el que desarrollan sus productos. En el mismo sentido se pronunciaron el fin de semana anterior el magnate Elon Musk y el máximo responsable de Anthropic, Dario Amodei.

La postura de la Casa Blanca

Pese a esta ola de advertencias provenientes del propio sector, el presidente de Estados Unidos, Donald Trump, rechazó pausar el desarrollo de la inteligencia artificial por parte de las empresas estadounidenses, al considerar que esto podría darle ventaja a China en la carrera tecnológica global.

Un debate que se traslada a Riad

Estas declaraciones de Altman coinciden, además, con la apertura este mismo lunes del IV Foro Global sobre la Ética de la Inteligencia Artificial de la Unesco, celebrado en Riad, Arabia Saudita, donde ministros y líderes tecnológicos de 194 países discuten precisamente cómo dar fuerza legal y práctica a los acuerdos éticos internacionales sobre esta tecnología, en un contexto que ambos eventos coinciden en describir como de máxima tensión sobre el ritmo de desarrollo de la inteligencia artificial a nivel global.