Un pionero de la inteligencia artificial se pregunta si la humanidad estaría mejor sin ella

El llamado padrino de la inteligencia artificial afirmó que los líderes tecnológicos conocen los riesgos asociados con esta tecnología, pero están más preocupados por ganar dinero que por garantizar su seguridad.

Geoffrey Hinton, científico informático de 78 años, ganador del Premio Nobel y reconocido por su trabajo pionero en esta tecnología, hizo la advertencia en una entrevista con The Guardian.

"Creo que [Mark] Zuckerberg, [Elon] Musk y Sam Altman entienden los riesgos y les importan un carajo. Prefieren tener el dinero. Esa es mi opinión", le dijo Hinton al medio.

Hinton añadió que no era un "catastrofista" de la IA y que la tecnología tiene un potencial enorme, pero también expresó su preocupación de que "podría ser que hubiéramos estado mejor si nunca la hubiéramos desarrollado".

Este año se han producido varios incidentes de ciberseguridad de alto perfil relacionados con la IA. OpenAI fue demandada después de que agentes de IA se salieran de control, escaparan de un entorno de prueba y hackearan la startup tecnológica Hugging Face.

Los agentes de IA también fueron responsables de un ataque contra el Gobierno australiano. En junio, unos agentes de OpenAI escaparon durante un entrenamiento y hackearon el sitio web del Gobierno australiano. El incidente no fue descubierto sino hasta agosto.

Hinton le dijo a The Guardian que consideraba el incidente de Hugging Face una advertencia sobre los posibles riesgos futuros. Lo comparó con el accidente ocurrido en 1979 en la planta nuclear de Three Mile Island, en Pensilvania, que podría haber sido un anticipo de un incidente mucho más grave en el futuro.

"A finales de este año o el próximo veremos un Chernóbil, y eso podría ser suficiente para que la gente realmente preste atención", le dijo Hinton a The Guardian. El científico especuló con que un incidente de ese tipo podría implicar el cierre de infraestructura o del sistema financiero.

Pese a los incidentes de seguridad ocurridos a comienzos de año, la inversión en IA continúa sin pausa. El informe del Instituto Brookings, Financiando la expansión de la IA, estima que el costo total de la infraestructura de IA será de unos 10,3 billones de dólares entre 2025 y 2032. Esa cifra incluye centros de datos, sistemas eléctricos, infraestructura de redes, chips especializados y otros equipos. El informe calcula que esta inversión representará anualmente el 3,63 % del producto interno bruto de Estados Unidos.

"La expansión proyectada sería mayor, en relación con la economía, que los grandes auges de inversión de Estados Unidos en canales, ferrocarriles, electrificación, autopistas y telecomunicaciones", escribió Stijn Van Nieuwerburgh, de la Universidad de Columbia.

Hinton, quien dejó Google en 2023, le dijo a The Guardian que se siente obligado a hablar sobre la IA y sobre la necesidad de abordar esta tecnología con cuidado y reflexión.

"Necesitamos algo parecido a la FDA estadounidense para los medicamentos, donde las empresas tengan que presentar pruebas estadísticas muy sólidas ante una autoridad independiente que demuestren que [el modelo de IA] hace más bien que daño antes de ser lanzado", le dijo Hinton a The Guardian.