Anthropic advierte a inversionistas sobre “riesgos existenciales” de la IA antes de su salida a bolsa
La empresa de Claude hizo la advertencia antes de preparar una salida a bolsa, mientras crece el debate internacional sobre regular el desarrollo de modelos avanzados.
La IA representa "riesgos existenciales para la humanidad": Anthropic
La empresa estadounidense de inteligencia artificial Anthropic, creadora del modelo Claude, advirtió a los inversores antes de su salida a bolsa que esta tecnología podría presentar "riesgos existenciales para la humanidad", informa el Financial Times.
Recientemente ha resurgido un debate sobre los posibles riesgos vinculados a la IA con modelos de comportamiento a veces impredecibles.
La semana pasada varios grandes líderes de IA llamaron en la ONU a extremar la vigilancia. El cofundador y director ejecutivo de Anthropic, Dario Amodei, incluso se comprometió a ralentizar unilateralmente su desarrollo.
Las cifras detrás de la operación
Según el folleto informativo de Anthropic para su salida a bolsa, la compañía registró el año pasado una pérdida de explotación de más de US$8.000 millones, debido a un fuerte aumento de sus gastos en capacidad de cálculo. La facturación fue de alrededor de US$4.600 millones y prevé gastar US$518.000 millones en los próximos años para apoyar su crecimiento.
La AFP contactó con Anthropic pero la empresa no quiso comentar la información publicada por el Financial Times.
Valorada en US$965.000 millones en mayo, la empresa de San Francisco prepara una salida a bolsa que se prevé récord.
Poner freno no será fácil
En medio de este contexto, el CEO de Anthropic, Darío Amodei, publicó un extenso ensayo en el que, entre muchos otros pilares, habló sobre la necesidad de ralentizar o regular el ritmo con el que se está desarrollando la inteligencia artificial.
No hay que perder de vista que, detrás de esta carrera por desarrollar sistemas de IA cada vez más avanzados, también se libra una suerte de nueva guerra fría: no solo entre las grandes compañías del sector, como SpaceXAI, Anthropic, OpenAI, Microsoft y High-Flyer, sino también entre potencias globales, como Estados Unidos y China.
Bajo este contexto, aunque todos sepan que hay que parar antes de que las cosas comiencen a salirse de control, la competencia es tan alta que dar un paso al costado implica dar ventaja al rival.
La propuesta de Amodei: evaluadores externos y coordinación frente a China
Amodei considera que es necesario que se avance hacia unas reglas de juego claras en las que se adopten salvaguardas, como evaluadores externos con la capacidad de acceder a las herramientas y datos de las empresas para supervisar sus procesos, evaluar los riesgos e informar al público sin que haya un filtro o control editorial.
De cara a China, propone que las empresas de países democráticos se coordinen para proteger su ventaja limitando la exportación de chips de alto rendimiento, combatiendo el contrabando de hardware y evitando la destilación o robo de modelos. A esto se suma el no desestimar llegar a eventuales acuerdos de cooperación con el gigante asiático.
No todas las voces están de acuerdo
Y, aunque parece haber un incipiente principio de acuerdo en que es deseable ir pisando con más cuidado en estos terrenos (si no es que se requiere frenar del todo en algunas iniciativas), no todas las voces opinan lo mismo. Esta misma semana, Mark Zuckerberg, fundador de Facebook y CEO de Meta, criticó estos deseos.
Un debate que en Colombia aún no ha llegado
Ese debate sobre el freno global tiene, sin embargo, poco eco en Colombia. Aquí la discusión ni siquiera ha llegado a ese punto: el país todavía no tiene reglas claras para la IA que ya opera en su territorio.
- LO MÁS LEÍDO EN Tecnología
