El rápido avance de la inteligencia artificial vuelve a encender las alertas entre quienes están desarrollando los sistemas más avanzados del mundo. Dario Amodei, CEO de Anthropic, advirtió que la tecnología está progresando a una velocidad que podría superar las medidas de seguridad diseñadas para mantenerla bajo control.
Amodei aseguró que, si las capacidades continúan creciendo al ritmo actual, en un periodo de entre seis y doce meses podría existir un grupo de agentes de inteligencia artificial suficientemente avanzado como para crear una enorme red de computadoras comprometidas a través de internet, con la posibilidad de provocar daños económicos de cientos de miles de millones de dólares. Se trata de un escenario de riesgo planteado por el ejecutivo, no de una predicción de que necesariamente vaya a ocurrir.
Las advertencias han comenzado a surgir desde dentro de las propias compañías. Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, renunció recientemente a esta última empresa tras expresar preocupación por la velocidad con la que se desarrollan sistemas cada vez más poderosos sin que, a su juicio, existan garantías suficientes para mantenerlos bajo control.
Amodei ha dejado claro que no considera que la inteligencia artificial deba detenerse por completo. Por el contrario, sostiene que puede acelerar descubrimientos científicos y generar enormes beneficios para la humanidad. Su preocupación está en que el desarrollo de sus capacidades avance mucho más rápido que las herramientas necesarias para hacerlo de forma segura.
Por ello, el CEO de Anthropic propone que las principales compañías permitan evaluaciones externas independientes, acuerden estándares comunes de seguridad y trabajen junto con los gobiernos para establecer controles antes de que aparezcan sistemas todavía más poderosos. En entrevista con CBS News, resumió el momento actual como una señal de advertencia: no para entrar en pánico, sino para disminuir la velocidad y permitir que la seguridad alcance al desarrollo tecnológico.
