CEO de Anthropic pide supervisión estatal de la IA y advierte que sus riesgos son “reales”

El CEO y cofundador de Anthropic, Dario Amodei, llamó a reforzar la regulación y supervisión sobre la inteligencia artificial (IA), tras advertir que su rápido desarrollo presenta “peligros reales” y que durante años parte de la industria tecnológica minimizó esos riesgos.

En una entrevista con el programa CBS Sunday Morning, consignada también por la Agencia EFE, el ejecutivo sostuvo que el crecimiento de las capacidades de los modelos de IA muestra una trayectoria exponencial que debería ser tomada como una señal de alerta.

“No les voy a mentir: existen peligros reales”, afirmó Amodei, quien acusó a parte de la industria de no haber transparentado suficientemente los riesgos asociados a esta tecnología.

El ejecutivo precisó, sin embargo, que su postura no implica detener completamente el desarrollo de nuevos modelos.

“No significa que tengamos que entrar en pánico hoy. No significa que tengamos que apagarlo todo. Pero diría que es una señal de advertencia. Es una señal de advertencia de que necesitamos desacelerar”, explicó.

Amodei propone supervisión de gobiernos democráticos

El fundador de Anthropic reconoció sentirse incómodo ante la posibilidad de que empresas privadas concentren el control sobre una tecnología con potencial para generar impactos económicos, sociales y de seguridad a gran escala.

Amodei planteó que debería existir algún mecanismo de supervisión conjunta por parte de gobiernos elegidos democráticamente, aunque rechazó entregar todo el control a un solo Estado.

“Me preocupa que un solo gobierno pueda abusar de esta tecnología con la misma facilidad que una sola empresa”, sostuvo.

Por ello, planteó la posibilidad de establecer algún tipo de gobernanza compartida y mecanismos de monitoreo sobre las compañías que desarrollan los modelos más avanzados.

Pese a sus advertencias, Amodei descartó que una prohibición completa de la inteligencia artificial sea la respuesta adecuada.

El ejecutivo argumentó que esta tecnología también podría entregar importantes beneficios, entre ellos avances científicos y médicos, y advirtió que otros países continuarían desarrollándola aunque Estados Unidos decidiera detenerse.

En ese contexto, calificó como uno de los principales dilemas la competencia con China, dado que una eventual desaceleración estadounidense podría entregar una ventaja tecnológica y militar a Pekín.

Amodei propuso como una alternativa de largo plazo acuerdos internacionales capaces de establecer límites al ritmo del desarrollo, aunque reconoció que alcanzar ese tipo de coordinación sería complejo.

Mayor presión por los riesgos de la inteligencia artificial

Las declaraciones se conocen después de que Amodei publicara un ensayo en el que llamó a la industria tecnológica a reducir el ritmo con el que incrementa las capacidades de sus sistemas.

Entre sus propuestas figura permitir que evaluadores externos independientes tengan acceso permanente a los modelos para comprobar si las empresas cumplen los compromisos de seguridad que han declarado públicamente.

El debate se intensificó además después de que Jacob Coxon, investigador que trabajó en Anthropic y OpenAI, abandonara la industria y alertara sobre los riesgos asociados al desarrollo de sistemas capaces de mejorar sus propias capacidades.

Amodei sostuvo que el resultado dependerá de cómo avance la tecnología: “Si construimos de la manera correcta, creo que la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta”.