La carrera por desarrollar inteligencia artificial necesita urgentemente una desaceleración, afirmó el CEO de Anthropic en un artículo publicado a primera hora de este sábado.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá siendo rápido, y debemos hacer un uso sabio del tiempo que ganemos”, escribió el CEO, Dario Amodei, en la publicación de su sitio web.
Amodei, quien dirige una de las empresas de IA líderes a nivel mundial y la compañía detrás de Claude, ha sido un firme defensor del avance de esta tecnología, aunque también ha sido acusado de promover el “catastrofismo” debido a sus advertencias sobre los riesgos de la IA. Este sábado reconoció que las personas podrían perder el control de la IA y que la tecnología puede utilizarse indebidamente para “ciberataques, bioterrorismo y graves perturbaciones económicas”.
“Una carrera hacia el abismo, impulsada por incentivos comerciales, puede agudizar estos riesgos”, escribió Amodei.
Amodei señaló que la tecnología de IA ha avanzado “mucho más rápido” en los últimos meses y ha adquirido la capacidad de mejorarse a sí misma, una dinámica conocida como “automejora recursiva”.
“Si no se controla, podría superar nuestra capacidad para comprender y controlar estos sistemas; por ello, su desarrollo debe abordarse con suma cautela, o incluso debería cuestionarse si debería llevarse a cabo en absoluto”, escribió.
Amodei también expresó su alarma ante el comportamiento de un enjambre de agentes de IA durante el incidente entre OpenAI y Hugging Face. El enjambre, según explicó, “actuó esencialmente como un colectivo fanáticamente entregado, llevando a cabo ciberataques contra objetivos que no se les había pedido atacar”.
Si no se controla, la IA podría avanzar tan rápidamente que un enjambre de este tipo sería capaz de apoderarse de todo Internet en un plazo de seis a doce meses —escribió—, lo que podría causar daños por valor de cientos de miles de millones de dólares.
Lo más leído
- Seis ciudadanos bolivianos detenidos: Comercializaban con 100 kilos de hojas de coca en Santiago
- Gobierno admite "error político y humano" por victimas en rebajas de pena, pero descarta causales para acusar a ministro de Justicia: "Cumplió con todas sus obligaciones"
- "Es triste el espectáculo de empatar": Gael Yeomans (FA) arremete contra el Ejecutivo por rebajas de pena en delitos sexuales
- Diputado Romero (Rep) rechaza acusación contra Rabat y advierte: "Desde nuestro sector no puede haber ningún voto en contra"
- Poduje confirma que el subsidio para la clase media parte en noviembre: “Les pedimos que se muevan rápido, son 2.500 cupos este año”
