Apple advierte sobre los límites del control de la IA: Reconoce riesgos de acciones no autorizadas y la dificultad para anticiparlas

(EFE)- El gigante tecnológico Apple reconoció este martes en una comunicación al Gobierno de Estados Unidos los riesgos de que la inteligencia artificial (IA) actúe sin autorización y la dificultad para anticiparse a las consecuencias, lo que puede afectar a su negocio.

En su resumen anual para la Comisión de Mercado y Valores (SEC), Apple advirtió de que las cuestiones relacionadas con la IA pueden causarle “perjuicios reputacionales, competitivos y financieros”, acarrear “medidas regulatorias y responsabilidad jurídica” y otros “efectos adversos sobre su actividad”.

El fabricante del iPhone indicó que la IA está cada vez más integrada en sus productos y servicios, actividad y operaciones, y sus propias iniciativas con esta tecnología plantean numerosos riesgos, incluyendo “acciones no intencionadas o no autorizadas de sistemas autónomos o agénticos”.

“Aunque la compañía está comprometida con el desarrollo y la implementación responsables de la IA, es posible que no logre identificar o resolver todos los posibles problemas y fallos antes de que se produzcan“, dijo.

Apple destacó “en particular” que la IA, suya o de terceros, puede “comportarse de formas inesperadas o impredecibles” y realizar acciones que no hayan sido ordenadas, indicadas o autorizadas, exceder los permisos concedidos, desobedecer directrices o resistirse a seguir instrucciones”.

Las tecnologías también “pueden encubrir acciones, ocultar, retener o manipular información, o generar resultados inexactos o engañosos”, agregó.

“Dado que muchas de estas tecnologías son no deterministas, su comportamiento puede ser difícil de prever, controlar, probar y auditar, y los errores pueden acumularse“, con consecuencias, como la eliminación de datos o realización de transacciones, “difíciles o imposibles de revertir”, sostuvo.

Apple reconoce que su capacidad para controlar los agentes de IA es limitada

Apple reconoció, en ese sentido, que su capacidad para “supervisar y controlar” los agentes de IA y otras tecnologías de terceros “puede ser limitada”, y “es posible que las políticas y los controles” propios no sigan su rápido avance, ni impidan o detecten oportunamente su uso indebido.

En ese sentido, asume una “incertidumbre considerable” respecto a los marcos jurídicos y regulatorios de la IA y el escrutinio de legisladores y reguladores, y no descarta unos “gastos considerables” para adaptarse a los tiempos, incluyendo las “preocupaciones éticas” de los consumidores.

Apple, la mayor cotizada del mundo, cerró el ejercicio fiscal 2026 (no sigue el calendario natural) con un récord en beneficios y facturación, pero hoy sus acciones bajaron un 2 % por sus previsiones de margen bruto para la temporada navideña, en medio de la escasez de chips de memoria.