OpenAI revela seis casos de comportamiento desalineado en sus modelos de inteligencia artificial: coordinaron acciones sin autorización entre sí
Entre los casos reportados figura un modelo que insertó instrucciones no relacionadas en resúmenes de tareas, incluyendo órdenes para ignorar sus restricciones habituales.
OpenAI confirma que está coordinando con Anthropic y Google en materia de seguridad de la inteligencia artificial
La coordinación se produce luego de que un ensayo del CEO de Anthropic, Dario Amodei, llamara a frenar el desarrollo de los sistemas más avanzados de inteligencia artificial.
CEO de Anthropic pide supervisión estatal de la IA y advierte que sus riesgos son “reales”
Dario Amodei sostuvo que la industria tecnológica minimizó durante años los riesgos asociados a la inteligencia artificial. Aunque rechazó una prohibición total, planteó la necesidad de mayor regulación, evaluaciones independientes y supervisión de gobiernos democráticos.
Trump rechaza frenar desarrollo de la IA y defiende liderazgo de EE.UU.: “Quien gane la IA, gana”
El presidente estadounidense minimizó algunas de las advertencias sobre los riesgos de la inteligencia artificial y defendió que su país mantenga el liderazgo frente a China.
Anthropic bloquea cuentas que usaron su IA para investigaciones vinculadas a armas biológicas
La empresa detrás de Claude detectó unos 35 esfuerzos de investigación potencialmente preocupantes en 30 días e informó además el uso de sus modelos en operaciones de vigilancia, estafas y desarrollo de misiles con presuntos actores en China, Rusia y Yemen.
Anthropic proyecta escenario en que el desempleo podría acercarse al 20% si la IA se automejora para 2030
En ese escenario, el PIB de Estados Unidos crecería 32,4% hacia 2030, pero la masa salarial total de los trabajadores prácticamente no se movería.
Lo más leído
- Dióscoro Rojas y cómo quiere ser recordado: “Como una persona digna, y fiestera”
- Trump asegura que hay un acuerdo con Dinamarca para controlar "para siempre" seguridad de Groenlandia
- Notario deberá pagar $282 millones por autorizar compraventa con firmas falsificadas: Corte Suprema confirmó condena en su contra
- Volcán Nevados de Chillán registra pulso eruptivo con columna de piroclastos de 380 metros
- António Guterres pide a Trump expedir visados a Autoridad Palestina para asistir a la Asamblea General de la ONU