El CEO de JPMorgan $JPM Chase, Jamie Dimon, describió los riesgos del acceso público amplio al avanzado modelo de IA Mythos de Anthropic como un "problema real", comparándolo con entregar misiles balísticos a individuos.
"Estás dando misiles balísticos a individuos con Mythos, básicamente," dijo entonces el jefe de JPMorgan sobre el potencial de la amplia difusión del modelo de Anthropic.
Bloomberg / Getty Images
El CEO de JPMorgan $JPM Chase, Jamie Dimon, describió los riesgos del acceso público amplio al avanzado modelo de IA Mythos de Anthropic como un "problema real", comparándolo con entregar misiles balísticos a individuos.
"Básicamente, estás dando misiles balísticos a individuos con Mythos," dijo Dimon, en declaraciones reportadas por Bloomberg. Hablando en la Cumbre de Defensa e Innovación de Pensilvania del Senador Republicano Dave McCormick, Dimon añadió que el gobierno de EE.UU. está al tanto del problema ahora.
La advertencia se centra en la capacidad de Mythos para identificar vulnerabilidades de software a un nivel que Anthropic ha dicho que es demasiado peligroso para su difusión general. JPMorgan es parte de un selecto grupo de empresas que obtuvo acceso al modelo en abril y lo ha estado utilizando para probar la resistencia de los sistemas internos y coordinar hallazgos con proveedores y colegas. El mes después de obtener ese acceso, Dimon dijo que el banco tenía cientos de empleados trabajando a tiempo completo para fortalecer sus sistemas.
La participación de JPMorgan con Mythos es parte de su impulso más amplio hacia la seguridad nacional y la resiliencia económica. El banco anunciado el año pasado una "Iniciativa de Seguridad y Resiliencia" a través de la cual dirigiría $1.5 billones de dólares durante diez años hacia sectores que fortalecen la economía de EE.UU., una cifra 50% superior a lo que habría invertido de otra manera. JPMorgan también vinculó el compromiso a su "Iniciativa del Sueño Americano" por separado, prometiendo $24 millones en una combinación de préstamos, inversiones y subvenciones filantrópicas dirigidas al sector de construcción naval de Filadelfia. Dimon visitó el Astillero de Filadelfia temprano el miércoles mientras el banco anunciaba ese compromiso.
El modelo Mythos ha estado en el centro de un ajuste de cuentas más amplio entre el gobierno y la industria sobre la seguridad de la IA. El gobierno de EE.UU. levantó los controles de exportación sobre los modelos Claude Fable 5 y Mythos 5 de Anthropic este mes después de un cierre de 18 días provocado por investigadores de Amazon $AMZN que documentaron una técnica para provocar salidas peligrosas de Fable 5 relacionadas con el descubrimiento de vulnerabilidades de software. Un grupo limitado de organizaciones de EE.UU. recuperó el acceso a Mythos 5 después de que el gobierno dio su aprobación el 26 de junio; extender ese acceso a socios nacionales e internacionales adicionales a través del programa Glasswing de Anthropic sigue siendo objeto de discusión con las autoridades federales, dijo Anthropic.
Dimon se ha vuelto cada vez más vocal sobre asuntos de seguridad nacional en los últimos años. Su carta a los accionistas de abril argumentó que América debe "hacerse más fuerte" si espera preservar su posición como una potencia militar y económica.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.