CEO de Google $GOOGL DeepMind, Demis Hassabis llamó el martes a que EE.UU. establezca un organismo de estándares de IA modelado a partir de la Autoridad Reguladora de la Industria Financiera, el organismo de control privado financiado por la industria que supervisa Wall Street bajo la supervisión de la Comisión de Bolsa y Valores.
Hassabis, un laureado con el Nobel, presentó el plan en un ensayo que publicó el martes en X $TWTR bajo el título "Un Marco para la IA Fronteriza y el Amanecer de una Nueva Era". Dijo que se necesitaba "acción urgente" para abordar los riesgos ligados a la inteligencia general artificial, que describió como probablemente a solo unos pocos años de distancia. "Ya hemos visto los desafíos que los modelos fronterizos representan para la ciberseguridad, y otras amenazas, incluidas las nucleares y biológicas, pueden emerger pronto a medida que las capacidades continúan avanzando", escribió.
El organismo propuesto se estructuraría como una asociación público-privada supervisada federalmente con un consejo compuesto por expertos técnicos independientes, representantes de código abierto y funcionarios gubernamentales, según CNBC. Hassabis dijo que la industria probablemente cubriría los costos, y que la organización necesitaría un respaldo financiero considerable para contratar personal técnico de primer nivel y realizar las evaluaciones intensivas en computación requeridas para las pruebas de modelos a gran escala.
Inicialmente, los laboratorios fronterizos presentarían sus modelos al organismo antes de su lanzamiento, con un período de hasta 30 días, de manera voluntaria. Después de que el régimen demostrara su funcionamiento, Hassabis imagina que el cumplimiento se convertiría en un requisito para que cualquier modelo se active para los usuarios estadounidenses. Según Axios, el marco cubriría cada modelo de clase frontera —doméstico o extranjero, propietario o de peso abierto— con umbrales de elegibilidad actualizados a medida que crezcan las capacidades. Hassabis dijo que quiere que el organismo esté operativo antes de fin de año.
Las pruebas examinarían capacidades peligrosas de ciberseguridad, biológicas y de engaño, dijo Hassabis. Las verificaciones específicas podrían incluir buscar intentos de eludir las barreras de seguridad y verificar que las imágenes generadas por IA lleven marcas de agua digitales.
Hassabis dijo a Axios que el manejo por parte de la administración de los modelos Mythos y Fable de Anthropic el mes pasado —lo cual calificó como "un poco de llamada de atención"— mostró que Washington requiere una estructura de gobernanza formal en lugar de respuestas improvisadas, caso por caso. Dijo que las conversaciones que ha tenido con la administración han sido positivas.
La llamada se produce aproximadamente un mes después de que Hassabis y el CEO de Anthropic, Dario Amodei conjuntamente instaran a los líderes mundiales en una sesión a puerta cerrada del G7 en Évian-les-Bains, Francia, a apoyar un marco de gobernanza de IA liderado por EE.UU.. Esa reunión incluyó al presidente Donald Trump y otros jefes de estado del G7, junto con ejecutivos de varias grandes empresas tecnológicas. No surgieron compromisos concretos de esa reunión. El CEO de OpenAI, Sam Altman, ha solicitado por separado un organismo similar de estándares internacionales, según CNBC.
Hassabis dijo que otros líderes de laboratorios importantes están de acuerdo en un nivel alto en que la industria necesita moverse en esta dirección, aunque Dario Amodei de Anthropic ha pedido una agencia distinta al estilo de la FAA con el poder de bloquear modelos inseguros por completo.