Aclamadas como una primicia mundial, las normas de inteligencia artificial de la Unión Europea se enfrentan a un momento decisivo
LONDRES (AP)—Aclamado como una primicia mundial, Normas de inteligencia artificial de la Unión Europea se enfrentan a un momento decisivo mientras los negociadores intentan ultimar los detalles finales esta semana: conversaciones complicadas por el repentino aumento de IA generativa que produce trabajo similar al humano.
Sugerido por primera vez en 2019, se esperaba que la Ley de IA de la UE fuera la primera regulación integral de IA del mundo, consolidando aún más la posición del bloque de 27 naciones como Marcador de tendencias cuando se trata de controlando la industria tecnológica.
Pero el proceso se ha visto estancado por una batalla de último minuto sobre cómo gobernar los sistemas que sustentan los servicios de IA de propósito general como OpenAI. ChatGPT y El chatbot Bardo de Google $GOOGL. Las grandes empresas tecnológicas están presionando contra lo que consideran una regulación excesiva que sofoca la innovación, mientras que los legisladores europeos quieren Se agregaron salvaguardas para los sistemas de inteligencia artificial de vanguardia. esas empresas están desarrollándose.
Mientras tanto, Estados Unidos REINO UNIDO, China y coaliciones globales como el Grupo de las 7 grandes democracias se han sumado al carrera para elaborar barandillas para la tecnología de rápido desarrollo, subrayada por advertencias de investigadores y grupos de derechos de los Peligros existenciales que plantea la IA generativa para la humanidad así como los riesgos para la vida cotidiana.
“En lugar de que la Ley de IA se convierta en el estándar de oro global para la regulación de la IA, existe una pequeña pero creciente posibilidad de que no lo haga. acordarse antes de las elecciones al Parlamento Europeo el próximo año, dijo Nick Reiners, analista de políticas tecnológicas de Eurasia Group, una agencia de asesoría sobre riesgos políticos. firme.
Dijo que “simplemente hay mucho que concretar” en lo que los funcionarios esperan que sea una ronda final de conversaciones el miércoles. Si trabajan hasta altas horas de la noche como se esperaba, es posible que tengan que luchar para terminar en el nuevo año, dijo Reiners.
Cuando la Comisión Europea, el brazo ejecutivo de la UE, dio a conocer el borrador en 2021, apenas menciona los sistemas de IA de propósito general, como los chatbots. La propuesta de clasificar los sistemas de IA en cuatro niveles de riesgo, desde mínimo hasta inaceptable — estaba concebida esencialmente como legislación de seguridad de producto .
Bruselas quería probar y certificar la información utilizada por los algoritmos que impulsan la IA, de forma muy similar a los controles de seguridad de los consumidores en cosméticos, automóviles y juguetes.
Eso cambió con el auge de la IA generativa, que generó asombro al componer música, crear imágenes y escribir ensayos. parecido al trabajo humano. También avivó teme que la tecnología podría utilizarse para lanzar ataques cibernéticos masivos o crear nuevas armas biológicas.
Los riesgos llevaron a los legisladores de la UE a reforzar la Ley de IA ampliándolo a los modelos de cimientos. También conocidos como modelos de lenguaje grande, estos sistemas se entrenan en vastos tesoros de obras escritas e imágenes. eliminado de internet.
Los modelos Foundation brindan a los sistemas de IA generativa, como ChatGPT, la capacidad de crear algo nuevo, a diferencia de la IA tradicional, que procesa datos y completa tareas. usando reglas predeterminadas.
Caos el último mes en OpenAI respaldado por Microsoft $MSFT, que construyó uno de los más famosos modelos de cimientos, GPT-4, reforzó para algunos líderes europeos los peligros de permitir que unas pocas empresas dominantes de IA se autovigilen.
mientras el director ejecutivo Sam Altman fue despedido y rápidamente recontratado, algunos miembros de la junta con profundas reservas sobre la Riesgos de seguridad que plantea la IA izquierda, lo que indica que el gobierno corporativo de IA podría caer presa de la dinámica de la sala de juntas.
“Al menos ahora las cosas están claras”: empresas como OpenAI defienden sus negocios y no el interés público, dijo el comisario europeo Thierry Breton a un Conferencia de IA en Francia días después el tumulto.
Resistencia a reglas gubernamentales para estos sistemas de IA Provino de un lugar improbable: Francia, Alemania e Italia. Las tres economías más grandes de la UE retrocedieron con un documento de posición que abogaba por la auto- regulación.
El cambio de opinión fue visto como una medida para ayudar a los jugadores locales de IA generativa, como la startup francesa Mistral AI y la alemana Aleph Alpha.
Detrás de esto “hay una determinación de no permitir que las empresas estadounidenses dominen el ecosistema de IA como lo han hecho en oleadas anteriores de tecnologías como la nube. (informática), comercio electrónico y redes sociales”, dijo Reiners.
Un grupo de influyentes científicos informáticos publicó una carta abierta advirtiendo que debilitar la Ley de IA de esta manera sería “un fracaso histórico”. Mientras tanto, en Mistral, se peleó en línea con un investigador de una Organización sin fines de lucro respaldada por Elon Musk que tiene como objetivo prevenir el “riesgo existencial” de la IA.
La IA es “demasiado importante para no regularla, y demasiado importante para no regularla bien”, dijo Kent Walker, el máximo funcionario jurídico de Google, en un discurso en Bruselas la semana pasada. “La carrera debería ser para las mejores regulaciones de IA, no las primeras regulaciones de IA”.
Los modelos de fundaciones, utilizados para una amplia gama de tareas, están demostrando ser el tema más espinoso para los negociadores de la UE porque regularlos “va en contra de la lógica” de toda la ley”, que se basa en los riesgos que plantean usos específicos, dijo Iverna McGowan, directora de la oficina para Europa del Centro sin lucro de derechos digitales para la Democracia y Tecnología.
La naturaleza de los sistemas de IA de propósito general significa que “no se sabe cómo se aplican”, dijo. Al mismo tiempo, las regulaciones son necesarios “porque, de lo contrario, en la cadena alimentaria no hay responsabilidad” cuando otras empresas construyen servicios con ellos, afirmó McGowan.
Altman ha propuesto un Agencia estadounidense o global eso obtendría licencia para los sistemas de IA más poderosos. Sugirió este año que OpenAI podría abandonar Europa si no podía cumplir con la UE reglas pero rápidamente retrocedió esos comentarios.
AlephAlpha dijo que “se necesita un enfoque equilibrado” y apoyó el enfoque basado en el riesgo de la UE. Pero “no es aplicable” a los modelos de fundaciones, que necesitan regulaciones “más flexibles y dinámicas”, afirmó la empresa alemana de IA.
Los negociadores de la UE todavía tienen que resolver algunos otros puntos controvertidos, incluida una propuesta para prohibir completamente reconocimiento facial público en tiempo real. Los países quieren una exención para que las autoridades puedan usarla para encontrar niños desaparecidos o terroristas, pero los grupos de derechos humanos temen que eso creará efectivamente una base legal para la vigilancia.
Las tres ramas del gobierno de la UE se enfrentan a una de sus últimas oportunidades de llegar a un acuerdo el miércoles.
Incluso si lo hacen, los legisladores del bloque 705 aún deben aprobar la versión final. Esa votación debe realizarse en abril, antes de Comienzan a hacer campaña para las elecciones en toda la UE en junio. La ley no entraría en vigor antes de un período de transición, normalmente de dos años.
Si no pueden hacerlo a tiempo, la legislación quedará en suspenso hasta el próximo año, después de que los nuevos líderes de la UE, quienes podrían tener diferentes puntos de vista sobre la IA, asuman el cargo.
“Existe una buena posibilidad de que sea, de hecho, el último, pero existe la misma posibilidad de que todavía necesitemos más tiempo. negociar”, dijo Dragos Tudorache, un legislador rumano que codirige las negociaciones de la Ley de IA del Parlamento Europeo, en un panel de discusión la semana pasada.
Su oficina dijo que no estaba disponible para una entrevista.
“Aún sigue siendo una conversación muy fluida”, dijo en el evento en Bruselas. “Vamos a mantenerlos adivinando hasta el último momento”.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
