El barrido del presidente de Estados Unidos Joe Biden orden ejecutiva Establecer directrices para la inteligencia artificial ha sido ampliamente aplaudido por la industria, mientras que el 68% de los estadounidenses aprueba la iniciativa, según La última encuesta del AI Policy Institute.
La orden ordena a varias agencias gubernamentales que establezcan reglas y directrices, informen sobre sus avances y creen fondos para la investigación de la IA. empresas de tecnología para probar y evaluar sus sistemas de IA e informar sus hallazgos al gobierno antes de hacerlos públicos, para mitigar el sesgo de la IA, y a marcar de agua el contenido generado por IA.
“Ver un énfasis tan fuerte en probar y evaluar sistemas de IA parece bueno: no se puede gestionar lo que no se puede medir”. publicado Jack Clark, cofundador de Anthropic, la empresa detrás del chatbot de Amazon Bedrock, Claude, en X.
“A Scale le complace ver que reconocen la importancia de realizar pruebas y evaluaciones rigurosas antes del despliegue de la IA”, dijo un portavoz de Scale AI, un proveedor de conjuntos de datos utilizados para entrenar la IA.
Una fuerza impulsora detrás de la orden ejecutiva es promover la competencia mientras Estados Unidos juega ponerse al día con otras naciones, después de años de audiencias en el Congreso con directores ejecutivos de grandes tecnologías que vieron el llamado de la industria regulación gubernamental.
Biden firmó la orden el lunes (30 de octubre), justo antes que la vicepresidenta Kamala Harris. asistencia planificada en la cumbre sobre IA del primer ministro del Reino Unido, Rishi Sunak, que se celebrará en Londres la próxima semana.
¿Es posible regular la IA?
Regular la IA es como “clavar gelatina en la pared”, escribió W. Russell Neuman, profesor de tecnología de medios en la Universidad de Nueva York. , en un Artículo de opinión del Boston Globe El mes pasado. “La IA es la aplicación de un conjunto de algoritmos matemáticos y no se pueden regular las matemáticas”, añadió Neuman.
Sin embargo, está satisfecho con esta orden. “Me alegró que no hicieran mal; su enfoque es bueno”, le dijo Neuman a Quartz. .
el dijo algunos miembros del congreso tienen el impulso de regular y otorgar licencias de IA directamente, limitando la innovación y la creatividad, pero la orden de Biden lo evitó, restringiendo el alcance a modelos fundamentales en grandes idiomas (LLM).
Los LLM son algoritmos de IA entrenados en conjuntos de datos masivos para resumir, traducir, predecir palabras en función del contexto y generar texto. Los cuatro grandes Los creadores de LLM son AbiertoAI (con Microsoft), Meta, Alphabet (Google), y Anthropic, ahora fuerte respaldado por Amazon.
Destacar los LLM fundamentales es importante porque la responsabilidad recaería en esas empresas para probar y evaluar sus modelos, junto con el “equipo rojo”, ” o piratearlos, para identificar problemas que luego compartirían con el gobierno de Estados Unidos.
Es un buen comienzo, pero los expertos afirman que el hecho de que la IA evolucione tan rápidamente hace que sea difícil regularlo.
“Si bien el gobierno de EE. UU. puede potencialmente regular algunos aspectos de la IA, como cómo se desarrollan estas plataformas, para qué se desarrollan “Y el uso intencional de datos de entrenamiento, todavía enfrentaremos muchos desafíos graves”, dijo Chris Pierson, director ejecutivo de BlackCloak, una empresa digital. Pierson también es ex miembro del subcomité de privacidad y ciberseguridad del Departamento de Seguridad Nacional de EE. UU.
A Pierson le preocupa especialmente que actores malintencionados y adversarios extranjeros puedan robar la tecnología o eliminar las salvaguardias y utilizarla con fines delictivos.
“Las plataformas de IA en sí mismas también podrían evolucionar por sí solas más allá de ciertas restricciones a menos que sean monitoreadas y controladas cuidadosamente”, agregó.
Dudas sobre el talento de la IA y los derechos de autor
La orden de Biden alienta al gobierno a contratar talentos de IA e impulsar la capacitación de personal en todos los niveles y áreas. una medida elogiada por un expresidente de Estados Unidos.
“Necesitamos convencer a más personas talentosas para que trabajen en el gobierno, no sólo en el sector privado”. escribió Barack Obama en su blog.
Sin embargo, atraer talento fuera de la industria será un desafío, dados los altos salarios que exigen los trabajadores en el campo de la IA. compensación mediana en EE.UU. para ingenieros de software centrados en IA es de $247,200, según la firma de consultoría profesional Levels.fyi. A principios de este año, Netflix ofreció un salario de 900.000 dólares para un gerente de producto de IA.
“Otro factor importante aquí es la cultura del gobierno, que es muy diferente de la del sector privado, particularmente cuando hablamos de alto nivel. campos tecnológicos, innovadores y de rápido movimiento como la IA”, dijo Karim Hijazi, director ejecutivo de Vigilocity, una empresa de ciberseguridad. Hijazi también es un ex contratista. para la comunidad de inteligencia estadounidense.
Si bien algunos profesionales apasionados podrían “renunciar a los beneficios financieros a corto plazo”, dijo Hijazi, el enfoque naturalmente conservador del gobierno no está “motivando talentos sofisticados”.
La orden ejecutiva también busca prevenir desplazamiento de trabajadores surgiendo de la IA, pero no cumple la protección de autoridad de la propiedad intelectual utilizada para entrenar modelos generativos de IA , uno de los sindicatos de actores SAG-AFTRALos puntos conflictivos de Afganistán en sus negociaciones de huelga en curso.
Aun así, el sindicato publicó su apoyo para el orden en X. “Para un desarrollo y uso fuerte, seguro y responsable, de la IA , es imperativo que los trabajadores y sindicatos permanezcan en la vanguardia del desarrollo de políticas», decía . «Esperamos trabajar juntos para un enfoque centrado en el humano.
¿Qué sigue para la regulación de la IA?
Dado que la mayoría de los estadounidenses y la industria tecnológica apoyan la regulación de la IA, El próximo año revelará si Biden podrá lograr establecer una supervisión significativa.
“Mi meta conclusión del texto completo de la Orden Ejecutiva sobre IA es que en los próximos 6 a 12 meses habrá una Una cantidad insondable de directrices, procesos de elaboración de normas, informes, documentos técnicos, grupos de trabajo, comentarios públicos, paneles y todo eso”, Arvind Narayanan, director de Princeton. Centro de Política de Tecnología de la Información , publicado en X.
En cuanto a Neuman, de la Universidad de Nueva York, espera que la iniciativa ayude a generar impulso para aprobar un proyecto de ley actual del Congreso que proporcionaría $1 mil millones en financiación un año para la investigación de la IA y el establecimiento de un recurso nacional de investigación de la IA (NAIRR).
Promulgar y adoptar un marco concreto de IA para regularla aún está muy lejos.
“Esta EO [orden ejecutiva] es el comienzo de una conversación únicamente», dijo Pierson, de BlackCloak. Abordar los beneficios de la IA y mitigar los posibles obstáculos depende de iniciar estas conversaciones ahora, dentro de una rúbrica común”.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.