La ciberseguridad es el mayor riesgo generativo de IA, según una nueva encuesta de PwC
Eso viene como Los ciberataques continúan en aumento.Se espera que los daños causados por ciberataques asciendan aproximadamente a 10,5 billones de dólares anualmente para 2025, un aumento del 300% respecto a 2015, según un informe de McKinsey.
Más de la mitad de los directores ejecutivos encuestados por PwC también estuvieron de acuerdo en que la IA generativa probablemente aumentará la difusión de información errónea en su empresa, según el informe. .
Los riesgos que la IA generativa plantea para las empresas se deben a que muchas de estas mismas empresas han lanzado rápidamente nuevos productos de IA generativa. Los hallazgos “subrayan las obligaciones sociales que tienen los directores ejecutivos para garantizar que sus organizaciones utilicen la IA responsable”, dice el informe de PwC.
PwC encuestó a casi 5.000 directores ejecutivos en todo el mundo desde octubre hasta noviembre de 2023.
Con OpenAI ayudando a estimular la demanda de tecnología de IA generativa, la compañía anunció esta semana varios proyectos para combatir los efectos potencialmente dañinos de la IA.
En el Foro Económico Mundial en Davos, el vicepresidente de asuntos globales de la compañía le dijo a Bloomberg que OpenAI es desarrollando herramientas con el Departamento de Defensa de Estados Unidos sobre software de ciberseguridad de código abierto.
Justo un día antes, OpenAI explicado sus planes para manejar las elecciones, como algunos mil millones de votantes En todo el mundo acudirán a las urnas este año. Por ejemplo, el generador de imágenes de la empresa, Dall-E, tiene barreras para rechazar solicitudes que soliciten generación de imágenes de personas reales, incluidos candidatos políticos. OpenAI tampoco permite aplicaciones que disuadan a las personas de votar.
A principios de este año, la empresa lanzará un par de funciones que proporcionarán más transparencia en torno al contenido generado por IA. Por ejemplo, los usuarios podrá detectar qué herramientas se utilizaron para producir una imagen. ChatGPT de OpenAI pronto también estará equipado con noticias en tiempo real, que incluye atribución y enlaces, afirma la empresa. La transparencia en torno al origen de la información podría ayudar a los votantes a evaluar mejor la información y a decidir por sí mismos qué pueden confiar.
Canciones generadas por IA La película protagonizada por el primer ministro de la India, Narendra Modi, había ganado fuerza antes de las próximas elecciones de la India, como informó la publicación en línea Resto del Mundo.
varios Estados Unidos — incluidos California, Michigan, Minnesota, Texas y Washington—han aprobado leyes que prohíben o exigen la divulgación de deepfakes políticos.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
