Un reciente PwC global encuesta Encontró que cuando se trata de riesgos generativos de IA, el 64% de los directores ejecutivos dijeron que están más preocupados por la ciberseguridad.
Eso viene como Los ciberataques continúan en aumento.Se espera que los daños causados por ciberataques asciendan aproximadamente a 10,5 billones de dólares anualmente para 2025, un aumento del 300% respecto a 2015, según un informe de McKinsey.
Más de la mitad de los directores ejecutivos encuestados por PwC también estuvieron de acuerdo en que la IA generativa probablemente aumentará la difusión de información errónea en su empresa, según el informe. .
Los riesgos que la IA generativa plantea para las empresas se deben a que muchas de estas mismas empresas han lanzado rápidamente nuevos productos de IA generativa. Los hallazgos “subrayan las obligaciones sociales que tienen los directores ejecutivos para garantizar que sus organizaciones utilicen la IA responsable”, dice el informe de PwC.
PwC encuestó a casi 5.000 directores ejecutivos en todo el mundo desde octubre hasta noviembre de 2023.
OpenAI quiere descubrir cómo combatir los aspectos negativos de la IA generativa
Con OpenAI ayudando a estimular la demanda de tecnología de IA generativa, la compañía anunció esta semana varios proyectos para combatir los efectos potencialmente dañinos de la IA.
En el Foro Económico Mundial en Davos, el vicepresidente de asuntos globales de la compañía le dijo a Bloomberg que OpenAI es desarrollando herramientas con el Departamento de Defensa de Estados Unidos sobre software de ciberseguridad de código abierto.
Justo un día antes, OpenAI explicado sus planes para manejar las elecciones, como algunos mil millones de votantes En todo el mundo acudirán a las urnas este año. Por ejemplo, el generador de imágenes de la empresa, Dall-E, tiene barreras para rechazar solicitudes que soliciten generación de imágenes de personas reales, incluidos candidatos políticos. OpenAI tampoco permite aplicaciones que disuadan a las personas de votar.
A principios de este año, la empresa lanzará un par de funciones que proporcionarán más transparencia en torno al contenido generado por IA. Por ejemplo, los usuarios podrá detectar qué herramientas se utilizaron para producir una imagen. ChatGPT de OpenAI pronto también estará equipado con noticias en tiempo real, que incluye atribución y enlaces, afirma la empresa. La transparencia en torno al origen de la información podría ayudar a los votantes a evaluar mejor la información y a decidir por sí mismos qué pueden confiar.
La IA ya se utiliza en campañas políticas
Canciones generadas por IA La película protagonizada por el primer ministro de la India, Narendra Modi, había ganado fuerza antes de las próximas elecciones de la India, como informó la publicación en línea Resto del Mundo.
Los cambios se producen en medio de preocupaciones de que auge de los llamados deepfakes podría engañar a los votantes durante las elecciones. Empresas como Google, Meta, y Tik Tok ahora requieren etiquetar los anuncios relacionados con las elecciones que utilizan IA.
varios Estados Unidos — incluidos California, Michigan, Minnesota, Texas y Washington—han aprobado leyes que prohíben o exigen la divulgación de deepfakes políticos.
Este contenido ha sido traducido automáticamente del material original. Debido a los matices de la traducción automática, pueden existir ligeras diferencias. Para la versión original, haga clic aquí.