Por toda la información que las empresas tecnológicas ya tienen sobre nosotros, las herramientas de IA que se están implementando podrían conocernos tan íntimamente como los amigos.
Andrew Harrer/Bloomberg via Getty Images
Una versión de este artículo apareció originalmente en el boletín de IA y Tecnología de Quartz. Regístrate aquí para recibir las últimas noticias, análisis y perspectivas de IA y tecnología directamente en tu bandeja de entrada.
Mark Zuckerberg presentó el futuro de la publicidad de Meta $META en una reciente llamada de resultados, y suena como el sueño de un comercializador. Los anunciantes simplemente proporcionarán un objetivo comercial e información de pago, dijo, y la IA se encargará de todo lo demás, incluyendo la generación de contenido de video y creativo personalizado adaptado a usuarios individuales.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
Por toda la información que las empresas tecnológicas ya tienen sobre nosotros, las herramientas de IA que se están implementando podrían conocernos tan íntimamente como los amigos. Y a diferencia de los algoritmos de hoy que rastrean clics y compras, estos sistemas entenderán tus inseguridades, tus aspiraciones y exactamente qué se necesita para cambiar tu opinión. Ese perfil psicológico se convierte luego en un producto —piensa en Google $GOOGL AdWords combinado con las notas de tu terapeuta— vendido al mejor postor.
Google es ya está probando anuncios en sus respuestas de chatbot de IA. OpenAI está contratando una nueva plataforma de publicidad. Ticketmaster está ejecutando anuncios de Facebook generados por IA con familias virtuales cuyas lealtades de equipo cambian según quién los vea. Eventualmente, podrían ser familias que se parezcan a la tuya, coincidiendo con tus demográficos y características.
Luego viene el siguiente paso lógico de anuncios que usan tus propias fotos, insertando digitalmente a tu familia real en contenido de marca. (¿No me crees? Facebook fue pionero en algo similar en 2009, usando las fotos de perfil de los miembros en anuncios mostrados a sus amigos cuando se hicieron fanáticos de las páginas de marcas.)
La infraestructura para la publicidad hiper-personalizada a escala se está construyendo ahora mismo, y está diseñada para ser invisible.
Ese es el problema. A diferencia de los anuncios tradicionales que están claramente marcados como contenido patrocinado, Publicidad incrustada con IA podría enfatizar ciertos temas o usar un lenguaje particular mientras mantiene la ilusión de neutralidad. Cuando tu asistente de IA está incentivado financieramente a través de ingresos por publicidad, podría dirigir las conversaciones hacia temas que generen ingresos sin que siquiera lo notes.
El caso de negocio que impulsa esta transformación es sencillo. La consultora de gestión McKinsey informa que la personalización puede reducir la adquisición de clientes reduce los costos hasta en un 50 %, aumentar los ingresos entre un 5 % y un 15 %, y aumentar el ROI de marketing entre un 10 % y un 30 %. Las empresas con tasas de crecimiento más rápidas obtienen un 40 % más de ingresos de la personalización en comparación con competidores de crecimiento más lento.
Los sistemas de IA multimodal que procesan texto, imágenes, audio y video simultáneamente están eliminando la vieja disyuntiva entre personalización y escala. Durante décadas, las empresas podían crear experiencias altamente personalizadas para pequeños grupos o llegar a audiencias masivas con mensajes genéricos, pero no ambas cosas.
El La esfera de Las Vegas ya utiliza sistemas de audio que permiten a las personas que están a centímetros de distancia escuchar contenido completamente diferente. Johnnie Walker llevó a cabo una experiencia en Edimburgo donde los visitantes respondieron tres preguntas que generaron etiquetas de botellas completamente únicas que se imprimieron en minutos. Estos son ejemplos tempranos de lo que es posible cuando la IA puede analizar múltiples flujos de datos y personalizar experiencias en cada dimensión simultáneamente.
Eso hace que la manipulación sea casi imposible de detectar. Cuando todos ven la misma cartelera o comercial de televisión, al menos se puede discutir si el mensaje parece manipulador. Cuando el contenido está individualmente personalizado e invisible para todos los demás, no hay forma de comparar notas o señalar tácticas problemáticas.
Ya está funcionando. Un minorista con el que McKinsey habló para su informe dijo que usó IA para orientar las promociones y vio aumentar las ventas hasta un 2% y mejorar los márgenes hasta un 3%. Lo que eso realmente significa: el sistema descubrió qué compradores eran lo suficientemente sensibles al precio como para necesitar un descuento y cuáles pagarían el precio completo de todos modos. Estás obteniendo un trato porque un algoritmo calculó que estás lo suficientemente desesperado como para necesitar uno, mientras que la persona a tu lado paga más por el mismo artículo.
Las empresas están invirtiendo mucho para escalar esto a pesar de las limitaciones técnicas significativas. Por ejemplo, la IA tiene problemas con analizar tonos de piel más oscuros porque los datos de entrenamiento se inclinan hacia las complexiones más claras. También tiene problemas para procesar idiomas más allá de los principales que dominan los datos de entrenamiento. Y, por supuesto, ejecutar personalizaciones complejas en tiempo real consume mucho recursos informáticos. Construir infraestructura para una verdadera personalización requiere repensar los procesos de producción completos, razón por la cual la mayoría de las experiencias personalizadas siguen siendo demostraciones únicas en lugar de una realidad cotidiana.
Pero esos son problemas de ingeniería solucionables, y el potencial de ganancias es demasiado grande para ignorarlo. El problema insoluble es la transparencia. Cuando la personalización de la IA se vuelva lo suficientemente sofisticada, no podrás saber si una recomendación refleja tus intereses genuinos o ha sido optimizada para beneficiar a quien pagó por la influencia.
No hay forma de ver por qué te están mostrando lo que te están mostrando. Y cuando todos experimentan contenido diferente, escuchan audio diferente y reciben consejos diferentes, no hay una base común para revelar cuándo el algoritmo te está llevando a un lugar rentable en lugar de útil.
