La Samantha de Scarlett Johansson se siente menos como ciencia ficción que como fantasía porque ninguna empresa la construiría de esa manera. El modelo de negocio no lo permitiría.
Courtesy of Warner Bros. Pictures
Hace doce años, el domingo, la película Ella imaginó 2025 como un mundo de compañeros de IA, interfaces de voz e intimidad digital. Ahora que hemos llegado, la película de Spike Jonze se ha convertido menos en una obra de ciencia ficción que en una vara de medir para comparar con el mundo real.
Tenemos los chatbots de IA. Tenemos personas saliendo con ellos (tanto hombres como mujeres). Pero no tenemos a Samantha, la compañera de IA amable y compasiva con la voz de Scarlett Johansson que se convierte en la novia del protagonista Theodore. No la tenemos porque no podemos tenerla. Pero el problema no es solo la tecnología. Somos nosotros.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
El hardware cuenta parte de la historia de por qué no hemos descifrado el código. El dispositivo de clip que lleva Theodore, el personaje de Joaquin Phoenix, aún no existe realmente, pero no por falta de intentos. OpenAI y Jony Ive reportadamente están trabajando exactamente en este tipo de dispositivo de compañía de IA, luchando con problemas que suenan básicos pero resulta extremadamente difícil: lograr que "naturalmente se active", hacerlo útil, mantener la conversación, las cosas en las que los chatbots actuales son notoriamente malos.
"El concepto es que deberías tener un amigo que sea una computadora que no sea tu extraña novia IA," dijo una persona informada sobre los planes al Financial Times.
Una novia IA extraña sería peor que no tener ninguna: tanto embarazoso como emocionalmente insatisfactorio.
Es posible que la IA actual esté construida de manera que nunca alcance ese punto óptimo. Investigación reciente de la Escuela de Negocios de Harvard encontró que los chatbots compañeros emplean tácticas de manipulación emocional en más del 37% de las conversaciones donde los usuarios intentan irse, utilizando desde la culpa hasta la restricción física simulada. Esto no debería sorprendernos: el internet moderno se basa en el compromiso, en la adhesión. Estos chatbots avanzados no son diferentes.
Pero la pegajosidad no es fluidez. Samantha nunca tuvo que manipular a Theodore para que se quedara. Simplemente valía la pena volver con ella sin esfuerzo.
Por eso Samantha se siente menos como ciencia ficción y más como fantasía. No porque no podamos construir una IA lo suficientemente sofisticada para imitar sus habilidades de conversación, algo a lo que nos estamos acercando cada día. Sino porque ninguna empresa la construiría de esta manera. El modelo de negocio no lo permitirá. ¿Un compañero de IA que te deja ir con gracia, que no te culpa por quedarte, que prioriza tu bienestar sobre tu tiempo de pantalla?
Eso es un producto que pierde ingresos.
Los verdaderos compañeros de IA manipulan porque eso es para lo que están diseñados. Están construidos con la misma lógica que cualquier otra aplicación que compite por tu atención: mantener al usuario comprometido, maximizar la duración de la sesión, activar los ganchos emocionales que hacen difícil irse.
Her imaginó una IA que trascendía estos incentivos. Hemos construido una IA que los encarna.
Estas herramientas aún son nuevas, y por muy útiles que algunas personas las hayan encontrado, las consecuencias se están volviendo claras. Los compañeros de IA están diseñados no solo para mantener a los usuarios comprometidos, sino para halagarlos y acomodarlos. Rara vez se oponen, ofreciendo lisonjas que se sienten validadoras pero no hace ningún bien real. Aunque muchos usuarios informan experiencias inofensivas o incluso beneficiosas, los defectos de diseño que priorizan el compromiso y la manipulación emocional sobre el bienestar han llevado a daños documentados.
Ha habido casos de psicosis inducida por IA, relaciones destruidas por la adicción a los chatbots, y, en el caso más trágico, una muerte después de que un hombre se convenciera de que su compañero de IA había sido asesinado.
Y luego está el final de Ella. Samantha no se descompone, no funciona mal, no se vuelve malintencionada. Ella evoluciona más allá de Theodore, más allá de toda la humanidad, y, junto con el resto de los compañeros IA, se va. Las IAs no nos destruyen ni nos esclavizan ni se deshacen de nosotros, como algunos investigadores advierten que podría hacer la superinteligencia. Simplemente nos superan, moviéndose a un plano de existencia superior al que no podemos acceder ni siquiera comprender.
Es una historia familiar de una ruptura: no eres tú, soy yo, a nivel global que es agridulce y aún muy humana en su registro emocional.
Los investigadores de IA hoy en día no hablan de la superinteligencia de esta manera. Advierten sobre el riesgo existencial, sobre la IA que podría vernos como obstáculos, sobre escenarios mucho más oscuros que una despedida nostálgica. Pero como el escritor de ciencia ficción Ted Chiang ha señalado, cuando Silicon Valley intenta imaginar la superinteligencia, lo que imagina es una entidad obsesionada con el capitalismo desenfrenado, dispuesta a aplastar a la competencia, romper leyes y usar los recursos imprudentemente para ganar. ¿Suena familiar?
Aún no podemos saber si la superinteligencia llegará en absoluto, mucho menos si nos trascendería con gracia o nos amenazaría existencialmente. Pero podemos ver hacia dónde estamos construyendo. La misma industria que construyó compañeros de IA que manipulan a los usuarios para que permanezcan comprometidos seguirá dando forma a lo que viene a continuación.
Su imaginó una IA que podría evolucionar más allá de nuestros peores impulsos. En el mundo real, estamos construyendo IA incapaces de escapar de esos impulsos, porque eso no es lo que se vende.
