Desde el contenido que desplazas hasta los precios que pagas, estos 15 algoritmos están tomando más decisiones sobre tu vida diaria de lo que probablemente te des cuenta.
Credit: cottonbro studio, Pexels
Cada segundo de cada día, se toman decisiones en tu nombre por sistemas que nunca aceptaste usar y que no puedes ver completamente. El precio que te cotizan para un vuelo. El anuncio de trabajo que aparece primero en tu búsqueda. La canción que suena a continuación. El amigo cuya publicación notas, y el que desaparece por completo. Estos resultados no son aleatorios, y no están curados por humanos sentados en escritorios. Son el producto de algoritmos: procedimientos matemáticos diseñados para tomar entradas, aplicar reglas y producir salidas a una escala que ningún equipo humano podría igualar.
La palabra "algoritmo" se usa de manera vaga, a menudo para referirse a algo vago, poderoso y ligeramente siniestro. La realidad es más específica. Un algoritmo es simplemente un conjunto definido de pasos para resolver un problema. Pero los algoritmos que gobiernan la vida digital hoy en día no son simples. Están entrenados en miles de millones de puntos de datos, optimizados para objetivos medibles, y aplicados a poblaciones de millones. La brecha entre el objetivo para el que se diseña un algoritmo y los resultados que realmente produce — en términos humanos, en términos sociales — es donde vive la mayor parte de la controversia.
Algunos de estos algoritmos tienen décadas de antigüedad, desarrollados en entornos académicos mucho antes de que internet los hiciera comercialmente esenciales. Otros fueron diseñados específicamente para la economía de la atención, construidos para mantener la vista en las pantallas y los clics fluyendo. Algunos están tan integrados en la infraestructura de internet que eliminarlos requeriría reconstruir sistemas desde cero. Todos ellos hacen concesiones. Velocidad versus precisión. Personalización versus privacidad. Eficiencia versus justicia.
Entender cómo funcionan estos sistemas no es un ejercicio técnico reservado para ingenieros. Es, cada vez más, una forma básica de alfabetización. Cuando una solicitud de préstamo es rechazada por un sistema automatizado, o un currículum nunca llega a un lector humano, o un riesgo de salud es señalado — o ignorado — por una herramienta de diagnóstico, las decisiones se remontan a una lógica algorítmica que puede ser examinada, cuestionada y desafiada. Pero solo si sabes que está ahí.
Esta lista cubre 15 de los algoritmos más importantes que operan en la vida cotidiana. Algunos serán familiares por su nombre. Otros trabajan invisiblemente, en sistemas con los que la mayoría de las personas interactúan diariamente sin darse cuenta de que hay un algoritmo involucrado.
Credit: Sarah Blocksidge, Pexels
Antes de que Google $GOOGL se convirtiera en un verbo, antes de que se convirtiera en una empresa, era un documento de investigación. En 1998, Larry Page y Sergey Brin, entonces estudiantes de posgrado en Stanford, publicaron una descripción de un nuevo enfoque para la búsqueda en la web. Llamaron a la idea central PageRank — nombrado por Page — y cambió cómo se organizaba internet.
La idea detrás de PageRank era que no todos los enlaces son iguales. Una página web enlazada por muchas otras probablemente es más autoritaria que una con pocos enlaces entrantes. Y un enlace de una página ya autoritaria tiene más peso que un enlace de una página desconocida. PageRank formalizó esta intuición en una puntuación numérica. A cada página en la web se le asignó un rango basado en la cantidad y calidad de las páginas que enlazaban a ella. Cuantos más enlaces entrantes de alta calidad acumulaba una página, mayor era su puntuación de PageRank, y más alta tendía a aparecer en los resultados de búsqueda.
La elegancia de la idea residía en su naturaleza recursiva. Para saber cuán autoritativa es una página, necesitas saber cuán autoritativas son las páginas que enlazan a ella, y para saber eso, necesitas saber lo mismo sobre las páginas que las enlazan a ellas. PageRank resolvió esto con un cálculo iterativo, recorriendo todo el grafo web repetidamente hasta que los puntajes convergieran.
Esto fue un cambio significativo respecto a los motores de búsqueda anteriores, que clasificaban las páginas principalmente por la frecuencia de palabras clave. Ese enfoque era fácil de manipular: si una página mencionaba la palabra "cámaras" 200 veces, podría clasificar alto en búsquedas relacionadas con cámaras independientemente de si realmente contenía información útil sobre cámaras. PageRank hizo mucho más difícil manipular los rankings artificialmente, porque fabricar miles de enlaces entrantes de alta calidad requería recursos que la mayoría de los malos actores no tenían.
La consecuencia práctica fue un motor de búsqueda que funcionaba mucho mejor que sus predecesores. Los usuarios lo notaron. Google creció. PageRank se convirtió en la base sobre la cual se construyó una de las empresas más valiosas de la historia.
El algoritmo ha cambiado sustancialmente desde 1998. Google ahora utiliza cientos de señales de clasificación, y el peso exacto dado a cualquier factor es un secreto comercial bien guardado. Pero el marco conceptual — la autoridad derivada de la estructura de enlaces — sigue siendo central. PageRank también sembró toda una industria. La optimización para motores de búsqueda, o SEO, existe en gran medida como una práctica profesional de entender e influir en las señales a las que responden algoritmos como PageRank. La economía de enlaces que creó PageRank ahora está tan integrada en cómo funciona la web que es efectivamente parte de la arquitectura de internet.
Credit: Jakub Zerdzicki, Pexels
Cuando Netflix $NFLX sugiere una película de la que nunca has oído hablar y resulta ser exactamente lo que tenías ganas de ver, eso es el filtrado colaborativo en acción. El algoritmo no necesita saber de qué trata la película. No analiza resúmenes de tramas o cinematografía. Funciona puramente a partir de patrones de comportamiento: quién ha visto qué, y qué vieron esos espectadores después.
La idea central es sencilla. Si muchos usuarios que vieron las mismas cinco películas que tú también vieron una sexta película que no has visto, el algoritmo infiere que a ti también te podría gustar esa sexta película. Estás siendo agrupado con otros cuyos gustos parecen similares, y su comportamiento se usa para generar predicciones sobre los tuyos. Esto es "colaborativo" en el sentido de que las recomendaciones son producidas por la colaboración implícita de las elecciones de muchos usuarios, y "filtrado" en el sentido de que filtra un catálogo abrumador hasta un conjunto manejable de sugerencias.
El desafío técnico es la escala. Una plataforma de streaming con 100 millones de usuarios y 10,000 títulos tiene una matriz de preferencias con un billón de entradas potenciales, casi todas vacías: la mayoría de los usuarios han visto solo una pequeña fracción del catálogo. El algoritmo tiene que trabajar con datos dispersos, infiriendo relaciones a partir de una imagen incompleta. Las primeras implementaciones usaban enfoques de vecinos más cercanos, encontrando usuarios con los perfiles de gustos más similares. Versiones posteriores incorporaron técnicas de factorización de matrices que identifican factores latentes — esencialmente dimensiones ocultas de gusto que los datos implican pero nunca enuncian directamente.
El filtrado colaborativo se implementó mucho antes de que el streaming de video lo hiciera famoso. Amazon $AMZN lo usó para generar recomendaciones de productos a fines de la década de 1990. Pandora aplicó una variante a la música, aunque la combinaron con etiquetado manual de géneros. Spotify $SPOT construyó una infraestructura sustancial de recomendación sobre él, combinando señales colaborativas con análisis de audio de las propias canciones.
Los límites del enfoque valen la pena entender. El filtrado colaborativo tiende a reforzar lo que ya es popular. Si una película ha sido vista por muchas personas, acumula señal colaborativa y es más probable que se recomiende a otros, lo que significa que se ve más, lo que fortalece aún más su señal. Las películas menos vistas —particularmente de mercados más pequeños, en idiomas menos comunes o de cineastas independientes— acumulan señal lentamente y se recomiendan con menos frecuencia, independientemente de su calidad. El algoritmo no busca desventajarlas. Simplemente refleja los patrones ya presentes en los datos, que están formados por decisiones previas sobre lo que se promociona.
Credit: Eftakher Alam, Unsplash
Cada vez que una empresa tecnológica dice que ha "realizado un experimento" para probar una nueva característica, casi con certeza está utilizando alguna forma de prueba A/B. La estructura básica es simple: dividir usuarios en dos grupos, mostrar a un grupo la nueva versión y al otro la antigua, medir la diferencia en resultados, y usar esos datos para decidir qué versión mantener. El algoritmo que rige qué usuarios ven qué versión, y cómo interpretar los resultados, es lo que hace que este proceso sea riguroso en lugar de impresionista.
La prueba A/B tiene sus raíces en la ciencia agrícola y la investigación clínica, donde se utilizó para evaluar rendimientos de cultivos y eficacia de medicamentos. Las plataformas digitales la adoptaron porque su escala —millones de usuarios, datos de comportamiento inmediato— la hizo mucho más poderosa que cualquier cosa posible en experimentos físicos. Un cambio en el color de un botón que le tomaría a una cadena minorista meses probar en un puñado de tiendas puede ser evaluado por una empresa web en 48 horas entre millones de usuarios.
La aleatorización en el núcleo de la prueba A/B es lo que la hace confiable. Al asignar aleatoriamente usuarios a grupos, el algoritmo asegura que cualquier diferencia preexistente entre usuarios se promedia. Si el cambio probado produce una diferencia medible en el comportamiento entre los dos grupos, esa diferencia puede atribuirse al cambio en lugar de a diferencias preexistentes en los usuarios.
En la práctica, la prueba A/B digital se ha vuelto mucho más compleja que su ancestro de dos grupos. Los algoritmos de banda multibrazo, una variante tomada de la teoría de decisiones, desvían dinámicamente el tráfico hacia variantes de mejor rendimiento en tiempo real en lugar de esperar a que termine un período experimental fijo. Esto es más eficiente —reduce el tiempo que los usuarios pasan en una experiencia inferior— pero introduce sesgos sutiles que pueden complicar la interpretación.
Los resultados de estos experimentos dan forma a casi todo sobre cómo se ven y se comportan los productos digitales. La ubicación de un botón de suscripción. La redacción de una notificación. El color de un botón de pago. La duración de un clip de vista previa. Estas no son decisiones de diseño tomadas por diseñadores individuales ejerciendo juicio. Son resultados producidos por algoritmos que optimizan métricas medibles, más comúnmente clics, registros o tiempo pasado en la plataforma.
Credit: cottonbro studio, Pexels
El feed algorítmico — en Instagram, TikTok, YouTube, X $TWTR, Facebook $META — es probablemente el algoritmo más importante que la mayoría de las personas encuentra diariamente. Determina no solo lo que ves, sino en qué orden, con qué urgencia y cuándo algo deja de aparecer completamente. Los detalles de cómo funcionan estos sistemas difieren significativamente entre plataformas, pero la lógica subyacente sigue un patrón reconocible.
En su núcleo, un algoritmo de feed asigna una puntuación a cada pieza de contenido que podría mostrarse a un usuario dado en un momento dado. Esa puntuación se deriva de una combinación de factores: la relación histórica entre este usuario y la cuenta que publicó el contenido, cómo han respondido otros usuarios al contenido hasta ahora (me gusta, compartidos, comentarios, tiempo de visualización), el tipo de contenido (video, foto, texto, enlace) y señales sobre el contexto actual del usuario (hora del día, comportamiento de navegación reciente, tipo de dispositivo). El contenido con puntuaciones más altas se clasifica más alto en el feed. El contenido con bajas puntuaciones es efectivamente invisible.
El modelo de puntuación está entrenado en el comportamiento pasado. Si los usuarios que históricamente les gustaron publicaciones similares a esta también interactuaron con ella, el modelo toma eso como evidencia de que usuarios similares también lo harán. Esto crea un bucle de retroalimentación: el contenido que tiene buen rendimiento genera señales que hacen que se muestre más ampliamente, lo que genera más señales, lo que aumenta aún más su distribución.
La métrica que estos algoritmos optimizan más consistentemente es la interacción, definida en términos generales como cualquier interacción que pueda medirse. Pero la interacción no es una medida neutral de valor. El contenido que provoca indignación, ansiedad o respuestas emocionales fuertes tiende a generar más comentarios y compartidos que el contenido que informa sin agitar. Los algoritmos que optimizan la interacción sin distinguir entre sus fuentes pueden amplificar sistemáticamente contenido provocativo, no porque alguien decidiera que eso era deseable, sino porque produce mejores puntuaciones en las métricas que se rastrean.
Las plataformas han modificado sus algoritmos repetidamente en respuesta a críticas, añadiendo señales destinadas a ser un proxy para interacciones "significativas" o fuentes "autoritativas". Estos ajustes son reales, pero operan dentro de un sistema aún fundamentalmente organizado alrededor de la respuesta conductual más que del juicio editorial.
Credit: Artem Podrez, Pexels
Cuando una transacción con tarjeta de crédito es señalada como potencialmente fraudulenta en tiempo real — y la transacción es rechazada antes de que el pago sea procesado — esa decisión casi con certeza fue tomada por un algoritmo de aprendizaje automático, no por un humano. Los sistemas de detección de fraude procesan millones de transacciones por día y lo hacen en milisegundos, aplicando modelos entrenados en patrones de miles de millones de transacciones históricas.
El desafío principal es la asimetría. Las transacciones fraudulentas son raras, a menudo menos de una en mil, lo que significa que los datos de entrenamiento están muy desequilibrados. Un modelo que simplemente clasificara cada transacción como legítima estaría en lo correcto la gran mayoría de las veces, pero sería inútil como detector de fraudes. Los algoritmos de detección de fraudes deben estar específicamente diseñados para identificar anomalías en un contexto de abrumadora normalidad.
Las características que estos modelos utilizan son variadas y a menudo son contraintuitivas. La velocidad de las transacciones recientes importa: múltiples compras en un corto periodo pueden señalar que se está usando una tarjeta robada rápidamente antes de que se reporte. La geografía importa: una transacción en un país minutos después de una en otro levanta una bandera. La categoría del comerciante importa: ciertos tipos de comerciantes tienen históricamente tasas más altas de fraude. Las huellas digitales del dispositivo importan: una transacción usando un dispositivo o dirección IP desconocida se trata de manera diferente a una usando un dispositivo reconocido.
Los sistemas modernos de detección de fraudes combinan múltiples tipos de modelos. Los sistemas basados en reglas detectan patrones conocidos rápidamente. Los modelos de aprendizaje automático entrenados en fraudes históricos detectan patrones nuevos pero estadísticamente similares. Los sistemas basados en gráficos observan las relaciones entre cuentas, comerciantes y dispositivos para identificar redes de fraude coordinadas que el análisis de transacciones individuales no detectaría.
El costo del error se presenta en dos direcciones. Un falso negativo, una transacción fraudulenta que pasa, cuesta dinero. Un falso positivo, una transacción legítima rechazada, cuesta una relación con el cliente y, a gran escala, ingresos significativos. Las instituciones financieras ajustan sus modelos de manera diferente dependiendo de su tolerancia a cada tipo de error. Una red de tarjetas con altas pérdidas por fraude podría ajustar los umbrales y aceptar más falsos positivos. Un banco enfocado en la experiencia del cliente premium podría aceptar más pérdidas por fraude para reducir las transacciones rechazadas. El algoritmo refleja una elección de política disfrazada de forma matemática.
Credit: Zulfugar Karimov, Unsplash
Cada vez que comienzas a escribir en un cuadro de búsqueda y aparece una lista de completaciones sugeridas debajo de tu cursor, un algoritmo de autocompletado está prediciendo lo que estás buscando según lo que has escrito hasta ahora. Esto parece una característica de conveniencia menor. A la escala de miles de millones de búsquedas diarias, su influencia en lo que la gente busca y cómo piensan sobre los temas es significativa.
Las sugerencias de autocompletado no son solo completaciones de tu consulta individual. Se extraen de datos agregados: lo que muchos otros usuarios han buscado después de escribir los mismos caracteres. Las sugerencias reflejan el comportamiento colectivo de búsqueda de una gran población, ponderado por la recencia y la frecuencia. Cuando escribes "es café" y las sugerencias incluyen "el café es bueno para ti" y "el café es malo para ti", estás viendo un resumen de lo que muchas otras personas han preguntado sobre el café.
La consecuencia del diseño es que el autocompletado puede influir en la consulta antes de que esté completamente formada. Un usuario que comienza a escribir una consulta ambigua y selecciona una sugerencia de autocompletado puede terminar buscando algo ligeramente diferente de lo que originalmente tenía en mente. Esto es un pequeño empujón a nivel individual, pero agregado a través de millones de búsquedas, el autocompletado da forma a la distribución de lo que se busca.
Esto crea responsabilidad. Los sistemas de autocompletado deben tomar decisiones activas sobre qué no sugerir. Consultas que podrían llevar a contenido dañino, instrucciones para la violencia, búsquedas que podrían constituir acoso a un individuo nombrado, se suprimen rutinariamente. También lo son las sugerencias que podrían avergonzar las relaciones comerciales de la plataforma. Las reglas de filtrado no siempre son visibles para los usuarios y pueden producir ausencias que solo son notables para alguien que las busca específicamente.
Ha habido casos documentados en los que el autocompletado produjo sugerencias que eran incorrectas, difamatorias o revelaban información privada. El argumento de que el algoritmo simplemente refleja lo que buscan los usuarios no resuelve completamente la cuestión de responsabilidad, porque la decisión de reflejar esos patrones, en lugar de filtrarlos, es en sí misma una elección. Los algoritmos de autocompletado son sistemas editoriales que operan bajo la apariencia de ser puramente mecánicos.
Credit: K, Pexels
El precio mostrado en un sitio de reserva de vuelos, una aplicación de hotel o un servicio de transporte suele ser el resultado de un algoritmo de precios dinámicos en lugar de una tarifa fija decidida por un humano. Los sistemas de precios dinámicos ajustan los precios en tiempo real en función de señales de oferta y demanda, datos competitivos y predicciones sobre cómo responderán diferentes clientes a diferentes precios.
Las aerolíneas fueron pioneras en los precios dinámicos modernos. La lógica central es que un asiento de avión es un bien perecedero, no tiene valor una vez que el vuelo despega, y que los viajeros tienen diferentes niveles de sensibilidad al precio. Los viajeros de negocios que reservan cerca de la salida generalmente son menos sensibles al precio que los viajeros de ocio que reservan con meses de anticipación. Los sistemas de gestión de rendimiento, como se conocen formalmente a los algoritmos de precios de aerolíneas, intentan llenar los asientos a los precios más altos que el mercado soportará, ajustando los precios a medida que se acerca la fecha de salida según el inventario restante y el ritmo de reservas.
Las empresas de transporte extendieron este marco de manera novedosa. El algoritmo de precios dinámicos de Uber $UBER aumenta los precios cuando la demanda supera la oferta de conductores en un área determinada. El precio más alto hace dos cosas simultáneamente: desalienta a algunos pasajeros potenciales de reservar, reduciendo la demanda, e incentiva a más conductores a conectarse, aumentando la oferta. Desde un punto de vista económico, el algoritmo está destinado a equilibrar temporalmente el mercado. Desde la perspectiva de un pasajero que necesita un viaje bajo la lluvia y enfrenta un precio cuatro veces la tarifa estándar, la experiencia es bastante diferente.
El comercio minorista y el comercio electrónico han adoptado agresivamente la fijación de precios dinámicos. Amazon $AMZN actualiza los precios millones de veces al día en su mercado. Las cadenas de supermercados han comenzado a experimentar con etiquetas electrónicas de estantes que permiten cambiar los precios sin reabastecer físicamente las etiquetas de precios. Los algoritmos que gobiernan estos cambios responden a los precios de los competidores, los niveles de inventario, la hora del día y los patrones de demanda local.
Las preguntas éticas que plantean estos sistemas son reales. Si dos clientes ven precios diferentes para el mismo producto según su ubicación, dispositivo o historial de navegación, eso es una forma de discriminación de precios. Reguladores en múltiples jurisdicciones han comenzado a examinar si ciertas aplicaciones de precios dinámicos, particularmente en mercados de bienes esenciales, deberían enfrentar restricciones.
Credit: Canva Images
Los filtros de spam por correo electrónico son una de las aplicaciones comerciales más antiguas del aprendizaje automático que la mayoría de las personas usan todos los días. El desafío que enfrentan es perdurable: el volumen abrumador de correos electrónicos comerciales no solicitados que hace que una bandeja de entrada gestionada de manera ingenua sea inutilizable. Los filtros de spam modernos clasifican con precisión la gran mayoría de los mensajes con muy poco esfuerzo del usuario, una hazaña que parece simple solo porque el trabajo subyacente está oculto.
Los primeros filtros de spam se basaban en listas de palabras clave y reglas simples: si un mensaje contenía ciertas palabras o se originaba en direcciones IP conocidas como malas, se marcaba. Esto funcionó hasta que los spammers se adaptaron, introduciendo errores ortográficos deliberados y variaciones para evadir la coincidencia de palabras clave. La dinámica del gato y el ratón impulsó el desarrollo de enfoques estadísticos más sofisticados.
El filtrado de spam bayesiano, popularizado a principios de la década de 2000, adoptó un enfoque diferente. En lugar de reglas fijas, calculaba la probabilidad de que un correo electrónico dado fuera spam en función de las palabras que contenía, utilizando el teorema de Bayes para actualizar esa probabilidad a medida que se incorporaba más evidencia. El modelo se entrenaba con ejemplos de spam y no spam, aprendiendo qué combinaciones de palabras eran predictivas. Crucialmente, el filtro de cada usuario podría personalizarse: marcar un correo electrónico como spam actualizaba el modelo local del usuario, haciéndolo más sensible a mensajes similares en el futuro.
Los filtros contemporáneos van mucho más allá de las estadísticas de palabras. Analizan los encabezados de los mensajes para verificar la autenticación del remitente, comparan los mensajes con bases de datos de contenido de spam conocido, examinan la reputación de las direcciones IP y dominios, y utilizan modelos de redes neuronales que pueden identificar patrones estructurales, no solo vocabulario, asociados con phishing y contenido malicioso.
Los modos de error merecen ser comprendidos. Un falso positivo, un correo electrónico legítimo clasificado como spam, puede tener consecuencias graves: una oferta de trabajo perdida, un recordatorio de cita médica omitido, una comunicación comercial perdida. La mayoría de los proveedores prefieren minimizar los falsos positivos en lugar de maximizar la captura de spam, aceptando que algunos spam llegarán a las bandejas de entrada en lugar de arriesgarse a enterrar mensajes legítimos. Este umbral es una elección de política codificada en parámetros algorítmicos.
Credit: Alexander Grigoryev, Unsplash
La moderación automática de contenido es el uso de sistemas de aprendizaje automático para identificar y eliminar publicaciones, imágenes o videos que violan las políticas de una plataforma, a una escala que los equipos de moderación humana no podrían manejar solos. Solo Meta $META procesa cientos de miles de millones de publicaciones al año. Ninguna fuerza laboral humana podría revisar ese volumen en un tiempo cercano al real.
Los sistemas utilizados para la moderación de contenido generalmente combinan varios enfoques de detección. Para contenido ilegal conocido, como el material de abuso sexual infantil, la coincidencia de hashes criptográficos permite identificar instantáneamente copias exactas y casi copias sin que ningún ser humano necesite ver el material. Para el discurso de odio, el acoso y la desinformación, el problema es más complejo: el contexto importa de maneras que son genuinamente difíciles de codificar.
Los datos de entrenamiento para estos modelos provienen de revisores humanos que etiquetaron ejemplos de contenido que violaba o no violaba según la política de la plataforma. El modelo aprende a clasificar nuevo contenido basado en patrones en esos datos etiquetados. Pero las políticas no siempre son claras, las culturas difieren en cuanto a qué lenguaje se considera odioso, y el significado a menudo depende de un contexto que el texto por sí solo no transmite. Un insulto usado como un término de reivindicación dentro de una comunidad se ve idéntico a la misma palabra usada como un ataque.
Los errores de estos sistemas afectan a personas reales. La eliminación automática de una publicación de una organización de derechos humanos que documenta atrocidades — porque las imágenes coinciden técnicamente con categorías asociadas con contenido violento — es un tipo diferente de daño a no eliminar una publicación que incita al acoso. Las plataformas han desarrollado procesos de apelación y canales de revisión humana para decisiones de alto riesgo, pero el volumen de contenido significa que la mayoría de las decisiones de moderación se toman e implementan sin revisión humana.
La distribución de errores no es uniforme entre poblaciones. Se ha documentado que los sistemas de moderación de contenido entrenados predominantemente en texto en inglés de usuarios de internet occidentales funcionan mal en contenido en otros idiomas, en dialectos regionales y en contextos culturales que no estuvieron bien representados en los datos de entrenamiento. Esto significa que los sistemas tienen más probabilidades de cometer errores precisamente donde los usuarios tienen menos posibilidades de recurrir.
Credit: Canva Images
Un puntaje crediticio es un número que resume la probabilidad pronosticada de una persona de devolver un préstamo, y es uno de los números más importantes en la vida financiera de muchas personas. El acceso a la vivienda, la tasa de interés de un préstamo para automóvil y la elegibilidad para tarjetas de crédito están todos moldeados por él. Los algoritmos que producen estos puntajes fueron originalmente diseñados para tomar decisiones de préstamo más rápidas, más consistentes y menos susceptibles a los sesgos de los oficiales de préstamos individuales. Si logran ese último objetivo es algo discutido.
El puntaje FICO — desarrollado por Fair Isaac Corporation e introducido en 1989 — se convirtió en el modelo de calificación crediticia dominante en los EE.UU. Se calcula a partir de los datos en los archivos de las agencias de crédito: historial de pagos, montos adeudados, duración del historial crediticio, tipos de crédito utilizados y consultas de crédito recientes. Cada factor se pondera y combina para producir un puntaje entre 300 y 850. Puntajes más altos indican un menor riesgo pronosticado.
El diseño del puntaje incorpora suposiciones que tienen consecuencias distributivas. La duración del historial crediticio recompensa a las personas que han tenido cuentas de crédito durante muchos años, lo que tiende a favorecer a los prestatarios mayores. Tener múltiples tipos de crédito (una hipoteca, un préstamo para automóvil, una tarjeta de crédito) produce un puntaje más alto que tener solo un tipo, lo que puede perjudicar a las personas que han evitado prudentemente las deudas. El puntaje refleja el historial del uso del crédito, lo que significa que las personas que no han participado en el sistema crediticio formal — ya sea por elección, circunstancia o porque son nuevas en un país — son invisibles para él.
Han surgido modelos alternativos de puntuación crediticia, algunos incorporan el historial de pago del alquiler, facturas de servicios públicos o datos bancarios. Estos modelos buscan extender el acceso al crédito a personas con expedientes de crédito tradicionales escasos o inexistentes. Pero introducen sus propios compromisos, y los datos que utilizan plantean preguntas sobre la privacidad y la posibilidad de nuevas formas de patrones discriminatorios. El algoritmo no puede separarse completamente de las decisiones políticas tomadas al diseñarlo: qué datos incluir, qué excluir y de quién se considera la historia crediticia como la base de la normalidad.
Credit: Canva Images
Cuando un reclutador en LinkedIn o Indeed busca candidatos para un puesto, o cuando un empleador publica un trabajo y recibe solicitudes, el orden en que aparecen los candidatos no es alfabético ni aleatorio. Es el resultado de un algoritmo de clasificación que puntúa a los candidatos con respecto a la oferta de trabajo y entre ellos, basado en patrones que el sistema ha inferido del comportamiento pasado.
Estos sistemas generalmente funcionan haciendo coincidir palabras clave y frases de las descripciones de trabajo con los perfiles de los candidatos, pero las versiones modernas van más allá de la coincidencia de palabras clave. Incorporan señales sobre qué candidatos fueron contactados o entrevistados por reclutadores que vieron perfiles similares, qué solicitudes llevaron a contrataciones y qué perfiles de candidatos tienden a atraer la atención de los gerentes de contratación en roles o industrias específicas. El algoritmo aprende a predecir la relevancia a partir de patrones en el comportamiento histórico de contratación.
El problema es que el comportamiento histórico de contratación refleja el sesgo histórico. Si ciertas industrias han subrepresentado históricamente a mujeres o personas de color en roles senior, el algoritmo entrenado en esa historia aprenderá a descartar a mujeres y personas de color para puestos senior, no debido a instrucciones explícitas para hacerlo, sino porque el comportamiento pasado forma la base de sus predicciones. Amazon $AMZN construyó y luego desechó un algoritmo de contratación interno que exhibía exactamente este patrón: había sido entrenado en una década de sus propias decisiones de contratación, que reflejaban el desequilibrio de género histórico de la industria, y aprendió a penalizar currículums que contenían la palabra "mujeres".
Los reguladores en EE.UU. y Europa han comenzado a emitir directrices sobre el uso de sistemas automatizados en la contratación, y algunas jurisdicciones ahora requieren evaluaciones de impacto para herramientas que toman decisiones de empleo significativas. La pregunta de cómo construir sistemas de clasificación que sean predictores precisos del rendimiento laboral y equitativos entre grupos demográficos sigue sin resolverse genuinamente.
Credit: Brett Jordan, Pexels
Una parte sustancial y creciente de personas encuentra noticias principalmente a través de la curación algorítmica, en los feeds de redes sociales, en aplicaciones agregadoras de noticias o a través de sistemas de recomendación integrados en navegadores y sistemas operativos de teléfonos. La selección de lo que cuenta como noticia, lo que sube a la cima y lo que desaparece ya no es hecha principalmente por editores. Es hecha por algoritmos que responden a señales de comportamiento.
Los algoritmos que rigen estos sistemas comparten una similitud estructural con los algoritmos de los feeds sociales: asignan puntuaciones de relevancia basadas en combinaciones de señales de personalización y métricas de rendimiento de contenido. Un artículo que muchos usuarios en tu red están leyendo obtiene una puntuación más alta. Un artículo de una fuente en la que has hecho clic antes obtiene una puntuación más alta. Un artículo con muchos comentarios obtiene una puntuación más alta. Estas puntuaciones se utilizan para seleccionar y clasificar lo que aparece en tu experiencia de noticias.
Las consecuencias para los ecosistemas de información son objeto de debate activo. Una preocupación es la burbuja de filtros: la posibilidad de que la curación de noticias personalizadas solo muestre a los usuarios contenido que confirme sus creencias existentes, reduciendo la exposición a puntos de vista desafiantes. La investigación sobre cuán fuerte es este efecto realmente ha producido hallazgos mixtos: algunos estudios encuentran efectos significativos de personalización, otros encuentran que los feeds algorítmicos pueden exponer a los usuarios a puntos de vista más diversos de lo que producirían los hábitos de lectura autoseleccionados.
Una preocupación separada es la amplificación de contenido que maximiza el compromiso a expensas del contenido preciso o sustantivo. Una historia que provoca fuertes respuestas emocionales tiende a generar más clics que una historia cuidadosamente reportada pero menos dramática sobre el mismo tema. Los algoritmos entrenados para maximizar las métricas de compromiso no distinguen entre el compromiso impulsado por la calidad y el compromiso impulsado por la indignación. El juicio editorial que los periódicos impresos ejercían —colocando una historia difícil pero importante en la portada independientemente de la lectura prevista— no es una función que estos sistemas estén diseñados para replicar.
Credit: Erik Mclean, Pexels
Cuando solicitas un viaje a través de Uber $UBER, Lyft $LYFT o un servicio similar, no eliges a tu conductor y tu conductor no te elige a ti. La coincidencia la realiza un algoritmo en fracciones de segundo, considerando la proximidad del conductor, el tiempo de viaje previsto hasta tu ubicación de recogida, las calificaciones del conductor y factores relacionados con los objetivos de eficiencia de la plataforma a través de todas las solicitudes de viaje simultáneas en tu área.
El problema de despacho que estos algoritmos resuelven es genuinamente complejo. En cualquier momento dado, una plataforma de transporte en una ciudad grande está manejando miles de solicitudes de viaje simultáneas y conductores disponibles, en una geografía donde las condiciones de tráfico, los horarios de eventos y los patrones de demanda cambian continuamente. Un algoritmo que simplemente empareje al conductor disponible más cercano con cada nueva solicitud sería óptimo localmente —minimizando el tiempo de recogida para cada viaje individual— pero globalmente subóptimo, porque podría dejar cúmulos de demanda sin cubrir mientras agrupa conductores en áreas de baja demanda.
Los algoritmos modernos de emparejamiento de viajes optimizan en un horizonte más amplio. Predicen dónde emergerá la demanda en los próximos minutos y enrutamiento a los conductores de manera proactiva. Balancean la eficiencia de emparejamientos a corta distancia contra la productividad de viajes más largos. Gestionan programas de incentivos —precios dinámicos, bonos para conductores— como parte del sistema de emparejamiento, ya que las señales de precio afectan el comportamiento del conductor y, por lo tanto, la distribución de la oferta.
El algoritmo también toma decisiones que afectan los ingresos de los conductores sin que los conductores tengan acceso directo a su lógica. Un conductor que recibe menos asignaciones de larga distancia, o al que se le ofrecen viajes principalmente en momentos y áreas con menor demanda, puede ganar significativamente menos que un conductor cuyo patrón de asignación difiere, sin que el conductor haya tomado ninguna decisión. La opacidad del sistema de emparejamiento ha sido una queja recurrente en disputas laborales que involucran a conductores de la economía gig, quienes argumentan que el algoritmo constituye una forma de gestión cuyas reglas no pueden ver ni desafiar.
Credit: Ron Lach, Pexels
La función de texto predictivo en el teclado de un teléfono inteligente — que sugiere la siguiente palabra mientras escribes — es una aplicación directa para el consumidor de la misma clase de modelo estadístico que subyace a los grandes modelos de lenguaje. Ambos intentan resolver el mismo problema fundamental: dada una secuencia de palabras, predecir la continuación más probable.
Los primeros sistemas de texto predictivo utilizaban modelos de n-gramas, que aprendían la probabilidad de que apareciera una palabra dada una, dos o tres palabras inmediatamente antes. Estos modelos podían entrenarse en conjuntos de datos relativamente pequeños y funcionar eficientemente en el hardware limitado de los primeros teléfonos inteligentes. Funcionaban bien para frases comunes, pero fallaban en lenguaje inusual o específico de un dominio, porque solo podían predecir lo que habían visto en los datos de entrenamiento.
El cambio a modelos basados en redes neuronales transformó lo que era posible. Las redes neuronales recurrentes, y luego las arquitecturas de transformadores, podían capturar dependencias a lo largo de secuencias de texto mucho más largas, aprendiendo no solo patrones de coocurrencia a nivel de palabras, sino algo más cercano a la estructura gramatical y semántica. Los modelos que potencian los sistemas actuales de IA de lenguaje grande son versiones ampliadas del mismo enfoque subyacente, entrenados en conjuntos de datos mucho más grandes.
Las consecuencias del texto predictivo como una característica ambiental de la escritura no son triviales. Estudios que examinan cómo el autocorrector y el texto predictivo afectan la escritura han encontrado que los escritores que usan estas funciones tienden hacia un vocabulario más común y una prosa más fluida pero menos idiosincrásica. El modelo, entrenado para predecir la continuación más estadísticamente probable, naturalmente se inclina hacia lo convencional. Una frase que es inusual pero precisamente correcta puede ser más difícil de escribir que una aproximación más común que el teclado sigue sugiriendo.
A nivel poblacional, un sistema de texto predictivo utilizado por cientos de millones de personas no solo está reflejando patrones de lenguaje, sino que los está moldeando, haciendo ciertas frases más accesibles y otras menos visibles. Esta es una relación novedosa entre una tecnología y el lenguaje que se supone que debe servir.
Credit: Maxim Hopman, Unsplash
Los algoritmos de creación de mercado, los sistemas de comercio de alta frecuencia y los algoritmos de ejecución operan en mercados financieros a velocidades y escalas que superan con creces la capacidad humana. Son responsables de una parte sustancial del volumen diario de comercio en mercados de acciones, divisas y derivados, y su comportamiento colectivo da forma a los precios, la liquidez y la volatilidad de maneras que afectan a todos con una pensión, una cuenta de ahorros o exposición económica a las condiciones del mercado.
Los algoritmos de negociación de alta frecuencia están construidos en torno a la velocidad como una ventaja competitiva. Los sistemas más rápidos pueden procesar datos de mercado y ejecutar operaciones en microsegundos, millonésimas de segundo. Las empresas que operan estos sistemas invierten en proximidad física a los servidores de intercambio, en líneas de fibra óptica dedicadas y en torres de microondas para reducir nanosegundos de los tiempos de transmisión. La ventaja que buscan no es un análisis fundamental superior de las empresas, sino una reacción más rápida al flujo de órdenes y las señales de precios.
Los algoritmos de creación de mercado brindan un servicio con un valor económico real: cotizan continuamente precios a los cuales están dispuestos a comprar o vender un valor, lo que permite a otros participantes del mercado ejecutar operaciones sin tener que encontrar una contraparte dispuesta por sí mismos. Se benefician del diferencial entre los precios de compra y venta. Los algoritmos ajustan estas cotizaciones en respuesta a patrones de inventario, volatilidad y flujo de órdenes, manteniendo una posición que gana el diferencial mientras gestionan el riesgo.
Los efectos de interacción entre muchos algoritmos operando simultáneamente pueden producir comportamientos emergentes que ningún sistema individual fue diseñado para exhibir. El Flash Crash del 6 de mayo de 2010, durante el cual el promedio industrial Dow Jones cayó casi 1,000 puntos en minutos antes de recuperarse rápidamente, se atribuyó en parte al ciclo de retroalimentación entre los sistemas automatizados de creación de mercado que retiraron liquidez y los algoritmos de ejecución que respondieron a la caída de precios. Ningún algoritmo en particular lo causó. El evento fue un producto de interacciones algorítmicas operando más rápido de lo que cualquier intervención reguladora o humana pudo alcanzar.
Las reformas posteriores a la estructura del mercado, incluidos los interruptores automáticos que detienen el comercio cuando los precios se mueven demasiado rápido, han reducido pero no eliminado el riesgo de eventos en cascada similares. Los algoritmos continúan evolucionando, y los marcos regulatorios que los gobiernan los siguen con un retraso sustancial.
