El próximo avance de la IA no vendrá de extraer datos de la web. Las empresas están compitiendo para desbloquear nuevos datos de entrenamiento, desde datos personales hasta drones y archivos corporativos.
Photo by Sean Gallup/Getty Images
La era de los datos de entrenamiento de IA gratuitos ha terminado. Reddit $RDDT cobra millones por el acceso a la API. The New York Times demandó. Los editores están bloqueando los rastreadores. Incluso si las empresas de IA aún pudieran absorber la internet pública, se enfrentan a un problema mayor: necesitan tipos de datos completamente diferentes para el próximo salto en habilidades.
Los grandes modelos de lenguaje se construyeron extrayendo texto e imágenes de la web. Pero a medida que los sistemas de IA avanzan más allá de los chatbots, necesitan datos de entrenamiento que nunca estuvieron disponibles públicamente. Datos que están bloqueados, dispersos o que aún no existen.
Únete a más de 500.000 lectores que comienzan su día con Quartz.
Al suscribirte, aceptas nuestros Términos de servicio y Política de privacidad.
Están surgiendo nuevos mercados para desbloquear estas fuentes. Aquí hay tres.
La mayoría de las personas piensan en los datos personales como números de Seguro Social e historiales médicos. Pero casi todo lo que haces en línea genera datos que las plataformas recopilan y usan: tu historial de escucha de Spotify $SPOT, tus patrones de correo electrónico, los documentos que escribes en Google $GOOGL Docs, tus conversaciones con ChatGPT.
Cuando descargas tus datos de Instagram, por ejemplo, la compañía no solo te da tus fotos. Obtienes todo lo que Instagram ha inferido sobre ti basado en tu comportamiento de navegación: cientos de puntos de datos que van desde etiquetas inocuas como "interesado en la naturaleza" hasta evaluaciones psicológicas como si tienes depresión.
Nada de esto se puede extraer públicamente. Todo es legalmente tuyo.
"Si estacionas tu auto en un estacionamiento, el estacionamiento no posee tu auto," dice Anna Kazlauskas, CEO de Vana, una empresa que construye infraestructura para que los individuos contribuyan con sus datos de plataforma al entrenamiento de IA. El mismo principio se aplica a los datos: tú los posees, incluso si están en el servidor de otra persona.
La escala es masiva. Una versión de Common Crawl, el conjunto de datos que entrenó el Llama 3 de Meta $META, contiene alrededor de 15 billones de palabras extraídas de la internet pública. Si 100 millones de personas aportaran datos de solo cinco plataformas, eso generaría 450 billones de tokens, 30 veces más grande que cualquier conjunto de datos existente.
Este tipo de datos podría desbloquear una IA personalizada que entienda tus gustos musicales o modelos de salud entrenados con datos reales de sueño y fitness, todo imposible con contenido web extraído. Kazlauskas dice que pagar a las personas por los datos que solo ellos pueden proporcionar también podría remodelar el debate más amplio sobre la IA.
"Mucho del miedo alrededor de la IA proviene de la falta de atribución y economía adecuadas," dice Kazlauskas. "Si enseñas a la IA a hacer tu trabajo, deberías realmente ser dueño de ese modelo de IA."
Los modelos de texto podrían entrenarse con datos web extraídos. Pero la próxima generación de IA necesita información precisa y consistente sobre el mundo físico. Los robots que navegan ciudades, vehículos autónomos y la realidad aumentada necesitan mapas digitales de alta fidelidad para tomar decisiones.
El problema es que los datos aéreos existentes están fragmentados. Provienen de varios contratistas con diferentes sensores y precisiones, lo que hace casi imposible entrenar modelos geoespaciales confiables. Las imágenes satelitales, aunque cubren la mayor parte del planeta, carecen de resolución. La capa de datos que las empresas de IA necesitan simplemente no existe aún.
Spexi está tratando de construirlo utilizando trabajadores temporales y drones. La empresa tiene más de 10,000 pilotos que vuelan misiones estandarizadas a 80 metros de altitud. En los últimos 18 meses, han cubierto más de 6 millones de acres en 300 ciudades de América del Norte con una resolución superior a la de los satélites o imágenes aéreas tradicionales, dice Bill Lakeland, CEO de Spexi.
Spexi está trabajando con empresas como Niantic para entrenar grandes modelos geoespaciales para realidad aumentada y robótica. A diferencia de los modelos de lenguaje, estos necesitan actualizaciones constantes a medida que se levantan edificios y cambian las carreteras. Es una versión del mismo problema que afecta a ChatGPT y otros LLM —cómo mantener los modelos actualizados sin tener que reentrenar desde cero. El equipo de Lakeland está trabajando en algoritmos para predecir cuándo y dónde se necesitan actualizaciones, pero sigue siendo un desafío de investigación no resuelto.
Uno de los mayores fabricantes de PC del mundo ha estado recopilando datos de telemetría durante siete años. Nadie los había revisado. Cuando el equipo de Sachin Dharmapurikar en The Modern Data Company finalmente los analizó, descubrieron que dos de los 70 campos se habían recopilado incorrectamente todo el tiempo.
La empresa de Dharmapurikar ayuda a las empresas a transformar los datos heredados en conjuntos de datos estructurados y contextualizados diseñados para preguntas de negocio específicas en lugar de almacenamiento general. Hace una década, las empresas empezaron a rastrear todo y almacenarlo en la nube, asumiendo que recopilar datos eventualmente proporcionaría información valiosa. En cambio, creó paisajes de datos caros, aislados y no gestionados.
Cuando ChatGPT explotó en popularidad, muchos ejecutivos pensaron que finalmente habían encontrado una solución fácil. Simplemente alimenten todos esos datos almacenados a un LLM y vean la magia suceder. Dharmapurikar llama a esto la "maldición de ChatGPT".
La realidad es más compleja. Las empresas necesitan cuatro cosas: calidad de datos a escala, la capacidad de rastrear el linaje y explicar cómo se alcanzaron las conclusiones, gobernanza para prevenir las alucinaciones de la IA, y metadatos semánticos que contextualicen los datos en términos empresariales. El valor de vida de un cliente minorista es diferente al de un cliente empresarial, por ejemplo. Sin ese contexto, los modelos inferirán incorrectamente.
Incluso cuando existen los datos, a menudo están atrapados. Los equipos de ventas, fabricación y web recopilan datos en silos, y transferirlos entre departamentos requiere burocracia y papeleo. La IA necesita información de toda la organización, pero la realidad son sistemas fragmentados que no se comunican entre sí.
Dharmapurikar dice que la industria finalmente se está volviendo realista. "La gente ahora es más calculadora, más racional y pragmática sobre estas cosas", dice. "La realidad está llegando en grande de que no hay una solución fácil."
