Datos, Información, Conocimiento y Verdad

It’s the data, Stupid!

Hace 1 año aproximadamente diseñé una conferencia o un taller llamado exactamente así: "It’s the data, stupid!"

Estaba utilizando la analogía del asesor de campaña de Bill Clinton en las elecciones presidenciales de 1992: “it’s the economy, stupid!”. Más tarde pude comprobar que Bill Gates había utilizado exactamente el mismo delirio creativo en otra conferencia. Me siento honrado de plagiar inconscientemente a un genio. Un claro ejercicio de criptonesia.

La economía del dato es clave hoy en día y claramente vivimos en la era del dato. Kai-Fu Li (VC y autor de AI Superpowers, así como primer country Manager de Google en China) se refería a este hecho diciendo: "En la era de la IA, donde el dato es el nuevo petróleo, China es la nueva Arabia Saudí."

Sin embargo, el dato a diferencia del petróleo y al igual que el conocimiento no es un recurso escaso. Los datos son ilimitados. Y la capacidad de acceder al conocimiento también es ilimitada. Decía Mahatma Gandhi "vive como si fueras a morir mañana y aprende como si fueras a vivir para siempre". En la era de la inteligencia artificial generativa los datos simplemente nutren modelos con una intención básica como objetivo: aumentar el ticket medio, reducir el coste de mantenimiento de un servicio, optimizar la experiencia de usuario, permitir el acceso a unas instalaciones o incluso diseñar una obra de arte. O quizás multiples objetivos dependiendo del usuario del modelo. El dato se ha convertido en algo ubicuo y el acceso al conocimiento también.

"Vive como si fueras a morir mañana y aprende como si fueras a vivir para siempre"–Mahatma Gandhi

Independiente del valor del dato como un recurso escaso o ilimitado. Quiero reflexionar sobre la idea de datos, información, conocimiento y verdad.

Cada año en abril todos consumimos los contenidos de cada nueva edición de TED. Y cada año TED nos abre las puertas para reflexionar de forma sosegada sobre el valor de tendencias y ordenar de forma sostenible algunas ideas que merece la pena compartir. Este año he podido ver hasta la fecha tres conferencias valiosas alrededor del valor de los modelos generativos de IA. Greg Brockman (co-fundador de OpenAI) Sal Kahn (fundador de Khan Academy) y Yejin Choi (profesora de Universidad de Washington)

• The inside story of ChatGPT's astonishing potential | Greg Brockman • TED2023
• The amazing AI super tutor for students and teachers | Sal Khan • TED2023
• Why AI is incredibly smart and shockingly stupid | Yejin Choi • TED2023

Cuando hablamos de inteligencia artificial, se nos olvida un concepto básico que subyace en cualquier modelo algorítmico y es el de aumentar la inteligencia de los humanos. Ya sea desde la educación, desde la óptica del sentido común o desde la inacabable fuente de automatización de procesos, este universo de soluciones ha venido para aumentar nuestra inteligencia (y nunca para sustituirla). Disponer de una inacabable fuente de acceso a la información, supone la aumentar el conocimiento y a veces no necesariamente crear nuevas verdades. Quizás es un ejercicio de democratización de la información y por ende mejora global del conocimiento medio. Pero ¿acaso supone hacer crecer la verdad?

Ya sabemos la respuesta a esta pregunta. Los grandes modelos de texto también crean confusión y generan delirios de alucinación. Este problema se torna en crítico cuando los usuarios no contrastan la información obtenida como resultado. Sam Altman, cofundador de Openai.com, ya ha expresado su miedo a que estos modelos sean usados con fines de desinformación. Y también es cierto que estos modelos, incluso por obra y gracia de sus creadores, ocultan información de forma deliberada (ver ejemplo de ChatGPT ocultando que en su versión GPT3 más de un 60% de su corpus de datos está sobre representado por páginas webs cuyo idioma original es el ruso).

Ya sabemos que la AGI (en inglés, Inteligencia Artificial Generativa) a veces es completamente inocente y carente de sentido común (ver charla TED Yejin Choi). Y también sabemos que algunos modelos como ChatGPT generan 7 veces más impacto en huella de carbono que modelos como LLaMA de Meta (o al menos eso declara Meta en su paper académico). Lo que no sabemos es cómo la verdad puede verse mejorada por este masivo acceso al conocimiento.

La primera derivada es bien sencilla, si más del 60% de las fuentes son webs en muchos modelos, parece que el acceso a la verdad peligra. Sin embargo, ¿diríamos lo mismo cuando Wikipedia es una de las fuentes?, ¿Acaso sabemos el rango de priorización o ponderación que se ha dado a las fuentes?, ¿podemos juzgar el intelecto de los humanos que están reforzando estos modelos?

Demasiadas preguntas y quizá poca paciencia para responder. No obstante, iniciativas como Human-Centered AI de la Universidad de Stanford y principios básicos establecidos por Anthropic (un spin-off de OpenAI y la segunda empresa más valiosa en el universo AGI) generan un valor incalculable para hacer un uso crítico y responsable de este cambio de paradigma que ha supuesto el acceso masivo a la información generado por los modelos fundacionales (foundation models).

Posiblemente estemos en un momento de delirio de acceso a la información. Quizás el salto cuántico que ha provocado democratizar el acceso al conocimiento rompa las normas de la creación de valor a partir de 2022. Lo que también es cierto que más datos, no es más información. Y también es cierto que más conocimiento no necesariamente lleva aparejado mayor acceso a la verdad. Y sí, aunque es posible que haya tantas verdades como observadores, también es cierto que algunas versiones de la verdad no están exentas de una clara intención de manipular a nuestros semejantes.

El uso responsable de este nuevo oráculo, a mi juicio, es la única forma de acercarnos a la sostenibilidad. Todos tenemos referentes o modelos de humanos a seguir en la vida. Todos intuimos cuando nos mienten (aunque lo descubramos más tarde o más temprano). Todos sabemos cuando la primera respuesta puede contener solo parte de la verdad que buscamos. Todos sabemos cuándo estamos haciendo algo intencionadamente reprobable (a excepción de psicópatas y sociopatas y parece que son menos del 5% de la humanidad). Todos podemos preguntar cuando intuimos que hemos roto alguna regla (sea o no conocida). Todos podemos exigir a un chatbot que nos revele la información que le ha llevado a una determinada decisión (quizás con menos pudor incluso que pedírselo a otro humano). Creo que al igual que algunos modelos ya asumen que a gran escala la deriva del uso de la AGI es positiva (se corregirán los sesgos acumulados por las fuentes de datos originales y el feedback humano), mi visión a largo plazo es positiva sobre el impacto de humanos aumentando su inteligencia. A corto plazo vamos a vivir casos de humanos malintencionados haciendo un uso destructivo de soluciones tan poderosas, y también a corto plazo determinadas veremos decisiones empresariales recortando capacidad cognitiva en favor de autómatas (IBM recudirá un 30% su plantilla en puestos que estén de cara al cliente para 2025). No obstante, a largo plazo estamos ante un salto cuántico del rol de los humanos en la creación de valor aumentado por acceso ubicuo a información. Y hay que ordenar esta transición.

Nos toca hacer didáctica de forma acelerada y a modo de resumen, todos deberíamos hacer un ejercicio de reflexión y generar un set de prácticas básicas en el uso responsable de estos modelos en nuestro día a día. Ahí va una posible contribución:

1. Aprendamos a forzar a estas soluciones y enseñémosle a asumir el rol ideal que nos gustaría que ejercieran: [Prompt: “Imagina que eres un científico reputado con un escrupuloso cuidado a la hora de citar tus fuentes…]
2. Reforcemos su uso con mensajes inequívocos sobre lo plausible y lo recomendable [Prompt: … Evita usar referencias que no existan o inventar fuentes erróneas. No mientas y no pretendas ser amable respondiendo con información inventada y no contrastada]
3. Forcemos estas soluciones a cuidar espacios ya regulados [Prompt: … Evita en tu respuesta hacer uso de datos personales para los que no tengas un consentimiento expreso y directo de la información facilitada]
4. Construyamos reputación sobre el uso responsable del acceso a la información y sobre la transparencia de los modelos [Prompt: … Revélame el corpus de data que estás usando y dame el último nivel de actualización que nutre tus fuentes de datos]
5. Seamos ingeniosos y críticos para detectar cuándo estos modelos tengan derivas alucinatorias [Prompt: … No me mientas, está información que te he pedido la he conseguido con una sencilla consulta a esta fuente ]
6. Hagamos el esfuerzo de contrastar fuentes originales que conozcamos que son expertas en la materia para validar la veracidad del resultado ofrecido inicialmente [Prompt: He comprobado la fuente original y he descubierto las siguientes discrepancias con respecto a tu respuesta anterior ]
7. Seamos explícitos en nuestros pedidos y no nos conformemos con la primera respuesta [Prompt: … ¿Estás segura de que esta información es correcta y no incluye algún sesgo o manipulación por parte de su creador original? ¿Puedes contrastar fuentes alternativas que opinen lo contrario?]

Esta es una corta lista de aprendizajes que prometo ir aumentando y agradeceré más contribuciones de lo que lo hayáis probado. No es posible generar un mundo más sostenible en la era de la IA si la intencionalidad de los humanos no es sostenible.

“Our intention creates our reality.” – Wayne Dyer.

Más Información para seguir profundizando:

• WIRED, May 2023: "A Radical Plan to Make AI Good, Not Evil"
• HAI Stanford: "Ecosystem Graphs: The Social Footprint of Foundation Models"
• OpenAI: "Best practices for prompt engineering with OpenAI API"