El 30 de noviembre de 2027 se cumplirán cinco años desde que OpenAI puso ChatGPT a disposición del público. La fecha no marca el nacimiento de la inteligencia artificial, ni siquiera el comienzo de su utilización cotidiana. Lo que señala es otra cosa: el momento en que millones de personas comenzaron a relacionarse directamente con una inteligencia artificial mediante una interfaz tan familiar como una conversación.
La IA generativa ya vivía entre nosotros, solo que no hablábamos con ella
La IA, en efecto, llevaba mucho tiempo entre nosotros. Desde principios de los años noventa se desarrollaban sistemas de filtrado colaborativo; GroupLens, por ejemplo, ya experimentaba en 1994 con recomendaciones basadas en las valoraciones de otras personas. Después llegaron filtros de spam, buscadores, sistemas de reconocimiento, publicidad personalizada y recomendaciones de productos, música o películas. Mucho antes de preguntarle algo a un chatbot, ya convivíamos cotidianamente con sistemas que aprendían de nuestro comportamiento. La diferencia fue que casi nunca hablábamos con ellos: la IA permanecía escondida detrás de la función que realizaba.
- 1994 — Filtrado colaborativo
GroupLens experimenta con recomendaciones basadas en valoraciones de otros usuarios.
- 2006 — El Premio Netflix
Un millón de dólares para mejorar Cinematch, su sistema de recomendación.
- Años 2000-2010 — IA invisible
Gmail filtra spam; buscadores y asistentes de voz aprenden en silencio.
- Noviembre 2022 — Llega ChatGPT
La IA generativa adquiere, por primera vez, una interfaz conversacional masiva.
- Noviembre 2027 — Cinco años después
Ni el oráculo prometido ni el exterminador laboral anunciado.
Lo que cambió con la IA generativa
La IA generativa alteró esa relación: dejó de ser únicamente una infraestructura invisible y adquirió una interfaz lingüística. Desde entonces le pedimos que explique, traduzca, programe, resuma, compare, investigue, dibuje, aconseje y redacte. Y, precisamente porque responde utilizando lenguaje humano, resulta extraordinariamente fácil atribuirle propiedades humanas que técnicamente no se siguen de su capacidad para conversar.
Han pasado casi cinco años y aquí seguimos. La IA generativa tampoco se parece demasiado al artefacto omnisciente que prometían sus entusiastas ni al exterminador laboral que anunciaban sus críticos más apocalípticos. Es mucho más interesante que ambas caricaturas: extraordinariamente capaz y, simultáneamente, falible; productiva pero necesitada de supervisión.
«Nuestra primera cuenta de cinco años con la IA apunta a resultar bastante menos dramática de lo que muchos anticiparon en 2022.»
Así que, después de casi cinco años de convivencia, quizá sea momento de redactar algo parecido al manual que nunca vino dentro de su caja.
1. No discuta con la IA generativa después de un fallo
Un modelo de lenguaje puede equivocarse con una tranquilidad admirable. También puede disculparse, aceptar nuestra corrección y, si insistimos suficientemente, aceptar una corrección equivocada. La cortesía conversacional no debe confundirse con reconocimiento epistémico.
El National Institute of Standards and Technology (NIST) utiliza el término confabulación para describir respuestas falsas o erróneas presentadas convincentemente por sistemas generativos. No se trata de un desperfecto ocasional: deriva de la propia naturaleza de sistemas diseñados para generar respuestas estadísticamente plausibles. La recomendación práctica es sencilla: cuando detecte un error, corrija el dato y vuelva a verificar el resultado desde una fuente independiente. Una disculpa impecablemente redactada sigue sin ser evidencia.
2. Seguridad al hablar no es lo mismo que conocimiento
Las personas hemos desarrollado numerosos indicios sociales para evaluar a nuestros interlocutores: vacilaciones, contradicciones, tono de voz. Los modelos lingüísticos imitan algunos de esos indicios, pero no poseen necesariamente el mismo significado. Una respuesta larga, elegante y categórica puede ser falsa; una respuesta prudente puede ser correcta.
El NIST advierte expresamente del riesgo de que los usuarios actúen sobre información falsa debido a la manera convincente en que puede ser presentada. Esto se vuelve especialmente importante en medicina, derecho, finanzas o cualquier decisión de consecuencias relevantes: la IA puede ayudar a localizar, organizar, comparar o explicar evidencia; no debe convertirse ella misma en la evidencia.
NBER: 5,179 trabajadores de atención al cliente con acceso a IA generativa, con mayores mejoras entre los menos experimentados.
Microsoft Research: mayor confianza en la IA se asoció con menor ejercicio de pensamiento crítico.
3. Pregunte bien, sin convertir el prompt en un ritual
Estudios sobre sensibilidad a los prompts muestran que pequeñas modificaciones de redacción, formato o incluso errores ortográficos pueden producir variaciones apreciables en las respuestas de un modelo. De ahí nació toda una cultura del prompt engineering, a veces útil y a veces cercana a la hechicería informática.
La experiencia sugiere algo menos espectacular y más útil: explique qué quiere obtener, para qué lo necesita, qué contexto debe considerar, cuáles son las restricciones y cómo quiere recibir el resultado. Cuando la tarea sea compleja, divídala y revise los resultados intermedios. Un buen prompt se parece menos a un conjuro y más a unas buenas especificaciones de trabajo.
4. No comparta con la IA lo que no dejaría en la fotocopiadora
La conversación produce una sensación de privacidad particularmente engañosa. Escribimos como si habláramos con alguien en una habitación cerrada, cuando en realidad estamos utilizando un sistema informático sujeto a políticas de almacenamiento, tratamiento de datos y gobernanza.
UNESCO ha señalado la protección de la privacidad como uno de los elementos centrales de una utilización responsable de la IA generativa. La facilidad del «copiar y pegar» no constituye una política de seguridad. Si la información no debería salir de una organización, primero compruebe si el entorno de IA que utiliza está autorizado para recibirla.
5. No delegue una decisión que después tendrá que explicar
Quizá uno de los aprendizajes más importantes haya sido distinguir asistencia de responsabilidad. Una IA puede comparar alternativas, detectar patrones, recuperar antecedentes o proponer una recomendación. Nada de ello determina automáticamente quién debe responder por la decisión.
El problema se agrava por el llamado sesgo de automatización: la tendencia a otorgar un peso excesivo a una recomendación algorítmica porque parece objetiva o racional. La OCDE advierte que esta confianza excesiva puede debilitar la supervisión y el juicio humanos. Una regla razonable: cuanto mayor sea el efecto de una decisión sobre derechos, salud, patrimonio o empleo, mayor debe ser la capacidad humana de revisar, cuestionar y detener el proceso.
6. Úsela para pensar más, no para dejar de pensar
Una tecnología que reduce esfuerzo puede liberarnos para realizar actividades cognitivamente más valiosas, pero también puede conseguir que dejemos de practicar precisamente aquello que pretendía ayudarnos a hacer.
Pedir «hazme un análisis de esto» y aceptar el resultado reduce nuestra participación intelectual. Pedir «propón tres interpretaciones incompatibles, identifica la evidencia que apoyaría cada una y señala qué estoy pasando por alto» puede ampliarla. La mejor IA no debería funcionar como sustituto del pensamiento, sino como instrumento para hacerlo más amplio y exigente.
7. Si usted no sabe hacer algo, la IA puede equivocarse mucho más rápido
La IA reduce el costo de producir, no de juzgar
Un programador que conoce su oficio puede utilizar IA para escribir código más rápidamente y revisar lo generado. Alguien que no programa puede producir código en segundos, pero tendrá más dificultades para reconocer un error sutil. Lo mismo ocurre con estadísticas, contratos, traducciones o análisis históricos. La IA democratiza capacidades, pero también democratiza la posibilidad de cometer errores sofisticados.
8. Pida alternativas, no solo respuestas
Durante los primeros años tendimos a utilizar los chatbots como buscadores parlantes: formulábamos una pregunta y esperábamos la respuesta. Pero una de las posibilidades más interesantes de estos sistemas consiste en producir espacios de alternativas a un costo muy bajo: contraargumentos, escenarios, hipótesis rivales, objeciones. En tareas creativas o analíticas, no pregunte solamente «¿cuál es la mejor opción?». Pregunte también «¿qué otras opciones existen?» y «¿bajo qué condiciones dejaría de ser válida esta conclusión?».
9. Que parezca comprenderlo no significa que haya alguien ahí
Sabemos que estamos delante de software y, sin embargo, espontáneamente decimos que «quiere», «piensa» o «nos entiende». La interfaz conversacional activa hábitos sociales profundamente arraigados. Conviene mantener cierta disciplina antropomórfica: podemos usar metáforas humanas para interactuar con la tecnología sin confundir la metáfora con una descripción de su naturaleza. Lo importante es recordar quién está realizando la atribución de humanidad: usted.
10. Mantenga siempre accesible el botón de apagado
Los nuevos sistemas pueden utilizar herramientas, consultar información y operar con grados crecientes de autonomía. Eso cambia la naturaleza del riesgo: la pregunta ya no es solamente si la respuesta es correcta, sino qué puede hacer el sistema con ella. Una equivocación conectada automáticamente con correo, compras o procesos administrativos puede propagarse.
La regla doméstica podría formularse así: empiece concediendo al sistema menos autonomía de la que parece necesitar y amplíela cuando haya demostrado que el proceso es verificable, reversible y seguro. Un agente que puede recomendar una acción no necesita necesariamente permiso para ejecutarla. Y si puede ejecutarla, conviene saber cómo detenerla.
Recapitulando: diez reglas rápidas
- Corrija el error y verifique en una fuente independiente; una disculpa no es evidencia
- La fluidez no garantiza exactitud: la IA aporta evidencia, no la sustituye
- Explique contexto, restricciones y formato; el prompt no es un conjuro
- No comparta información sensible sin conocer las políticas del entorno
- La responsabilidad de una decisión sigue siendo humana
- Pídale que amplíe su pensamiento, no que lo sustituya
- Sepa juzgar el resultado, no solo producirlo
- Pida alternativas y objeciones, no solo una respuesta
- Recuerde que la atribución de humanidad la hace usted, no la máquina
- Otorgue autonomía de forma gradual, verificable y reversible
Conclusión: la pregunta que sí vale la pena hacerse
La predicción apocalíptica no se cumplió. A casi cinco años de la llegada de la IA generativa al gran público, no hemos sido reemplazados por una inteligencia artificial universal. Tampoco sería sensato concluir que nada importante ha cambiado: ha cambiado nuestra relación con las máquinas. Por primera vez, una tecnología computacional de enorme complejidad puede ser utilizada por casi cualquier persona simplemente explicándole, en lenguaje cotidiano, qué necesita.
Quizá el error de estos cinco años haya sido formular continuamente la pregunta como una competencia: ¿qué puede hacer la IA mejor que nosotros y cuándo conseguirá reemplazarnos? La pregunta cotidiana es mucho más sencilla: ¿qué podemos hacer mejor nosotros cuando disponemos de ella? Podemos escribir más rápido, pero también revisar mejor. Podemos automatizar tareas tediosas y reservar tiempo para las que requieren juicio, imaginación o contacto humano. Nada de eso exige convertirla en oráculo, enemigo ni sustituto universal.
Seguimos aquí, delante de la pantalla, aprendiendo a convivir con un artefacto extraordinariamente útil que unas veces nos sorprende, otras nos ayuda y ocasionalmente inventa una referencia bibliográfica con absoluta serenidad. Parece que tendremos que seguir lidiando con nuestro autómata favorito, así que más vale aprender a usarlo bien.
Para profundizar en estos conceptos, consulte también nuestros artículos sobre el contexto como recurso más valioso de la IA, sobre por qué las organizaciones inteligentes toman mejores decisiones y sobre el nuevo papel de los expertos en la era de los agentes inteligentes.
Preguntas frecuentes
¿Qué es la confabulación en los sistemas de IA generativa?
Es el término que usa el NIST para describir respuestas falsas o erróneas presentadas de manera convincente por un sistema generativo. No es un desperfecto ocasional, sino que deriva de la naturaleza de sistemas diseñados para generar respuestas estadísticamente plausibles.
¿Qué es el sesgo de automatización?
Es la tendencia a otorgar un peso excesivo a una recomendación algorítmica porque parece objetiva o racional. La OCDE advierte que esta confianza excesiva puede hacer que las personas pasen por alto errores y debiliten la supervisión y el juicio humanos.
¿La IA generativa reduce el pensamiento crítico?
Un estudio de Microsoft Research encontró que una mayor confianza en la IA estaba asociada con menor ejercicio de pensamiento crítico, aunque no lo eliminaba: lo desplazaba hacia tareas como verificar información, integrar respuestas y supervisar el trabajo producido.
¿Cuánta autonomía debería darse a un agente de IA generativa?
La recomendación práctica es empezar concediendo al sistema menos autonomía de la que parece necesitar y ampliarla únicamente cuando haya demostrado que el proceso es verificable, reversible y seguro, gestionando los riesgos en función del contexto y el impacto de cada decisión.
