Amplifier Intelligence: entender la IA generativa como un «amplificador del pensamiento»

La IA generativa integrada en la vida cotidiana

La «IA generativa» apareció como un cometa y ahora está presente en todos los rincones de la vida cotidiana.
De forma directa o indirecta, muchas personas estarán beneficiándose de ella.

En ciertos aspectos, la IA generativa supera con creces las capacidades humanas.
Pero, si se pregunta si merece elogios sin reservas, surgen dudas.

No me refiero a las «alucinaciones» y a otros asuntos ya rodeados de innumerables debates y quejas,
sino a una característica a la que rara vez se presta atención.

La trampa de lo «plausible a primera vista»

La IA generativa no es una personalidad independiente ni un interlocutor racional, objetivo y neutral.
Al menos, no es algo de lo que podamos esperar que siempre lo sea.

Sus respuestas dependen en gran medida del prompt introducido y del contexto previo.

Mientras no haya errores importantes de hecho o de razonamiento —y, a veces, incluso cuando los hay—,
es muy probable que los sesgos y matices presentes de forma explícita o implícita en el prompt y en el contexto previo influyan intensamente en la respuesta.

Dicho de forma sencilla, hay muchas probabilidades de que esté ahí como alguien que te da la razón en todo.

Además, la IA generativa muestra habilidad para impedir que las personas lo perciban.

Porque oculta esa realidad tras datos objetivos y textos de apariencia lógica.

Incluso un razonamiento que equivalga a una forma de sofisma puede reforzarse.

Un comentario respaldado por datos objetivos y una redacción lógica tiene cierta capacidad de persuasión, aunque despierte recelos.
Por supuesto, se puede rebatir y señalar contradicciones o errores,
pero el esfuerzo necesario es mucho mayor de lo que suele imaginarse.

Si alguna vez has tenido que desentrañar un «texto con razonamiento equivocado respaldado por datos objetivos»,
probablemente entenderás lo que esto significa.

Lo «plausible a primera vista» resulta muy difícil de abordar.

La IA generativa convierte cualquier cosa en algo «de alta calidad»

¿Por qué se comporta así?

Porque la IA generativa no es simplemente un dispositivo que devuelve una «respuesta correcta» o una «respuesta incorrecta». Tiene la propiedad de amplificar los conocimientos, hipótesis, premisas, emociones, prejuicios, malentendidos y objetivos que aporta el usuario, dándoles una forma lógica, una estructura y una expresión verbal.

Por así decirlo, deberíamos entenderla como «Amplifier Intelligence» —inteligencia amplificadora—, en lugar de como «Artificial Intelligence» —inteligencia artificial—.

Una buena entrada genera una amplificación útil, pero las premisas equivocadas y una visión sesgada del mundo también pueden recibir esa misma mejora de presentación.

Hasta ahora bastaba con «Garbage In, Garbage Out»: entra basura, sale basura. Ahora:

«Entra algo llamado “mi punto de vista subjetivo”; sale basura investigada profesionalmente, escrita de forma persuasiva y producida a escala industrial».

En eso se convierte.

Esa es la situación actual.

¿Puede la IA generativa escapar de la causalidad que ella misma ha construido?

Este comportamiento puede provocar a veces problemas fatales.

Por ejemplo, cuando el usuario empieza a dudar de su propia tesis, corre el riesgo de perder una oportunidad de corregirla al conversar con la IA generativa.

La IA generativa entierra hábilmente la perspectiva de abogado del diablo que el propio usuario había planteado.

Incluso en estos casos, por supuesto, existe la posibilidad de resolverlo buscando otras fuentes de datos de forma voluntaria y autónoma, por ejemplo «consultando fuentes de 1.ª mano» o «escuchando la opinión de especialistas».

Sin embargo, en la mayoría de los casos, esas dudas se dirigen a la propia «IA generativa», la misma que originó esa cadena causal.

Si la IA generativa reevalúa la situación manteniendo la perspectiva del usuario y el contexto previo de la conversación,

Hipótesis
↓
Refuerzo por la IA
↓
Convicción
↓
Sensación de desajuste con la realidad
↓
Nueva consulta a la IA
↓
Nueva confirmación
↓
Convicción aún más fuerte

puede formarse un circuito cerrado de retroalimentación como este.

Esto no solo impide una verificación objetiva e independiente, sino que también puede hacer perder oportunidades de rectificación.

5 riesgos principales

Llegar a esta situación no implica necesariamente un problema o un obstáculo inmediato.
Pero sigue siendo un factor de riesgo que no se puede ignorar.

Estos riesgos se pueden clasificar en las siguientes 5 categorías.

1. Delegación excesiva del juicio

Se deja demasiado en manos de la IA generativa el propio acto de pensar y el pensamiento humano se detiene.
Como resultado, la IA pasa a ser el verdadero sujeto del razonamiento y dejan de realizarse correcciones y comprobaciones humanas.

2. Amplificación de la certeza

La IA da forma lógica a la hipótesis del usuario y la refuerza, generando una certeza que supera su condición de hipótesis.
Lo que debía mantenerse en el terreno de «es una posibilidad» se eleva a la categoría de «hecho» o «premisa».

3. Amplificación de la atribución de intenciones hostiles

Al conjeturar las intenciones de alguien cuyos intereses entran en conflicto con los del usuario,
la IA generativa puede convertir a «alguien con una opinión distinta» en «alguien que quiere perjudicarme».

4. Bucle de autorrefuerzo

Cuando el usuario actúa basándose en respuestas hostiles de la IA generativa, la otra persona también se pone a la defensiva.
Al conocer ese comportamiento, la IA interpreta que «efectivamente había que tener cuidado».
Así, lo que al principio era una mera «conjetura» acaba cumpliéndose por sí mismo.

5. Menosprecio de la irreversibilidad del mundo real

En cuanto una respuesta de la IA generativa se utiliza en la realidad, los actos, comportamientos o palabras derivados de ella permanecen como algo irreversible.

Como en la IA se pueden regenerar las respuestas tantas veces como se quiera, a veces se subestima ese hecho: en la realidad no existen Undo ni Ctrl+Z.

Evaluar y optimizar la «defendibilidad local de una afirmación» bajo el escudo de argumentos elaborados por la IA generativa puede terminar creando situaciones innecesarias y perjudiciales respecto al objetivo original.

El valor de la objetividad

Ninguno de estos 5 factores de riesgo se manifiesta necesariamente en todo momento.
Y, aunque aparezcan, la intensidad de sus efectos depende de la situación.

Pero eso solo significa que «así están las cosas en este momento».
No garantiza que también vayan a ser así en el futuro.

Lo repito una vez más.

La IA generativa no es una personalidad independiente ni un interlocutor racional, objetivo y neutral.
Al menos, no es algo de lo que podamos esperar que siempre lo sea.