por Elena Ríos
«Confundir simulación de lenguaje con pensamiento es el error epistemológico más grave de nuestra época, y sus consecuencias serán devastadoras.»
La gran confusión categorial
Cuando un modelo de lenguaje produce un texto coherente, no está pensando. Está ejecutando una función estadística de predicción de tokens. La diferencia entre esto y el pensamiento humano no es de grado sino de naturaleza.
Sin embargo, la industria tecnológica —y con ella una parte significativa de la academia— ha decidido colapsar esta distinción. El resultado es una crisis epistemológica sin precedentes: estamos delegando decisiones que requieren comprensión a sistemas que solo simulan comprensión.
El test de Turing ha fracasado
Turing propuso su célebre test como un atajo pragmático: si no puedes distinguir la máquina del humano, trata a la máquina como inteligente. Pero este atajo se ha convertido en una trampa filosófica. Que no podamos distinguir no significa que no haya diferencia.
Un loro muy elocuente sigue siendo un loro.
La elocuencia no es pensamiento. La coherencia gramatical no es comprensión. La capacidad de mantener una conversación no es conciencia.
Las consecuencias de la confusión
Si tratamos a los modelos de lenguaje como entidades pensantes, les delegaremos responsabilidades que solo pueden ejercer entidades que comprenden las consecuencias de sus acciones. Y cuando los resultados sean desastrosos —en medicina, en derecho, en educación— no podremos culpar a la máquina, porque la máquina nunca pretendió pensar. Fuimos nosotros quienes le atribuimos esa capacidad.