{"id":105,"date":"2023-11-20T07:14:32","date_gmt":"2023-11-20T07:14:32","guid":{"rendered":"https:\/\/vr-news.net\/?p=105"},"modified":"2023-11-20T07:14:32","modified_gmt":"2023-11-20T07:14:32","slug":"de-cerebros-humanos-algoritmos-y-alucinaciones-enrique-dans","status":"publish","type":"post","link":"https:\/\/vr-news.net\/?p=105","title":{"rendered":"De cerebros humanos, algoritmos y alucinaciones\u2026 \u00bb Enrique Dans"},"content":{"rendered":"

<\/p>\n

\n
\n
\"IMAGE:<\/figure>\n<\/div>\n

El Cambridge Dictionary ha designado \u00abhallucinate\u00bb<\/em>, en espa\u00f1ol \u00abalucinar\u00bb, como su palabra del a\u00f1o, resaltando la enorme importancia y popularidad de la algoritmia generativa y c\u00f3mo la palabra ha cobrado un nuevo significado cuando hemos empezado a utilizarla como forma de entender cuando un algoritmo generativo proporciona respuestas incorrectas a una pregunta.<\/p>\n

Que un fen\u00f3meno como la algoritmia generativa, que alcanz\u00f3 un mill\u00f3n de usuarios en sus primeros cinco d\u00edas abierto al p\u00fablico y cien millones en sus primeros dos meses, se convierta en protagonista de la palabra del a\u00f1o puede resultar bastante comprensible: despu\u00e9s de todo, much\u00edsimos millones de personas consideran ahora a ChatGPT, a Claude, a Perplexity y a otros algoritmos como asistentes a los que preguntar casi cualquier cosa, a veces de manera muy razonable y en otras pensando absurdamente que les va a servir hasta de m\u00e9dico, de psiquiatra o de consejero de pareja, y muchos se sorprenden cuando les ofrece respuestas que no tienen nada que ver con la realidad.<\/p>\n

Lo que me sugiere a m\u00ed, fundamentalmente, es el interesante paralelismo \u2013 no una identidad \u2013 entre el funcionamiento de unos algoritmos que, en la pr\u00e1ctica, son simplemente estad\u00edstica elevada a la posibilidad de utilizar una capacidad de procesamiento y una memoria absolutamente brutales, y un cerebro humano que aprende tambi\u00e9n mediante el uso de estad\u00edstica.<\/p>\n

En realidad, el cerebro humano aprende cosas en funci\u00f3n de estad\u00edsticas \u2013 generalmente bastante simples \u2013 y es capaz de deducir de correlaciones de diversos tipos un aprendizaje que le permite explicarse fen\u00f3menos o hacer predicciones posteriormente. Pero como en el caso de los algoritmos, tambi\u00e9n son muchos los casos en los que nuestro cerebro \u00abalucina\u00bb no en su acepci\u00f3n original, la de imaginar cosas que no existen o consumir sustancias estupefacientes, sino en la de atribuir a correlaciones aparentes un significado que va m\u00e1s all\u00e1 del que ten\u00edan.<\/p>\n

La forma en la que el cerebro humano \u00abalucina\u00bb ante determinadas correlaciones puede ser afectada por muchos factores: por nuestra educaci\u00f3n y conocimientos de estad\u00edstica, por nuestros sesgos, etc. Para una persona que no sepa estad\u00edstica<\/a>, creer que la loter\u00eda de Navidad va a caer en tal o cual n\u00famero en funci\u00f3n de la ocurrencia de los n\u00fameros en los sorteos anteriores puede resultar hasta cre\u00edble y determinar c\u00f3mo gasta (el o ella creer\u00e1 que no gasta, sino que \u00abinvierte\u00bb) su dinero cuando en realidad se trata de puro azar, del mismo modo que alguien que ve, por ejemplo, a una persona hablando con otra que no es su pareja puede alucinar pensando que tienen un l\u00edo.<\/p>\n

Las personas se inventan informaci\u00f3n, a veces intencionadamente y otras veces sin querer. Cuando lo haces sin querer, suele ser el resultado de sesgos cognitivos o \u201cheur\u00edsticas\u201d: atajos mentales que desarrollamos a trav\u00e9s de experiencias pasadas. Estos atajos nacen de la necesidad: en un momento dado, s\u00f3lo podemos procesar una cantidad limitada de la informaci\u00f3n que inunda nuestros sentidos, y recordamos \u00fanicamente una fracci\u00f3n de toda la informaci\u00f3n a la que hemos estado expuestos, que pasamos a considerar representativa del resto. Nuestro cerebro usa asociaciones aprendidas para llenar los vac\u00edos de informaci\u00f3n y responder r\u00e1pidamente a cualquier pregunta que se nos presente. Simplemente, trata de adivinar cu\u00e1l podr\u00eda ser la respuesta correcta bas\u00e1ndose en un conocimiento limitado, y cae en la llamada \u00abconfabulaci\u00f3n\u00ab.<\/p>\n

De una correlaci\u00f3n se pueden extraer muchas cosas: lo hace nuestro cerebro muy a menudo, y lo hacen ahora tambi\u00e9n los algoritmos generativos: si no hay correlaciones significativas, tiran de las que no lo son. En realidad, los algoritmos tambi\u00e9n alucinan y confabulan a menudo (se calcula un 3% de incidencia en el caso de ChatGPT y hasta un 27% en el de Bard) para rellenar los huecos de informaci\u00f3n que se encuentran, pero no lo hacen para conservar energ\u00eda, sino para hacer lo que les hemos pedido: generar una respuesta con la informaci\u00f3n que les ha sido suministrada en su entrenamiento. Podemos trabajar en la mejora del entrenamiento, suministrar informaci\u00f3n m\u00e1s completa o tratar de solucionarlo en forma de parche con restricciones ad hoc<\/em>, y a\u00fan no est\u00e1 especialmente claro qu\u00e9 va a ocurrir con ellos: si se convertir\u00e1 en algo que se puede solucionar o si ser\u00e1 una caracter\u00edstica que siga ah\u00ed y que pueda, incluso, da\u00f1ar la credibilidad de este tipo de asistentes a medio plazo.<\/p>\n

La cuesti\u00f3n que se deriva de esto, l\u00f3gicamente, es qu\u00e9 ocurre cuando planteamos que, por muy eficiente que sea nuestro cerebro, que lo es y mucho, los recursos de computaci\u00f3n de un algoritmo generativo crecen a una velocidad brutal, y pueden por tanto utilizar un nivel de sofisticaci\u00f3n estad\u00edstico que no se limita a regresiones simples y a observaciones puntuales, sino que puede captar relaciones entre variables de todo tipo \u2013 incluyendo las latentes \u2013 que un cerebro humano nunca podr\u00eda llegar a capturar.<\/p>\n

De una u otra manera, el paralelismo es claro, y deber\u00eda llevarnos a la reflexi\u00f3n: aunque no se basen en mecanismos id\u00e9nticos, s\u00ed estamos aparentemente recreando un fen\u00f3meno, el del aprendizaje, que con sus obvias diferencias \u2013 la presencia o ausencia de conciencia o de motivaci\u00f3n, entre otras \u2013 puede terminar dando lugar a asistentes enormemente potentes, capaces de cambiar ya no nuestra forma de trabajar, sino nuestra manera de entender el mundo. Pocas veces una palabra con una connotaci\u00f3n en principio negativa \u2013 obviamente, no es bueno que un algoritmo \u00abalucine\u00bb \u2013 se convierte en una forma tan interesante de entender el paralelismo entre el cerebro humano y la m\u00e1quina. Y ah\u00ed lo dejo para que vay\u00e1is alucinando\u2026<\/p>\n

\n

This article is also available in English on my Medium page, \u00abWhat \u2018hallucinations\u2019 say about the parallels between generative algorithms and our brains\u00bb <\/em><\/p>\n<\/div>\n