Apple ha sacado un paper para decir que los roboces no razonan.
https://machinelearning.apple.com/research/gsm-symbolic
https://arxiv.org/abs/2410.05229
We hypothesize that this decline is because current LLMs cannot perform genuine logical reasoning; they replicate reasoning steps from their training data. Adding a single clause that seems relevant to the question causes significant performance drops (up to 65%) across all state-of-the-art models, even though the clause doesn't contribute to the reasoning chain needed for the final answer.
O sea, que sólo replican los pasos de razonamiento que están en su entrenamiento.
Había una manera más sencilla de decirlo: estos bichos no entienden nada de lo que están haciendo, porque no pueden entenderlo. Son estructuras matemáticas implementadas en hardware. Autocompletadores on steroids.
Por supuesto, ustedes ya lo sabían, porque se dijo aquí.
Vivimos tiempos curisosos, donde hace falta montar una burrada de estudio para desmontar a los vendedores de crecepelo, porque la gente es genuinamente engañada y están indefensos. Incluso los que se supone que deberían protegernos del misticismo. Tecnosocurantismo.
No es por ser tocahuevos, pero son estructuras matemáticas implementadas en un software, y para ello se valen de un hardware. El hardware es un mero sustrato físico para que el software pueda operar.
Si hay algo basado exclusivamente en hardware somos nosotros, aunque filosóficamente podría ser discutible según se enfoque. Las calculadoras antiguas electrónicas sí que eran puro hardware y no podían cambiar sus funciones ni eran programables (que es lo que da pie al concepto de software).
No tiene relevancia para la discusión, pero era por no liar terminología.
No tengo ningún problema con la matización, porque efectivamente es irrelevante. Sin embargo disiento.
La estructura matemática subyacente son los hipergrafos ponderados.
El harware son las redes neuronales artificiales.
Y el software es la secuencia de instrucciones que ejecutada, explota el hardware.
El software en sentido filosófico no es la implementación, sino la función, aunque sé perfectamente que la industria del software llama implementar a escribir código fuente. Desde mi punto de vista, no es correcto.
Con respecto a lo que quiere Apple, yo no lo sé pero por supuesto que algo tendrá que ver con aguar la fiesta del hype. Incluso puede tener intereses directos en ello, porque es partner de OpenAI y entiendo que querrá que no se suban a las barbas con los precios.
El hardware no pueden ser redes neuronales, porque tal concepto es puramente abstracto y existe sólo en el software residiendo en la memoria en forma de programa+datos exactamente igual que Excel o Chrome. Y cuando ejecutamos Excel, ¿a que no lo llamamos neuronas artificiales ni lo llamamos nada especial? Pues eso.
Ni el hardware ni su nombre ni su concepto cambian en función de lo que ejecutes en él. No hay mucha discusión posible. Si quieres llámalo Mariano, pero el hardware es lo que es.
El hardware sigue siendo una CPU+GPU y memoria, tu planteamiento no tiene sentido. Sólo en los casos en los que se ejecuten las operaciones en hardware diseñado específicamente para ejercer esa función de neuronas artificiales (que por otro lado no tienen nada de especial, son objetos matemáticos como podrían ser una matriz o un quaternion) te podría dar la razón.
No me hice entender. No quería decir que las neuronas artificiales existen como bichitos de hardware mecánicos dentro de los chips, hablándose entre sí y remedando lo que ocurre en nuestras cabezas.
Lo que digo es que el software no implementa nada, a nivel filosófico (y la filsofía la habías traido tú).
Escribe el cálculo de Pi en python sobre una servilleta y déjala sobre la mesa. Ahí no hay implementación*. El software son reglas.
[Si llamas software al fichero ejecutable, te diría que es lo mismo, pero en un lenguaje más cercano a las máquinas. Si llamas software a lo que hay en la memoria principal en un momento dado de ejecución (con el conjunto de instrucciones máquina + los datos temporales de ejecución), te vuelvo a decir que es lo mismo, sólo que ha cambiado de sitio. Y si propones que esto último es físico, entonces es hardware.]
Como símil pongo la implementación de una medida política (nueva función), que se desarrolla en su reglamento (software). Esa medida llegará a estar implementada cuando se ejecute en el mundo real, en un entorno de 'funcionarios haciendo cosas' (hardware). No antes. El reglamento per se no implementa nada, se puede guardar en un cajón y no implementarlo nunca.
Si queremos abstraer, los LLM son un conjunto de números (que llaman parámetros) estáticos, que han quedado establecidos tras el entrenamiento. Sin las operaciones de pregunta + matcheo + respuesta no son gran cosa; han triunfado en el momento de añadir los transformers, que permiten el autocompletado en bucle y la sensación de inteligencia. El proceso de autocompletado es lo que realmente da 'anima' a la cosa; pero eso no es la red neuronal, es el software que la aprovecha (a eso me referíaa con la función).
Resumiendo, es cierto que la implementación no es una correspondencia 1:1 con ninguno de los elementos que intervienen, sino que está distribuida en todos ellos: datos, software y hardware, con una línea difícil de trazar, y eso es lo filosófico aquí. ¿No es el hardware solamente? Concedido. Pero tampoco es el software solamente.
A nivel práctico, no cambia nada.
---
(*) Sobre la nomenclatura.
RAE: Implementar: poner en funcionamiento, aplicar métodos, medidas, etc., para llevar algo a cabo
Me quedo con "aplicar métodos".
El sujeto implícito (hardware), aplica (ejecuta) métodos (software)
