AGI

[Saturio]

https://www.pressreader.com/spain/la-vanguardia-dinero/20230326/page/17/textview

GPT-4 está aquí: ¿qué vamos a hacer?

Saludos.

A mí en particular me llama la atención lo del tema legal.

En un ámbito en el que hay que ser puntilloso e ir a la literalidad del texto, vamos a utilizar una técnica que es fundamentalmente incontrolable.

Eso quiere decir que van a aparecer casos en los que cuando haya que hacer un recurso o cualquier texto del estilo, habrá que sacar el texto que se quiera y luego habrá que repasar minuciosamente el texto de salida, no vaya a ser que por una alteración de la redacción o directamente una invención del modelo la interpretación del texto en cuestión no tenga nada que ver con lo que debería decir, o también citas no literales de la ley, inferencias ilógicas, y otro montón de artefactos conocidos que no se deben a lo "currado" que está el modelo, sino a la limitación de esta técnica.

Si yo escribo un documento, y luego tengo que pasar horas revisando que no haya una trampa, y además esa trampa está hábilmente camuflada por la aparente coherencia del texto, en la práctica no estoy mejor que antes. De hecho estoy peor.

En la programación pasa tres cuartos de lo mismo, aunque en este caso los errores son más sencillos de observar, ya que el programa no hará lo que debe hacer. Lo que mucha gente no parece haberse enterado es que escribir código es mucho más fácil que leerlo. Si tengo que andar buscando zancadillas en el código, no ahorro gran cosa. Además, la fiabilidad de lo producido dependerá directamente de lo frecuentes y correctas que sean las respuestas relacionadas en el corpus de texto que utilice para entrenar el modelo (y obviando asuntos como la arquitectura general del proyecto en el que esté trabajando, que el modelo no tiene cómo saber). Por lo que si lo que le solicito es algo único o en un lenguaje poco popular, va a fallar mucho más.

Esta situación será similar a la de los coches autónomos: está de puta madre el 99% del tiempo, pero el 1% restante que sería trivial para un humano para la máquina es imposible o confuso por que esta técnica no da para más (falta, como digo, el sentido común y no hay un modelo mental como tal). Y resulta que ese 1%, el "trivial", es imprescindible para que sirva para tareas significativas o críticas.

Básicamente es la supuesta mejora de la conducción autónoma actual. ¿Para qué quiero un robot al que tengo que estar supervisando mientras conduzco?. Otra cuestión es que me dijese, mira, del kilometro 35 al 116 te llevo sin problemas pero entre el 117 y el 146 necesitaré supervisión, de lo que avisaré 10 minutos antes.

[sudden and sharp]

Peras... olmos.







... y algoritmos.

[muyuu]

Si yo escribo un documento, y luego tengo que pasar horas revisando que no haya una trampa, y además esa trampa está hábilmente camuflada por la aparente coherencia del texto, en la práctica no estoy mejor que antes. De hecho estoy peor.

En la programación pasa tres cuartos de lo mismo, aunque en este caso los errores son más sencillos de observar, ya que el programa no hará lo que debe hacer. Lo que mucha gente no parece haberse enterado es que escribir código es mucho más fácil que leerlo. Si tengo que andar buscando zancadillas en el código, no ahorro gran cosa. Además, la fiabilidad de lo producido dependerá directamente de lo frecuentes y correctas que sean las respuestas relacionadas en el corpus de texto que utilice para entrenar el modelo (y obviando asuntos como la arquitectura general del proyecto en el que esté trabajando, que el modelo no tiene cómo saber). Por lo que si lo que le solicito es algo único o en un lenguaje poco popular, va a fallar mucho más.

con la incorporación de modelos GPT y similares puede ocurrir como con la fiebre del outsourcing

en ambos casos, se basan en observaciones positivas que son reales, como son las diferencias salariales y el hecho de que los resultados son muy positivos en determinadas circunstancias

en ambos casos, se ignoran observaciones negativas como son la existencia de fricción en las comunicaciones, el hecho de que no se pueda garantizar un rendimiento dado, o que el trabajo compuesto por dos trabajos separados puede costar tanto o más coordinarlo que hacerlo desde cero

yo a veces pregunto cosas a chatGPT y me sorprendo de lo bien que me puede funcionar en algunas ocasiones, y esto es habiendo investigado en transformers y antes en LSTMs etc, a los mismos insiders les sorprende lo bien que funcionan los modelos LLM para ciertas cosas y cómo parece que esconden ciertos modelos de computación emergentes que están implícitos en las propias redes de alguna forma, a través del lenguaje

pero en otras ocasiones, sencillamente no me da un resultado satisfactorio, y no parece que con la tecnología actual lo pueda dar

¿qué ocurre si lo convierto en una dependencia total y me deshago de mis "armas" para atajar ciertos problemas que son imprescindibles de resolver? pues que estoy en la mierda porque la cadena simplemente se rompe, el producto simplemente no sale, y ahora tengo que volver a re-adquirir como sea dichas armas, que pueden ser simplemente cosas olvidadas o empleados despedidos


¿y qué ocurrirá en la empresa?

pues los managers masters del universo culparán a los de abajo, como siempre

el outsourcing no funcionando, cuando no funciona, es culpa de los managers de abajo que no saben coordinar las cosas, e incluso cuando se cancele todo el outsourcing se olvidará quién tomó la decisión

y cuando los prompts a GPT o el LLM que sea no funcionen, la culpa será de que los que hacen prompts no son buenos prompt engineers, o los que hacen el tuning no son buenos haciendo tuning de modelos, o el middle manager que fuera escogió un LLM equivocado, etc

[wanderer]

Si yo escribo un documento, y luego tengo que pasar horas revisando que no haya una trampa, y además esa trampa está hábilmente camuflada por la aparente coherencia del texto, en la práctica no estoy mejor que antes. De hecho estoy peor.

En la programación pasa tres cuartos de lo mismo, aunque en este caso los errores son más sencillos de observar, ya que el programa no hará lo que debe hacer. Lo que mucha gente no parece haberse enterado es que escribir código es mucho más fácil que leerlo. Si tengo que andar buscando zancadillas en el código, no ahorro gran cosa. Además, la fiabilidad de lo producido dependerá directamente de lo frecuentes y correctas que sean las respuestas relacionadas en el corpus de texto que utilice para entrenar el modelo (y obviando asuntos como la arquitectura general del proyecto en el que esté trabajando, que el modelo no tiene cómo saber). Por lo que si lo que le solicito es algo único o en un lenguaje poco popular, va a fallar mucho más.

con la incorporación de modelos GPT y similares puede ocurrir como con la fiebre del outsourcing

en ambos casos, se basan en observaciones positivas que son reales, como son las diferencias salariales y el hecho de que los resultados son muy positivos en determinadas circunstancias

en ambos casos, se ignoran observaciones negativas como son la existencia de fricción en las comunicaciones, el hecho de que no se pueda garantizar un rendimiento dado, o que el trabajo compuesto por dos trabajos separados puede costar tanto o más coordinarlo que hacerlo desde cero

yo a veces pregunto cosas a chatGPT y me sorprendo de lo bien que me puede funcionar en algunas ocasiones, y esto es habiendo investigado en transformers y antes en LSTMs etc, a los mismos insiders les sorprende lo bien que funcionan los modelos LLM para ciertas cosas y cómo parece que esconden ciertos modelos de computación emergentes que están implícitos en las propias redes de alguna forma, a través del lenguaje

pero en otras ocasiones, sencillamente no me da un resultado satisfactorio, y no parece que con la tecnología actual lo pueda dar

¿qué ocurre si lo convierto en una dependencia total y me deshago de mis "armas" para atajar ciertos problemas que son imprescindibles de resolver? pues que estoy en la mierda porque la cadena simplemente se rompe, el producto simplemente no sale, y ahora tengo que volver a re-adquirir como sea dichas armas, que pueden ser simplemente cosas olvidadas o empleados despedidos


¿y qué ocurrirá en la empresa?

pues los managers masters del universo culparán a los de abajo, como siempre

el outsourcing no funcionando, cuando no funciona, es culpa de los managers de abajo que no saben coordinar las cosas, e incluso cuando se cancele todo el outsourcing se olvidará quién tomó la decisión

y cuando los prompts a GPT o el LLM que sea no funcionen, la culpa será de que los que hacen prompts no son buenos prompt engineers, o los que hacen el tuning no son buenos haciendo tuning de modelos, o el middle manager que fuera escogió un LLM equivocado, etc

La culpa, por supuesto, del maestro armero... 

Pero cuando se pierde el criterio para ver de dónde ha podido venir el problema, y además se ha despedido a la gente que podía haberlo sabido, en fin ¿qué podría salir mal? Es no solo ineficiente, sino corrosivo.

[pollo]

Pues habrá que dejar que Darwin haga su trabajo.

Estarán los demasiado espabilados que se pueden quedar tirados por darse prisa, y los habrá más inteligentes que no se dejarán arrastrar por los cantos de sirena e intentarán incorporar la nueva herramienta sin deshacerse de lo que ya les daba valor.

Luego el tiempo pondrá las cosas en su sitio, con muchos daños colaterales, claro.

Personalmente creo que va siendo hora de que haya una cagada histórica de los tecnoflipados. Hay demasiado cantamañanas vendiendo burras desde hace mucho ya (Elon Musk uno de los más notorios, pero no el único).

[Benzino Napaloni]

¿qué ocurre si lo convierto en una dependencia total y me deshago de mis "armas" para atajar ciertos problemas que son imprescindibles de resolver? pues que estoy en la mierda porque la cadena simplemente se rompe, el producto simplemente no sale, y ahora tengo que volver a re-adquirir como sea dichas armas, que pueden ser simplemente cosas olvidadas o empleados despedidos

Perder al trabajador que sabe manejar el cotarro es catastrófico. Y no sólo pasa con los trabajadores IT, puede pasar perfectamente en una empresa familiar donde está enchufado hasta el sobrino tonto del jefe, y se cargan al que llevaba la empresa como un negro.

El conocimiento que se pierde cuando se va un trabajador competente es muy difícil de recuperar. En IT suele suponer la muerte del proyecto, sale más a cuenta empezar de nuevo y tirar todo lo anterior a la basura.


Pocos se acuerdan ya de que la IA ya tuvo un fiasco en los 80. Una de las cosas que estudió un servidor en la universidad fue fundamentos de redes neuronales.

https://en.wikipedia.org/wiki/ADALINE

El Adaline primero se llamó neurona lineal adaptativa, y luego se renombró a elemento lineal adaptativo. ¿Por qué? Porque en ese momento la IA estaba denostada por las expectativas defraudadas. En ese momento ya no vendía vestir la tecnología con nombres que incluyesen la IA.

Saquen la bola de cristal e imaginen qué pasará esta vez viendo los precedentes. Aunque varios ya lo han hecho. Siguiendo el clickbait, lo que ocurrirá no les sorprenderá.

[wanderer]

Para variar, esta columna me parece más realista que la mayoría de lo que llevo leído hasta ahora sobre el tema:

Daniel Capó
¿Un futuro brillante o un cuento de hadas tecnológico?
«La Inteligencia Artificial será tanto un compañero de viaje como un desafío a superar. Bienvenidos a un tiempo y a un mundo desconocidos sin vuelta atrás»
https://theobjective.com/elsubjetivo/opinion/2023-03-29/ia-futuro-brillante-cuento-hadas-tecnologico/

[Benzino Napaloni]

Sacando la lupa y el micrófono de Mortadelo y Filemón, confirmo lo que espera más de un empresario cazurro del GPT y la IA.

La pandemia hizo muchísimo daño. No sólo por el teletrabajo forzado -que da para el hilo dedicado-, sino por las peinetas de los curritos. Conozco a más de uno que se comió un ERTE, y cuando el jefe le habló de volver, casi se rompe el brazo del corte de mangas.

Luego está el asunto de haber tenido que subir salarios por la escasez de personal en ciertos sectores.

¿Cómo creen que se lo han tomado? ¿Y cómo creen que vende el poder tener una herramienta que trabaje sin chistar y supla a esos curritos? Ahora mismo lo de la pandemia y los salarios ha escocido tanto que no se tiene ojos para otra cosa. A estas alturas es inútil razonar, hay que dejar que pase la fiebre y rezar para que el desengaño sea rápido.

[Saturio]

Despues de haber leído un poco por aquí y por allá, haber recibido toneladas de publicidad sobre cosas "basadas en IA" y sobre cursos y seminarios sobre cómo aplicar la IA en mi trabajo e indagar un poco en todo el rollo de las artes gráficas y la IA, llego a la siguiente conclusión.

Lo que estamos viendo no es ni más ni menos que el avance más o menos normal del software, incluso yo diría que comercialmente se está estirando mucho más el brazo que la manga y que aunque los avances son evidentes se está intentando vender cosas que no están pulidas (aunque quizás sea la fase de crear la gran expectativa y esté planificado).

Por supuesto que hay que ir avanzando e ir invirtiendo en el nuevo software pero, en mi opinión, en soluciones comerciales contrastadas o simplemente en las actualizaciones de lo que ya tienes que lo irán incorporando por puro efecto de la competencia entre unos y otros.

Por supuesto alejarse de la mierda como unos tipos que me pretendían vender una especie de red social para la empresa, totalmente desconectada de todas las demás herramientas de gestión que no sirve ni para administrar las relaciones laborales ni como gestor documental ni como herramienta colaborativa ni como nada, salvo para "darse reconocimientos", gestionar la participación en actividades sociales y mierdas similares. Me pregunto si pretenden que la gente se desquicie en el trabajo pensando si postea demasiado o demasiado poco o si le da likes a la gente equivocada. Yo no sé si soy yo el raro o qué pero te venden la cosa como la herramienta que hará a tu empresa la más feliz del mundo y yo solo veo la herramienta perfecta para dar rienda suelta a la toxicidad.

Me niego a llamar a todo esto inteligencia artificial. Por supuesto que hay y habrá avances. Hace no demasiado tiempo en las empresas había profesionales específicamente entrenados en "editar" documentos triviales. Hace ya bastante que tenemos herramientas que permiten a cualquiera editar esos documentos sin ayuda de esos profesionales y, además, guardarlos en repositorios y hacerlos accesibles a otros usuarios según un sistema de permisos y mil otras virguerías. Bien, pues habrá un futuro en el que no tendrás ni que escribirlos, le darás dos prompts y los hará el ordenador y tu los revisarás y cambiarás dos palabras y según un sistema automatizado ya se encargará él de guardarlos donde haga falta y transmitirlos a quién sea.
También habrá un momento en que practicamente dictaremos los procesos y el software abrirá otro software y meterá el mismo los datos y tu estarás supervisando que va haciendo todo y que al final obtienes los outputs que quieres.

Evidentemente es una ventaja de productividad que por ejemplo le puedas dictar al ordenador. -Buenos días, hoy vamos a transformale el contrato temporal a Fulanito en un contrato indefinido. Y el software vaya haciendo todo lo que hay que hacer y pidiéndote las cosas que necesita. Ya existen cosas parecidas en las que el workflow de las tareas está definido (y sin dictarle) le dices al software que inicie un proceso y te va guiando. En general, de momento no merece la pena el esfuerzo de diseñar y mantener el workflow definido salvo en cosas que tengas un volumen mastodóntico (o requieras que gente no experta te ayude puntualmente) y tu tienes que seguir haciendo las cosas con clicks y tecleos y abriendo el software tal y decirle que lea el archivo cual que has generado con otro software.

Pero esas soluciones las van a meter, con el tiempo, en su software los proveedores tradicionales y es una chorrada ponerse a comprar soluciones vendehumísticas nuevas porque dicen estar basadas en IA.

[sudden and sharp]

[...] Me niego a llamar a todo esto inteligencia artificial. Por supuesto que hay y habrá avances. Hace no demasiado tiempo en las empresas había profesionales específicamente entrenados en "editar" documentos triviales. Hace ya bastante que tenemos herramientas que permiten a cualquiera editar esos documentos sin ayuda de esos profesionales y, además, guardarlos en repositorios y hacerlos accesibles a otros usuarios según un sistema de permisos y mil otras virguerías. Bien, pues habrá un futuro en el que no tendrás ni que escribirlos, le darás dos prompts y los hará el ordenador y tu los revisarás y cambiarás dos palabras y según un sistema automatizado ya se encargará él de guardarlos donde haga falta y transmitirlos a quién sea.

No sé por qué...

Si el algoritmo no sólo busca... sino que intenta darte ordenadamente los resultados...







... te hace _dos_ trabajos más o menos al mismo tiempo. Si lo hace "medianamente" bien..., "medianamente" rápido, "medianamente" gratis... igual, digo "igual...", podemos llamarlo...



..."medianamente" INTELIGENTE.






























----------
[ Digo... ]

[puede ser]

Hay una solución: el problema está en la definición de inteligencia, ¿no?;

pues definamos INTELIGENCIA como TODO AQUELLO QUE NO SABE HACER UNA MÁQUINA.

 

[sudden and sharp]

Hay una solución: el problema está en la definición de inteligencia, ¿no?;

pues definamos INTELIGENCIA como TODO AQUELLO QUE NO SABE HACER UNA MÁQUINA.

 

O a todo aquello que nos sorprenda a nosotros... aunque sólo sea un poco. 

[muyuu]

[sudden and sharp]

Naaaa... Eso es un comité. (Olvídate.)

[pollo]

Un artículo que creo que va en una línea mucho más cabal y realista que el tecnoflipadismo generalizado.
No deja de ser divertido que el tío tiene que poner un disclaimer por joderle la ilusión a la gente, no vaya a ser que le cancelen por decir las verdades del barquero).

Welcome to the exciting dirigibles era of AI

https://dileeplearning.substack.com/p/welcome-to-the-exciting-dirigibles-500