El fin del trabajo

[Benzino Napaloni]

Rosetta ya se usa desde hace unos cuantos años para investigar la estructura proteica en 3D.

No hace falta IA para aplicar un modelo. Para computación pura y dura es simple cuestión de potencia, y los superordenadores no hacen más que ir a más en ese sentido. Y aún así hay problemas que cuesta años resolver.


Opino lo mismo que el malo con el asunto de la productividad desmedida. Como decía en otro mensaje, nos prometieron un futuro en el que los robots nos harían todo el trabajo mientras nosotros podríamos estar tocando el violín, o la barriga. Pero cada puñetera innovación que ha aumentado la productividad se ha usado para tratar de producir más y más. Hoy día hay muchas cosas que se podrían hacer en semanas laborales de menos de cinco días (no olvidemos que hace medio siglo eran seis, y antes incluso fue una revolución librar los domingos). Y vaya si está costando dar el paso.

¿Que no se busca el HAL? J...r si no hay quien sueña con él...

[Cadavre Exquis]

Si uno mira el modelo de Dall-E no va a encontrar una sóla imagen codificada en ningún formato reconocible. Sin embargo la información que tiene el modelo permite construir imágenes conceptualmente. Pasa un poco como con el ADN, que la única forma de saber qué ser vivo va a salir es "ejecutarlo", o como nuestro propio cerebro, que aunque sepamos lo que hacen las neuronas no sabemos a día de hoy qué sentido tiene cada interacción ni cómo funciona el conjunto.

En esencia es así, pero hace poco más de una semana se publicó un paper en el que unos investigadores afirmaban haber descubierto que los modelos generativos (como Stable Difussion o DALL·E 2) sí que "memorizan" parte del training set (aunque parece que una proporción tan pequeña como 6×10^-7).

https://twitter.com/drjwrae/status/1620815388253769730

https://twitter.com/Eric_Wallace_/status/1620449934863642624

Saludos.

[el malo]

[...] Lo cierto es que para llegar a HAL 9000 nos queda mucho, muchísimo.

Igual... Hasta no nos da la gana llegar ahí.

¡Uy que no! El sueño húmedo de cualquier empresario. Tener un HAL que haga TODO y el empresario sólo tiene que pone el cazo.

Incluso el sueño húmedo de más un padre (incluyo madre) que pagaría lo que fuera por un HAL que le críe a los hijos (HAL, baña al niño. HAL, deberes. HAL, ya que estás, haz la cena para toda la familia).

Interesante paradoja, vivir en un mundo en el que las máquinas hacen todo el trabajo y los seres humanos no hacemos falta.. pero por otro lado, si no hay seres humanos, ¿para qué necesistas hacer todo ese trabajo en primer lugar?

Ya, ahora me vas a decir que el (presunto) explotador... quiere ser explotado.




[ Igual tienes que revisar la peli. ]

La gente busca un HAL como el Santo Grial.. a ser posible uno que no nos mate.

Imagino que es difícil que HAL se sienta amenazado si todo lo que le pides es que friegue los platos o haga la cena.

Por cierto, una vez más, los Simpsons ya lo hicieron 

[sudden and sharp]

No, no a todos nos gusta obedecer a una puta máquina.









[ Ahora, que hay mucho masochiste, no lo pongo en duda. ]

[el malo]

No, no a todos nos gusta obedecer a una puta máquina.



[ Ahora, que hay mucho masochiste, no lo pongo en duda. ]

Hombre, la idea es que la máquina nos obedezca a nosotros, no al revés.

[sudden and sharp]

No, no a todos nos gusta obedecer a una puta máquina.



[ Ahora, que hay mucho masochiste, no lo pongo en duda. ]

Hombre, la idea es que la máquina nos obedezca a nosotros, no al revés.

ChatGPT o similares... y SÓLO cuando podamos ver el código fuente.

[pollo]

Si uno mira el modelo de Dall-E no va a encontrar una sóla imagen codificada en ningún formato reconocible. Sin embargo la información que tiene el modelo permite construir imágenes conceptualmente. Pasa un poco como con el ADN, que la única forma de saber qué ser vivo va a salir es "ejecutarlo", o como nuestro propio cerebro, que aunque sepamos lo que hacen las neuronas no sabemos a día de hoy qué sentido tiene cada interacción ni cómo funciona el conjunto.

En esencia es así, pero hace poco más de una semana se publicó un paper en el que unos investigadores afirmaban haber descubierto que los modelos generativos (como Stable Difussion o DALL·E 2) sí que "memorizan" parte del training set (aunque parece que una proporción tan pequeña como 6×10^-7).

https://twitter.com/drjwrae/status/1620815388253769730

https://twitter.com/Eric_Wallace_/status/1620449934863642624

Saludos.

Claro que sí. La información tiene que estar en alguna parte. No es magia.

El problema es que no es trivial extraer esta información porque el formato es desconocido a priori. Alguien ha tenido que hacer un paper con ello y probablemente invertirían una cantidad de tiempo considerable. Esto se aplica también a otros conceptos en informática: un ejecutable es a priori una caja negra, aunque eso no quita que se pueda examinar el código máquina y se puedan analizar las estructuras que genera un compilador y entender lo que hace el programa. Ahora bien, gente que sepa hacer esto hay un puñado, y este problema es más complejo aún.

Por la misma razón no podemos localizar física/biológicamente en nuestro cerebro un recuerdo: no tenemos ni idea de cómo se codifica, y probablemente sea algo muy complejo y distribuido en varios puntos (y probablemente entremezclado con otra información). Al final sale más a cuenta pedírselo a la IA que hacer la ingeniería inversa. De hecho es literalmente lo que hacen en el artículo, pedir una imagen múltiples veces y analizar estadísticamente las respuestas, para deducir qué grado de memorización tiene cada imagen según las diferencias.

Si tuviese que apostar algo, creo que nuestra memoria es una torre gigantesca de abstracciones, donde protoconceptos (que se forman en la primera infancia, tipo colores, texturas, sonidos, movimientos básicos, etc.) se combinan y usan como base para formar conceptos más complejos y abstractos, de forma que en la práctica es una red de redes de redes de redes (y así recursivamente).

Esto implicaría que sin reconocer la codificación de estos protoconceptos, sería imposible reconocer todo lo demás, y además también implicaría que esta codificación es única y diferente para cada persona (lo cual explicaría parcialmente cosas como por ejemplo el por qué algunas cosas se nos dan mejor y peor).

De esta forma nosotros no memorizamos/conocemos todos los detalles de algo, sino los conceptos que forman ese algo. De esta forma, cuada vez que evocamos el recuerdo de un oso no tenemos que tener presentes todas sus características, esas ya vienen de niveles de abstracción inferiores (por ejemplo saber que es mamífero ya nos da un montón de información que no es necesario evocar).

[puede ser]

Por la misma razón no podemos localizar física/biológicamente en nuestro cerebro un recuerdo: no tenemos ni idea de cómo se codifica, y probablemente sea algo muy complejo y distribuido en varios puntos (y probablemente entremezclado con otra información). Al final sale más a cuenta pedírselo a la IA que hacer la ingeniería inversa. De hecho es literalmente lo que hacen en el artículo, pedir una imagen múltiples veces y analizar estadísticamente las respuestas, para deducir qué grado de memorización tiene cada imagen según las diferencias.

Si tuviese que apostar algo, creo que nuestra memoria es una torre gigantesca de abstracciones, donde protoconceptos (que se forman en la primera infancia, tipo colores, texturas, sonidos, movimientos básicos, etc.) se combinan y usan como base para formar conceptos más complejos y abstractos, de forma que en la práctica es una red de redes de redes de redes (y así recursivamente).

Es que nuestro pensamiento no tiene nada que ver con la información lingüística, o con los conceptos, al menos de forma primaria. Y por supuesto que lo memorizado no lo podemos localizar en algún lugar concreto del cerebro.

Nuestro cerebro se asemeja más bien a una orquesta que aprende "canciones" consistentes en la activación y desactivación de forma rítmica distintos circuitos cerebrales. Esa es la primera capa: ritmos que se entrelazan entre sí dando respuesta a las necesidades y estímulos corporales. Esos circuitos activados se refuerzan por repetición y se van olvidando por desuso. Cada respuesta mental tiene en cuenta los nuevos parámetros del entorno: por ejemplo, se demostró que pensamos de forma diferentes si estamos bien sentados con la espalda recta o si estamos en una posición algo forzada; señal de que el pensamiento no parte de la lógica, sino que llega a ella. ( O como dice Mariano Sigman, el cerebro primero decide y luego busca la justificación a la decisión ya tomada).

No hay una distinción real entre emoción y pensamiento racional en el cerebro. Sí hay áreas más especializadas en ciertas funciones, pero para nada hay esa contraposición. De alguna manera los gurúes de la IA intentarían crear esa distinción dando a la emoción la capacidad para detectar los grandes principios morales que luego regirán para decidir el objetivo que debe cumplir la búsqueda racional. (Idea muy semejante a la que defendía David Hume con su emotivismo moral).

Pero la realidad es que el procesamiento humano es único y sólo a posteriori puede ser dividido en esas dos instancias. Nuestro cerebro y cuerpo reaccionan al mundo no en base sólo a contentar a un interlocutor, sino intentando equilibrar los intereses personales de supervivencia, los intereses grupales (principalmente respecto a mi familia y grupo tribal/étnico) y de forma muy relativa para satisfacer al interlocutor.

La secuencia lineal de palabras que produce el algoritmo de una IA no tiene rastro de espíritu humano, ya que este  funciona de modo sincrónico, mientras la IA opera de modo diacrónico, secuencial. La mente humana funciona procesando lo recibido y lo que se emite como respuesta no solo al mismo tiempo, sino incluso de manera inversa a lo espereable, reaccionando antes de pensar e incluyendo en el pensamiento posterior la manera de enmendar el acto de respuesta ya hecho:
por ejemplo, si te dicen una burrada y respondes con un puñetazo mientras piensas cómo vas a poder escapar o justificar ante un juez esa acción.

[JoaquinR]

Una vez más aparece la idea de que la máquina sólo ahorra trabajo mecánico y repetitivo, no exime de pensar. El currito y la empresa inteligente saben esto, y reservan buena parte del tiempo a usar el cerebro, que está para pensar y no para criar pelo.

Para mí la parte complicada es que para entrenar al currito pensante, ahora mismo la única técnica fiable que tenemos es ponerlos a hacer trabajo mecánico y repetitivo durante unos años (en la Universidad, resolver el problema X que ya ha sido resuelto 100 veces, o escribir un artículo explicando un libro que lleva siendo interpretado más de 1000 años. En el trabajo, poner al junior a picar la función sencillita o hacer testeo de bajo nivel). Y si esa capa de tareas repetitivas para aprender la empiezan a hacer las máquinas, a ver cómo hacemos para entrenar juniors, para que se puedan convertir en seniors y luego en expertos.

Sin base la pirámide se cae. Para mí ese es el peligro de este nivel de IA/ML.

[muyuu]

En mi opinión, todo lo que este tipo de IAs va a lograr va a ser que lo genérico que se venda al peso va a perder valor. Todo lo demás, pajas mentales. ¿Ganaría vaor ir a comer a McDonalds porque te sirvan hamburguesas diferentes cada vez? El interés no está ahí.

¿De qué sirve que una IA te diga una trama para una novela de misterio, si se parece a todas las demás? Si todo el mundo puede generar este tipo de texto sin esfuerzo, ¿qué va a distinguir un texto de otro? Efectivamente. Quien tenga las mejores ideas o las más interesantes. La IA no va a salir con una de estas espontaneamente. Lo que hará será generar una historia parecida a otras, porque la naturaleza del modelo estadístico es exactamente esa.

Cuando se trata de arte, especialmente de arte para llegar a un público y vender porque una obra destaque, esta IA no va a servir de gran cosa. Lo que hace que algo sea interesante o novedoso por definición no va a estar en un entrenamiento con millones de textos generales. Va a estar en el criterio de la persona que decide qué hacer con ello.

Hace mucho tiempo que, para mi gusto, no se crea nada realmente novedoso que merezca la pena leer o admirar por encima de los clásicos. Creo que en lo creativo nos hemos adelantado a los generadores automáticos en no aportar gran cosa a lo ya existente, desde hace mucho tiempo, y las redes sociales han fomentado lo inmediato y lo regurgitado porque nadie tiene tiempo de procesar tranquilamente algo nuevo.

Pero lo más grave no es que lo genérico haya desplazado casi por completo a lo original, lo más grave es que hemos prácticamente destruído la capacidad de lo original para ser creado, y para ser descubierto.

Esto enlaza con lo referente a la siguiente parte de tu post:

Tenemos una IA capaz de generar la cara de cualquier persona existente o inexistente. ¿Qué valor tiene? Pensadlo. La gracia no está en poder generar cualquier cara, sino en saber qué cara generar y por qué.

No tiene valor, pero lo que es peor, pone en cuestión la autenticidad de lo real. Esto lo veo como un grave problema que ya tenemos encima incluso sin la generación por IA, simplemente con la virtualización de las personas cada vez más indistinguibles de su "personal branding" y forzadas por un mercado implacable de la reputación que está cada vez más vinculado a la fama y a los "clicks"

Esto ya lo tenemos aquí y la tecnología lo va a exacerbar. Todo es cada vez más inauténtico por necesidad del mercado. Con enormes repercusiones morales ya que la gente va a basar su identidad en su perfil más que al contrario, y va a rechazar todo tipo de principios o de conciencia interior. Es la mezquindad de la política llevada a todos los ámbitos de la sociedad.

[R.G.C.I.M.]

Hablaba el sábado con un amigo al respecto.

Soy sospechoso por no usar redes sociales dado que no pueden "comprobar" mis credenciales en el mundo virtual,  que se ha convertido en vara de medir y corroborar.
Si no estas en las redes, algo esconderas.

Es la total antítesis de lo correcto.
Lo virtual afianza a lo real y le da carta de naturaleza.

Cuando debería ser al revés.

Vamos muy mal.


Sds.

[Saturio]

Hablaba el sábado con un amigo al respecto.

Soy sospechoso por no usar redes sociales dado que no pueden "comprobar" mis credenciales en el mundo virtual,  que se ha convertido en vara de medir y corroborar.
Si no estas en las redes, algo esconderas.

Es la total antítesis de lo correcto.
Lo virtual afianza a lo real y le da carta de naturaleza.

Cuando debería ser al revés.

Vamos muy mal.


Sds.

Efectivamente. Y también se nota si usted ha abierto un perfil por intentar no dar tanto el cante. Que eso de abrirse el LinkedIn y lurkear está muy mal visto.

-Algo oculta usted. Sobre todo porque no es verdad que no use redes sociales...utiliza usted ésta, pero bajo seudónimo y seguro que usa más...también bajo nicks oscuros con los que busca hacer el mal.
-Si no oculta nada, es que es usted un atrasado. Un asocial. Alguien que no comparte el entusiasmo generalizado.
-Si no se manifiesta a favor de esto o de aquello es que está usted en contra...¡Qué clase de monstruo es usted!
-Qué clase de persona no comparte sus estupendas vacaciones en internet.
-Qué bicho raro no acepta con alegría y alborozo y sana despreocupación las nuevas tecnologías. ¿Un paranoico?
-¿Cómo quiere que le alquilen los de Airbnb si no pueden comprobar que es usted alguien real y de fiar?

Luego decimos de lo de China y el carnet por puntos de buen ciudadano. ¡Joder que no nos lo está imponiendo ningún gobierno! Vamos, estoy temblando con lo del Euro digital.

[muyuu]

https://youtu.be/KghJSV1Doo4

https://youtu.be/KghJSV1Doo4	Small | Large

(edito: ¿cómo se ponía el youtube embebido por aquí?)

minuto ~2:45

"O sea, allí todo el mundo tiene que hacer un papel, como lo hice yo, porque yo no soy ningún héroe, yo hice mi papelito también allí y todo el mundo tiene que estar en una representación incesante. Yo creo que en cualquier lugar del mundo la gente quizás tenga que representar un papel, pero no convertirse en un actor permanente hasta el punto que hay mucha gente que no saben cuál es su rostro y cuál es su máscara.
 
Yo por suerte siempre tuve conciencia de que tenía una máscara puesta, pero que tenía un rostro y me fui de allá para salvar ese rostro."

Reynaldo Arenas, disidente cubano encarcelado por homosexualidad en Cuba

pues así pero por lo privado

Los más jóvenes tienen que montar pseudo identidades de forma defensiva para poder entrar en el mercado. No les queda otra, pero esto anímicamente no es gratis.

La borregada narcisista tiene muchísimo peligro y arrastra a casi todo el mundo aunque no le guste. Y para qué hablar de quien busque pareja en este auténtico estercolero que hemos creado y/o tolerado. Tal vez hayamos tolerado por encima de nuestras posibilidades.

[Saturio]

Una cosa extraña que se está observando.

Hay una tendencia a no comenzar relaciones personales en el mundo real.
Por ejemplo en el tema de las citas o relaciones afectivas de pareja. En primer lugar se establece la relación virtual y ya si eso pasamos al mundo real.

Entre la chavalería, pedirse el insta es como pedirse el teléfono pero algo menos directo porque no significa que te voy a llamar sino que te voy a seguir.

Los humanos siempre hemos tenido un leve rechazo a las relaciones interpersonales con desconocidos. Por ejemplo todo el mundo tiene un mayor o menor rechazo a tratar con un dependiente en una tienda y por eso triunfan los autoservicios o las tiendas en las que se te permite merodear tu solo y si hace falta cogerte el producto tú.
Ikea funciona, en parte, porque es un autoservicio, puedes seleccionar tu producto cogerlo y llevártelo sin necesidad de hablar con nadie (excepto saludar al cajero/a). Ahora triunfa ir a zara cogerte tú 10 prendas y devolverlas sin interactuar con nadie.

Gracias a las redes sociales y otros servicios de internet casi no tenemos que tratar con desconocidos y la chavalería está desarrollando una mayor ansiedad social al asunto. Si me genera un poco de incomodidad y tengo una vía alternativa de solucionar el problema uso la vía alternativa.
Por eso los jóvenes casi no llaman por teléfono (o no lo hacen en absoluto).

Como es un poco desagradable subir con el vecino en el ascensor, subo por las escaleras.

[muyuu]

https://www.scmagazine.com/news/emerging-technology/artificial-intelligence-offers-swindlers-a-new-tool-for-romance-scams

Artificial intelligence offers swindlers a new tool for romance scams

Scammers have a powerful new weapon to wield this Valentine's Day when drafting love letters to whisper sweet nothings at scale: artificial intelligence such as ChatGPT.

The tactic of using fake online identities to gain victims' affection and trust for financial gain is known as romance scams. While it sounds skeptical that humans can be tricked into machine-generated love messages, security company McAfee's Modern Love Research Report showed that 7 in 10 people failed to distinguish if AI wrote a love letter.

Specifically, to conduct the research, the team presented a ChatGPT love letter to more than 5,000 people worldwide, and it turns out that 33% of the people thought that a person wrote the letter, while 36% said they could not distinguish one way or another.

--
My Dearest,

The moment I laid eyes on you, I knew that my heart would forever be yours. Your beauty, both inside and out, is unmatched and your kind and loving spirit only adds to my admiration for you.

You are my heart, my soul, my everything. I cannot imagine a life without you, and I will do everything in my power to make you happy. I love you now and forever...
--

With the ease of use around artificial intelligence, particularly tools such as ChatGPT that anybody with a web browser can easily access, scammers can use the technology to leverage malicious activity, especially during Valentine's Day to target those people who have dropped their guard while looking for love, said Steve Grobman, chief technology officer at McAfee.

Besides ChatGPT, deepfake images, AI-generated conversations, and emotion analysis will soon be performed at a large scale, making current romance scams into a mild warm-up to the AI-driven onslaught, Bud Broomhead, chief executive of Viakoo, added.

AI-assisted social engineering tactics
The Federal Trade Commission (FTC) and Federal Bureau of Investigation (FBI) issued romance scam warnings last week as Valentine's Day approached.

Romance scams have caused one of the highest amounts of financial losses  compared with other online crimes. According to the FTC's latest data, consumer-reported losses hit a record high of $1.3 million in 2022, increasing by nearly 138% from 2021.

This massive spike in losses comes as scammers continue advancing their attacking techniques. For example, the FBI has warned of a rise in a new tactic called 'pig butchering' over the past few months, in which scammers convince the victims to invest in fraudulent cryptocurrency platforms after developing long-term relationships with victims and winning their trust on social media and dating applications.

Over the past three years, there has also been an eightfold surge in sextortion — a practice of convincing victims to share explicit photos and then threatening to reveal them with victims' social media contacts, according to FTC.

Fight scams with modern identity verification
Michael Jabbara, vice president of fraud services at Visa, said awareness and detection are the most critical tools in mitigating the threat of romance scams, and it takes all parties, from consumers, businesses, and financial services, to participate.

"In addition to consumers taking action to protect their personal information online, financial services organizations and other companies should invest in cutting-edge technologies such as AI and ML-powered solutions to detect and thwart fraudulent trends, like romance scams. For example, Visa’s Advanced Authorization uses various AI and ML techniques to determine the likelihood that a given transaction is fraudulent within 300 milliseconds," said Jabbara.

Bala Kumar, chief product officer at Jumio, added that dating sites and apps should apply modern identity verification technologies, such as document-centric identity proofing, to leverage the power of biometrics and AI and better protect their users.

"Many dating sites still leverage traditional identity verification methods, like knowledge-based authentication (KBA), where users are asked to answer specific security questions. Such methods are no longer considered secure since so much of our personal data can be accessed through hacking and legally through data aggregators," said Kumar.

Some applications have upgraded their identity verification methods — Hinge has leveraged video selfie verification to confirm user identity, while Meta has tested similar tools for Facebook Dating to verify users' ages.