STEM

[el malo]

En Microsiervos se han hecho eco de la polémica...

Los problemas morales y sociales de utilizar la IA para hacer los deberes
POR @ALVY — 25 DE SEPTIEMBRE DE 2022

Los problemas morales y sociales de utilizar la IA para hacer los deberes / Stable Difussion

Una joven utilizó la inteligencia artificial de OpenAI para hacer sus deberes y sacar todo sobresalientes al presentar los ensayos de clase. Al explicarlo a la comunidad, alguien le dijo que eso podría suponer algunos «problemas» morales. Esta fue la respuesta completa ante la situación:

Existen algunos problemas morales y sociales potenciales con el uso de la IA para hacer los deberes. En primer lugar, si los estudiantes utilizan la IA para que les haga los deberes, puede que no estén aprendiendo el material tan bien como como podrían. Esto podría acarrear problemas en el futuro cuando se espera que conozcan el material para los exámenes o las aplicaciones del mundo real. Además, utilizar la IA para hacer los deberes podría llevar a que hicieran trampas. Si los estudiantes son capaces de utilizar la IA para que haga los deberes por ellos, podría darles una ventaja injusta sobre otros estudiantes que hacen los deberes por sí mismos. Por último, el uso de la IA para hacer los deberes podría llevar a una dependencia de la tecnología que podría ser perjudicial si la tecnología fallara o dejara de estar disponible.

Lo divertido del asunto es que la respuesta está creada con la misma IA de OpenAI con la que se escribieron los ensayos originales. Hay un hilo muy interesante de Carlos Santana (@DotCSV) donde se cita el hilo original, incluyendo detalles como que la joven dice que llegó a ganar 100 dólares «haciéndole los deberes» a sus compañeros de clase (usando esa IA). En un giro de los acontecimientos, la respuesta en el propio hilo también se la reescribió la IA.

Alguien también propuso evaluar esas pruebas o exámenes con otra IA, quizá buscando detectarlas a lo Voigh-Kampff o algo así. También apareció un profesor diciendo que cuando tiene que evaluar un texto y se da cuenta de que lo ha escrito una IA es una sensación increíblemente deprimente y de «vida desperdiciada» para él.

Bonus: la traducción de la explicación completa sobre «Los problemas morales y sociales de utilizar la IA» está traducida con otra inteligencia artificial (en este caso, DeepL), al igual que el título de la anotación. Para ponerle la guinda, también la imagen está creada con una IA (Stable Difussion).

Saludos.

Jodo, pues esa IA escribe como un alumno no muy brillante de primero de ESO.

El primer problema de la inteligencia artificial es que crap in = crap out

Al ritmo que vamos en occidente de "entontecimiento" la IA nos va a acabar dando sopas con hondas, no por méritos de la IA sino por deméritos nuestros.

[Saturio]

El primer problema de la inteligencia artificial es que crap in = crap out

Al ritmo que vamos en occidente de "entontecimiento" la IA nos va a acabar dando sopas con hondas, no por méritos de la IA sino por deméritos nuestros.

Efectivamente. Se estima que el consumidor mayoritario estadounidense de contenido audiovisual tiene un nivel de uso/comprensión de la lengua que quizás no llegue al B2. Lógicamente tienen fluidez pero su vocabulario y su gramática están en un B2.
Así que cualquier AI torpe gana al usuario medio de la lengua, no porque la AI sea buena sino porque los humanos son malísimos. El problema es que las economías de escala de la producción de noticias y contenidos de la cultura popular hace que ese nivel sea el que se aplica.
Independientemente de que sea cierto o no que pensamos con el lenguaje, lo que está claro es que adquirimos y compartimos con el lenguaje. Si adquirimos y compartimos simplezas, simplezas es lo que tenemos en la cabeza.

Hemos llegado a un punto en el que gran cantidad de gente no entiende, por ejemplo, una película del pasado. No entienden ni el texto ni el subtexto ni el propio lenguaje cinematográfico (ni elipsis, ni metáforas visuales...) y estamos hablando de productos que eran de consumo.

Lo que no deja de ser sorprendente en un mundo en el que unos tipos colocan un telescopio a 100.000 kilómetros y se dedican a buscar pruebas o refutaciones de las teorías sobre la creación del universo.

[el malo]

El primer problema de la inteligencia artificial es que crap in = crap out

Al ritmo que vamos en occidente de "entontecimiento" la IA nos va a acabar dando sopas con hondas, no por méritos de la IA sino por deméritos nuestros.

Efectivamente. Se estima que el consumidor mayoritario estadounidense de contenido audiovisual tiene un nivel de uso/comprensión de la lengua que quizás no llegue al B2. Lógicamente tienen fluidez pero su vocabulario y su gramática están en un B2.
Así que cualquier AI torpe gana al usuario medio de la lengua, no porque la AI sea buena sino porque los humanos son malísimos. El problema es que las economías de escala de la producción de noticias y contenidos de la cultura popular hace que ese nivel sea el que se aplica.
Independientemente de que sea cierto o no que pensamos con el lenguaje, lo que está claro es que adquirimos y compartimos con el lenguaje. Si adquirimos y compartimos simplezas, simplezas es lo que tenemos en la cabeza.

Hemos llegado a un punto en el que gran cantidad de gente no entiende, por ejemplo, una película del pasado. No entienden ni el texto ni el subtexto ni el propio lenguaje cinematográfico (ni elipsis, ni metáforas visuales...) y estamos hablando de productos que eran de consumo.

Lo que no deja de ser sorprendente en un mundo en el que unos tipos colocan un telescopio a 100.000 kilómetros y se dedican a buscar pruebas o refutaciones de las teorías sobre la creación del universo.

El primer día de instituto, la profesora de lengua que tuve en primero de BUP nos hizo abrir el cuaderno y copiar en grande en la primera página con letras mayúsculas:

EL LENGUAJE ES LA HERRAMIENTA DEL PENSAMIENTO

Y se nos pasamos la primera clase entendiendo el significado de esa frase.

En su momento no le di mucha importancia. Hasta muchos años después no me di cuenta de cómo cambiando el lenguaje cambias el relato (por ejemplo, ya no hay inmigrantes ni emigrantes, ahora hay "migrantes").

Cada día que pasa le estoy más agradecido a esa mujer por lo que nos enseñó y por todo lo que nos quiso enseñar "fuera del programa".

[Danny_M]

En su momento no le di mucha importancia. Hasta muchos años después no me di cuenta de cómo cambiando el lenguaje cambias el relato (por ejemplo, ya no hay inmigrantes ni emigrantes, ahora hay "migrantes").

Esto es algo muy presente en la obra de Orwell, que se hace explícito en el epílogo de 1984, y uno de los motivos por los que creo que 1984 (entre otras) debería ser lectura obligatoria en ESO/bachillerato. Sería también una interesante introducción a los peligros del posmodernismo y su absurdo "el lenguaje crea la realidad", para distinguir entre la realidad -que es objetiva- y la imagen mental que tenemos de la realidad -subjetiva y manipulable-. Aunque no sé yo si mis ojos verán un plan de estudios que hable de estas cosas.

[saturno]

China consigue la soluciön, se quita de encima los CEOs, los supersalarios, y se queda con el talento, 
Jaque mate, 




 China: una mujer robot impulsada por una IA se convierte en directora ejecutiva de una empresa con varios miles de empleados

Una primicia en un país donde los robots ya están muy presentes. Pero esta vez, se trata de un paso adicional que se ha dado con este robot humanoide y su inteligencia artificial.
https://www-francetvinfo-fr.translate.goog/monde/chine/chine-une-femme-robot-pilotee-par-une-ia-devient-pdg-d-une-entreprise-de-plusieurs-milliers-de-salaries_5386039.html?_x_tr_sl=auto&_x_tr_tl=es&_x_tr_hl=en&_x_tr_pto=wapp

 Publicadoel 28/09/2022 16:57 Actualizadoel 28/09/2022 17:02

No es ciencia ficción. Una mujer robot acaba de ser nombrada directora de una gran empresa china . Uno de los líderes de videojuegos de China, NetDragon Websoft, está detrás de esta primicia y ha confiado su filial, Fujian NetDragon Websoft, a la inteligencia artificial. La idea en realidad se remonta a varios años. En 2017, gracias a la IA, la empresa decidió crear un personaje virtual y darle responsabilidades. La empresa, en ese momento, quería mostrar a sus clientes que la inteligencia artificial que estaba desarrollando para sus juegos también podía funcionar en la vida real de la empresa.

Este personaje es por tanto Tang Yu, una robot femenina que empezó ocupando el puesto de número 2 de la empresa, antes de ser nombrada para un puesto de directora general rotativa de la empresa. No tiene precedentes. Net Dragon Websoft tiene varios miles de empleados y maneja miles de millones de dólares. Internamente, se llama líder digital virtual, pero aún tiene una apariencia física. El rostro de la CEO robot aparece en las pantallas de los ordenadores en forma de humanoide, con su estricto disfraz, su corte de pelo perfecto. Gracias a la inteligencia artificial, también es capaz de expresarse.

https://youtu.be/Yz8msEaBIJY

Un CEO que trabaja las 24 horas

Pero, ¿el robot realmente dirige el negocio? Sí y no, porque evidentemente son los humanos quienes programan el robot y quienes pueden desenchufarlo en cualquier momento. Por lo tanto, sus poderes no son ilimitados, pero una vez que se inicia el programa, el robot CEO funciona de manera casi "normal". Ella es capaz de aprobar, firmar documentos, como cualquier CEO, pero también de gestionar proyectos, evaluar el desempeño del personal y posiblemente decidir sobre sanciones. "Tang Yu agilizará los procesos, mejorará la calidad de las tareas de trabajo y la velocidad de ejecución".se regocija NetDragon. La empresa destaca su racionalidad y lógica, pues a diferencia de los humanos, no tiene sentimientos. El CEO robot tiene la ventaja de trabajar las 24 horas del día, y todo eso, sin cobrar.

[wanderer]

Interesante artículo que explica las debilidades de la ciencia española:

TAMBIÉN FALTA PROMOCIÓN
Marginados del Nobel: por qué España lleva un siglo (y lo que queda) sin premio en ciencia
Aunque España es la décima potencia por publicaciones científicas, ni huele los mayores premios de la ciencia. La financiación y la endogamia lastran la excelencia
https://www.elconfidencial.com/tecnologia/ciencia/2022-10-05/nobel-espana-ciencia-ramon-cajal-severo-ochoa_3501359/

[Saturio]

China consigue la soluciön, se quita de encima los CEOs, los supersalarios, y se queda con el talento, 
Jaque mate, 




 China: una mujer robot impulsada por una IA se convierte en directora ejecutiva de una empresa con varios miles de empleados

Una primicia en un país donde los robots ya están muy presentes. Pero esta vez, se trata de un paso adicional que se ha dado con este robot humanoide y su inteligencia artificial.
https://www-francetvinfo-fr.translate.goog/monde/chine/chine-une-femme-robot-pilotee-par-une-ia-devient-pdg-d-une-entreprise-de-plusieurs-milliers-de-salaries_5386039.html?_x_tr_sl=auto&_x_tr_tl=es&_x_tr_hl=en&_x_tr_pto=wapp

 Publicadoel 28/09/2022 16:57 Actualizadoel 28/09/2022 17:02

No es ciencia ficción. Una mujer robot acaba de ser nombrada directora de una gran empresa china . Uno de los líderes de videojuegos de China, NetDragon Websoft, está detrás de esta primicia y ha confiado su filial, Fujian NetDragon Websoft, a la inteligencia artificial. La idea en realidad se remonta a varios años. En 2017, gracias a la IA, la empresa decidió crear un personaje virtual y darle responsabilidades. La empresa, en ese momento, quería mostrar a sus clientes que la inteligencia artificial que estaba desarrollando para sus juegos también podía funcionar en la vida real de la empresa.

Este personaje es por tanto Tang Yu, una robot femenina que empezó ocupando el puesto de número 2 de la empresa, antes de ser nombrada para un puesto de directora general rotativa de la empresa. No tiene precedentes. Net Dragon Websoft tiene varios miles de empleados y maneja miles de millones de dólares. Internamente, se llama líder digital virtual, pero aún tiene una apariencia física. El rostro de la CEO robot aparece en las pantallas de los ordenadores en forma de humanoide, con su estricto disfraz, su corte de pelo perfecto. Gracias a la inteligencia artificial, también es capaz de expresarse.

https://youtu.be/Yz8msEaBIJY

Un CEO que trabaja las 24 horas

Pero, ¿el robot realmente dirige el negocio? Sí y no, porque evidentemente son los humanos quienes programan el robot y quienes pueden desenchufarlo en cualquier momento. Por lo tanto, sus poderes no son ilimitados, pero una vez que se inicia el programa, el robot CEO funciona de manera casi "normal". Ella es capaz de aprobar, firmar documentos, como cualquier CEO, pero también de gestionar proyectos, evaluar el desempeño del personal y posiblemente decidir sobre sanciones. "Tang Yu agilizará los procesos, mejorará la calidad de las tareas de trabajo y la velocidad de ejecución".se regocija NetDragon. La empresa destaca su racionalidad y lógica, pues a diferencia de los humanos, no tiene sentimientos. El CEO robot tiene la ventaja de trabajar las 24 horas del día, y todo eso, sin cobrar.

Si la dirección por KPIs ya nos ha dado la debacle corporativa, ahora pon al frente a una IA diseñada por los mismos con los mismos mierdacriterios.

[Cadavre Exquis]

DeepMind's Game-Playing AI Has Beaten a 50-Year-Old Record In Computer Science
Posted by BeauHD on Wednesday October 05, 2022 @11:30PM from the matrix-multiplication dept.

An anonymous reader quotes a report from MIT Technology Review:

DeepMind has used its board-game playing AI AlphaZero to discover a faster way to solve a fundamental math problem in computer science, beating a record that has stood for more than 50 years. A year after it took biologists by surprise, AlphaFold has changed how researchers work and set DeepMind on a new course. The problem, matrix multiplication, is a crucial type of calculation at the heart of many different applications, from displaying images on a screen to simulating complex physics. It is also fundamental to machine learning itself. Speeding up this calculation could have a big impact on thousands of everyday computer tasks, cutting costs and saving energy.

Despite the calculation's ubiquity, it is still not well understood. A matrix is simply a grid of numbers, representing anything you want. Multiplying two matrices together typically involves multiplying the rows of one with the columns of the other. The basic technique for solving the problem is taught in high school. But things get complicated when you try to find a faster method. This is because there are more ways to multiply two matrices together than there are atoms in the universe (10 to the power of 33, for some of the cases the researchers looked at).

The trick was to turn the problem into a kind of three-dimensional board game, called TensorGame. The board represents the multiplication problem to be solved, and each move represents the next step in solving that problem. The series of moves made in a game therefore represents an algorithm. The researchers trained a new version of AlphaZero, called AlphaTensor, to play this game. Instead of learning the best series of moves to make in Go or chess, AlphaTensor learned the best series of steps to make when multiplying matrices. It was rewarded for winning the game in as few moves as possible. [...] The researchers describe their work in a paper published in Nature today. The headline result is that AlphaTensor discovered a way to multiply together two four-by-four matrices that is faster than a method devised in 1969 by the German mathematician Volker Strassen, which nobody had been able to improve on since. The basic high school method takes 64 steps; Strassen's takes 49 steps. AlphaTensor found a way to do it in 47 steps.

"Overall, AlphaTensor beat the best existing algorithms for more than 70 different sizes of matrix," concludes the report. "It reduced the number of steps needed to multiply two nine-by-nine matrices from 511 to 498, and the number required for multiplying two 11-by-11 matrices from 919 to 896. In many other cases, AlphaTensor rediscovered the best existing algorithm."

Saludos.

[Cadavre Exquis]

https://elpais.com/tecnologia/2022-10-09/blaise-aguera-las-maquinas-pueden-aprender-a-comportarse.html

Saludos.

[puede ser]

https://elpais.com/tecnologia/2022-10-09/blaise-aguera-las-maquinas-pueden-aprender-a-comportarse.html

Saludos.

Todo esto ya lo vio Wittgenstein cuando decía cosas como: "si un león pudiera hablar, no lo podríamos entender"

Todas las disquisiciones sobre si las AI son/serán inteligentes, si tienen/tendrán conciencia, descansan sobre el equívoco de pretender que ya se entiende qué es la inteligencia o conciencia humanas.

En el párrafo clave de la entrevista se dice que critican a Lambda (o como se diga) por predecir sólo la respuesta más probable. Y el científico afirma entonces que es que eso es la función principal del cerebro humano.

Es la pescadilla que se muerde la cola. Afirmar inteligencia a una máquina supone negarsela a los humanos. Simplemente hay Inteligencia Humana e Inteligencia Computacional. Igual que la Inteligencia de los Leones es distinta de la Inteligencia Humana. (Porque los objetivos vitales de un león son distintos de los de un humano).

[Cadavre Exquis]

DeepMind Breaks 50-Year Math Record Using AI; New Record Falls a Week Later
Posted by BeauHD on Thursday October 13, 2022 @10:02PM from the that-didn't-take-long dept.

Last week, DeepMind announced it discovered a more efficient way to perform matrix multiplication, conquering a 50-year-old record. This week, two Austrian researchers at Johannes Kepler University Linz claim they have bested that new record by one step. Ars Technica reports:

In 1969, a German mathematician named Volker Strassen discovered the previous-best algorithm for multiplying 4x4 matrices, which reduces the number of steps necessary to perform a matrix calculation. For example, multiplying two 4x4 matrices together using a traditional schoolroom method would take 64 multiplications, while Strassen's algorithm can perform the same feat in 49 multiplications. Using a neural network called AlphaTensor, DeepMind discovered a way to reduce that count to 47 multiplications, and its researchers published a paper about the achievement in Nature last week.

To discover more efficient matrix math algorithms, DeepMind set up the problem like a single-player game. The company wrote about the process in more detail in a blog post last week. DeepMind then trained AlphaTensor using reinforcement learning to play this fictional math game -- similar to how AlphaGo learned to play Go -- and it gradually improved over time. Eventually, it rediscovered Strassen's work and those of other human mathematicians, then it surpassed them, according to DeepMind. In a more complicated example, AlphaTensor discovered a new way to perform 5x5 matrix multiplication in 96 steps (versus 98 for the older method).

This week, Manuel Kauers and Jakob Moosbauer of Johannes Kepler University in Linz, Austria, published a paper claiming they have reduced that count by one, down to 95 multiplications. It's no coincidence that this apparently record-breaking new algorithm came so quickly because it built off of DeepMind's work. In their paper, Kauers and Moosbauer write, "This solution was obtained from the scheme of [DeepMind's researchers] by applying a sequence of transformations leading to a scheme from which one multiplication could be eliminated."

Saludos.

[Marv]

Para que no se dejen engañar por vendedores, es State Of The Art de la Inteligencia Artificial sería más o menos así.

Hay 2+1 familias de IA:

1. AGI (Artificial General Intelligence). Es lo que conocemos de las películas, Terminator, HAL9000, etc. Es la inteligencia que consideramos cuando pensamos en un ser humano. Y es la única que en puridad debería llamarse IA. Hay gente trabajando en esto (no tanta), pero no hay nada significativo ni diferencial. Fundamentalmente no se tiene puta idea de cómo funciona una GI biológica, al menos en los aspectos más fundamentales como consciencia, memoria, entendimiento o arquitectura interna.

2. Machine Learning o Deep Learning). En realidad son, como se decía en mi época, Sistemas Expertos -concepto mucho más adecuado a la realidad. Son sistemas que utilizan un modelado simplificado de red neuronal (algunas veces con soporte hardware y otras no) para resolver tareas específicas y acotadas. No se programan, sino que se 'entrenan'. Esta es la parte que está explotando hoy día, y la verdad es que hacen cosas sorprendentes, pero en definitiva corren un algoritmo. El algoritmo que queda imbricado en la red neuronal una vez entrenada. Hay que decir que el ser humano no hace algo muy diferente a nivel conceptual, por ejemplo para procesar la información de entrada. La diferencia estaría en que nosotros tenemos unos procesos de más alto nivel que hacen cosas con eso que nos llega.

+

IA Clásica. Básicamente algoritmos estocásticos. Tienen bastante utilidad y han ido mejorando mucho, la diferencia con el anterior es que no están apoyados en un sistema neuronal artificial... y no rellenan titulares.

--

Cuando dicen que los roboces van a conquistar el mundo y que debemos prepararnos, les están hablando de AGI. Spoiler: duerman tranquilos.

Cuando dicen que los CEO van a ser sustituidos por máquinas les están hablando de Machine Learning. No hay entendimiento ahí, ni consciencia, ni nada parecido. Pero ojo, en muchísimos aspectos ya se ha visto que pueden llegar más lejos que nosotros en esas tareas específicas. Mi pregunta aquí es si basta con que una máquina tome las mismas decisiones que haría un ser humano -eso se puede conseguir, en principio-, o se debería exigir que la entidad comprenda lo que está haciendo. Y me contesto: nosotros en realidad a duras penas entendemos gran parte de lo que hacemos, y ha sido así desde las cavernas. En nuestro comportamiento hay una parte de automatismo y simple replicación enorme, por no hablar que estamos expuestos a influencias directamente perversas.

--

Luego estarían los temas filosóficos: si consiguiéramos una AGI, ¿tendría consciencia? ¿puede sufrir? ¿hay problemas éticos? ¿hace falta un cuerpo biológico para ser inteligente? Muy divertido, pero que no les engañen: no se sabe una puta mierda.

Lo que ocurre es lo de siempre: muchos quieren que ustedes piensen que sus desarrollos son AGI avanzada, cuando son Machine Learning en el mejor de los casos. Otros directamente es que ni saben de lo que hablan. Para los que viven de la sensación, el clicbait y las visitas, es mucho mejor content hablar de roboces astutos y peligrosos que de 'Análisis discriminante lineal' o cosas así.

[Cadavre Exquis]

Scientists Discover Material That Can Be Made Like a Plastic But Conducts Like a Metal
Posted by BeauHD on Thursday October 27, 2022 @09:00AM from the material-science dept.

An anonymous reader quotes a report from Phys.Org:

Scientists with the University of Chicago have discovered a way to create a material that can be made like a plastic, but conducts electricity more like a metal. The research, published Oct. 26 in Nature, shows how to make a kind of material in which the molecular fragments are jumbled and disordered, but can still conduct electricity extremely well. "In principle, this opens up the design of a whole new class of materials that conduct electricity, are easy to shape, and are very robust in everyday conditions," said John Anderson, an associate professor of chemistry at the University of Chicago and the senior author on the study. "Essentially, it suggests new possibilities for an extremely important technological group of materials," said Jiaze Xie (Ph.D. '22, now at Princeton), the first author on the paper.

[...] Xie began experimenting with some materials discovered years ago, but largely ignored. He strung nickel atoms like pearls into a string of of molecular beads made of carbon and sulfur, and began testing. To the scientists' astonishment, the material easily and strongly conducted electricity. What's more, it was very stable. "We heated it, chilled it, exposed it to air and humidity, and even dripped acid and base on it, and nothing happened," said Xie. That is enormously helpful for a device that has to function in the real world. But to the scientists, the most striking thing was that the molecular structure of the material was disordered. "From a fundamental picture, that should not be able to be a metal," said Anderson. "There isn't a solid theory to explain this."

Xie, Anderson, and their lab worked with other scientists around the university to try to understand how the material can conduct electricity. After tests, simulations, and theoretical work, they think that the material forms layers, like sheets in a lasagna. Even if the sheets rotate sideways, no longer forming a neat lasagna stack, electrons can still move horizontally or vertically -- as long as the pieces touch. The end result is unprecedented for a conductive material. "It's almost like conductive Play-Doh -- you can smush it into place and it conducts electricity," Anderson said. The scientists are excited because the discovery suggests a fundamentally new design principle for electronics technology. Conductors are so important that virtually any new development opens up new lines for technology, they explained.

The report says the new material "can be made at room temperatures" and "can also be used where the need for a device or pieces of the device to withstand heat, acid or alkalinity, or humidity has previously limited engineers' options to develop new technology."

Xie added: "We think we can make it 2D or 3D, make it porous, or even introduce other functions by adding different linkers or nodes."

Saludos.

[wanderer]

Para relajarnos un poco y porque soy bastante friki, les traigo esto sobre las limitaciones de las IA's para contextualizar personajes de anime dentro de la vida real:

Kaguya-sama: Las IA no pueden dibujar a Chika comiendo ramen
https://somoskudasai.com/noticias/cultura-otaku/kaguya-sama-las-ia-no-pueden-dibujar-a-chika-comiendo-ramen/

 

En todo caso, eso ocurre porque a esas IA's tienen un entrenamiento trolleado. Imaginemos, por un imaginar, las ilimitadas posibilidades que tiene eso en ciertas manos.

En cuanto a ése anime, es divertidísimo, y a la chica que traigo la han traído porque es carne de todo tipo de memes.

[sudden and sharp]

Es lo que tiene adorar a falsos ídolos... (Hablo de manga, no de anime.)





Eso no pasa con el comic europeo. Por cierto, desde cuándo el big data es ia.