* Blog


* Últimos mensajes


* Temas mas recientes

PPCC: Pisitófilos Creditófagos. Invierno 2024 por saturno
[Hoy a las 00:21:05]


Geopolitica siglo XXI por sudden and sharp
[Ayer a las 22:26:32]


Coches electricos por Saturio
[Marzo 17, 2024, 19:19:50 pm]


A brave new world: La sociedad por venir por senslev
[Marzo 17, 2024, 16:00:38 pm]


XTE-Central 2023-24 : La doma del burro por saturno
[Marzo 17, 2024, 00:07:16 am]


El Hilo del Clima y el Cambio Climático por saturno
[Marzo 16, 2024, 00:39:28 am]


Autor Tema: STEM  (Leído 98681 veces)

0 Usuarios y 1 Visitante están viendo este tema.

wanderer

  • Sabe de economía
  • *****
  • Gracias
  • -Dadas: 63682
  • -Recibidas: 46878
  • Mensajes: 6830
  • Nivel: 773
  • wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #150 en: Febrero 16, 2022, 19:44:46 pm »
Desmitificando el poder de los algoritmos:

Citar
Los algoritmos no son tan listos como cree… pero tampoco se confíe
No trabajan mejor que los humanos ni son una amenaza para la democracia, pero están progresando y sería una imprudencia dejar las manos libres a quienes los desarrollan

https://theobjective.com/economia/2022-02-02/algoritmos-amenaza/

Y la famosa conducción autónoma, manifiestamente mejorable:

Citar
Tesla tiene un problema grave con su piloto automático
Los usuarios y analistas de Tesla están alarmados ante lo que parece un auténtico fracaso del nuevo piloto automático de los coches de Elon Musk: nadie sabe qué está pasando

https://www.elconfidencial.com/tecnologia/novaceno/2022-02-16/tesla-piloto-automatico-elon-musk_3376506/
« última modificación: Febrero 16, 2022, 19:55:19 pm por wanderer »
"De lo que que no se puede hablar, es mejor callar" (L. Wittgenstein; Tractatus Logico-Philosophicus).

Saturio

  • Netocrata
  • ****
  • Gracias
  • -Dadas: 852
  • -Recibidas: 26192
  • Mensajes: 3375
  • Nivel: 649
  • Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #151 en: Febrero 16, 2022, 23:30:27 pm »
Desmitificando el poder de los algoritmos:

Citar
Los algoritmos no son tan listos como cree… pero tampoco se confíe
No trabajan mejor que los humanos ni son una amenaza para la democracia, pero están progresando y sería una imprudencia dejar las manos libres a quienes los desarrollan

https://theobjective.com/economia/2022-02-02/algoritmos-amenaza/


Y la famosa conducción autónoma, manifiestamente mejorable:

Citar
Tesla tiene un problema grave con su piloto automático
Los usuarios y analistas de Tesla están alarmados ante lo que parece un auténtico fracaso del nuevo piloto automático de los coches de Elon Musk: nadie sabe qué está pasando

https://www.elconfidencial.com/tecnologia/novaceno/2022-02-16/tesla-piloto-automatico-elon-musk_3376506/



No, Tesla no tiene un problema con el piloto automático. Lo que tiene es un problema con su marketing.

-Tesla dice, por un lado y de forma oficial que el FSD es una "feature" en Beta. Pero por otro lado te la cobra. Exactamente cuesta 12.000 dólares pero hay suscripción mensual creo que por 199 dólares.

-FSD significa Full Self-Driving pero a la vez Tesla dice que no es un Full Self-Driving. Y hace al conductor responsable de lo que pase (además de tenerle totalmente monitorizado mientras que el conductor no tiene ni idea de lo que el coche está haciendo ni tiene posibilidad de saberlo).

-Es falso que Tesla no haga publicidad. Hay canales de youtube que son publicidad puesto que sus dueños están "afiliados":https://youtu.be/f2fu5pCSH38] [url]https://youtu.be/f2fu5pCSH38[/url] Esta es una práctica de marketing en la que las autoridades tendrían que meter mano. Es esta gente la que se dedica en sus canales de Youtube a decir que el FSD es un "autopilot".
Tesla, oficialmente, sólo es "culpable" de ponerle un nombre confuso y de cobrarlo a precio de oro. Los que hacen la publicidad no son oficialmente Tesla y por lo tanto Tesla no es responsable de lo que digan.

-Musk en sus comparecencias y presentaciones "solo habla de futuro". Si te compras en un Tesla en el futuro cercano tendrás un coche que se pagará solo y que incluso te dará dinero porque lo podrás subir a la flota de robotaxis y sacar de media 30.000 dólares al año. Eso lo dijo por primera vez en abril de 2019.

El FSD hace lo que hace. El problema de Tesla no es técnico porque técnicamente la cosa es muy chula. El coche prácticamente se conduce solo en lo que sería el equivalente de una carretera nacional o autovía. Y en carreteras un poco más complejas lo hace muy bien y sólo se empana un poco en las intersecciones.

Otra cuestión es que esa cosa chula es una mierda en términos de producto y precio y en términos de esfuerzo de venta es muy falta de ética. No es un producto comercializable porque aunque funcione bastante bien no es perfecto ni en las mejores condiciones y si al final eres el responsable, estás obligado a supervisarlo en todo momento. En condiciones difíciles (y no mucho) directamente no funciona. Cuesta 12.000 dólares y además se promociona de forma engañosa.

--------

Sobre Waymo. LLevan años y años de pruebas y parece que su opción será poner el coche a funcionar en áreas restringidas (ya veremos cómo de restringidas) que el sistema tendrá aprendidas. Además cuando un coche se empane un conductor remoto tomará el control del coche. Posiblemente cuando tu taxi de waymo se acerque o pase por un punto conflictivo o una zona que no tenga bien aprendida, habrá un conductor remoto.
La idea me parece más interesante que los robotaxis de Tesla propiedad de particulares.
Imaginemos una flota de 200 taxis autónomos que se tienen aprendido el centro de Madrid de forma centralizada. La flota sabe donde están los puntos complicados y puede contar con un conductor remoto cada 4 o 5 vehículos (y esto se puede ir refinando) para pasar los puntos conflictivos o tomar el control del coche cuando éste se empane.
Lo que no sé y si los costes de esto serían amortizables por mucho ahorro de conductores que se hiciera.


Mad Men

  • Inmoindultado
  • ****
  • Gracias
  • -Dadas: 4088
  • -Recibidas: 10495
  • Mensajes: 2047
  • Nivel: 167
  • Mad Men Sus opiniones inspiran a los demás.Mad Men Sus opiniones inspiran a los demás.Mad Men Sus opiniones inspiran a los demás.Mad Men Sus opiniones inspiran a los demás.Mad Men Sus opiniones inspiran a los demás.Mad Men Sus opiniones inspiran a los demás.Mad Men Sus opiniones inspiran a los demás.Mad Men Sus opiniones inspiran a los demás.Mad Men Sus opiniones inspiran a los demás.Mad Men Sus opiniones inspiran a los demás.Mad Men Sus opiniones inspiran a los demás.Mad Men Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #152 en: Febrero 17, 2022, 09:17:28 am »
Sí y no.

Estos sistemas aprenden a base de experiencia de los usuarios, es decir, recabando información. Cuando más se use mejor se moverá, aunque si quieres ir a la finca rústica pues el aparato no sabe por dónde tirar, porque no tiene memorizado el camino de tierra.

Como asistente a la conducción es genial. ¿Han probado algún coche con asistentes a la conducción? Mejoran mucho la comodidad y seguridad. No solo porque tome curvas, más o menos cerradas. También porque avisa de ángulos muertos, mantiene distancia de seguridad, varia la velocidad según los límites y la congestión...

Si lo que quieres es que te lleve a la finca del abuelo para hacer una barbacoa y que durante el trayecto duermas la siesta pues sí, aún falta.

Por lo demás tampoco tiene demasiado misterio, una mezcla de cámaras y radares que mapean el entorno.

Lo que impresiona de los competidores de Tesla es que aún no hayan sacado nada comparable a algún Model.

Y lo del autopiloto es verdad que es una estrategia de márqueting genial de Tesla porque directamente ellos no lo dicen, lo dicen los demás.
« última modificación: Febrero 17, 2022, 09:19:26 am por Mad Men »

sudden and sharp

  • Administrator
  • Sabe de economía
  • *****
  • Gracias
  • -Dadas: 49424
  • -Recibidas: 58945
  • Mensajes: 9521
  • Nivel: 971
  • sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #153 en: Febrero 17, 2022, 15:17:24 pm »









[ Mein Gott! ]

Saturio

  • Netocrata
  • ****
  • Gracias
  • -Dadas: 852
  • -Recibidas: 26192
  • Mensajes: 3375
  • Nivel: 649
  • Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #154 en: Febrero 17, 2022, 16:14:20 pm »
Sí y no.

Estos sistemas aprenden a base de experiencia de los usuarios, es decir, recabando información. Cuando más se use mejor se moverá, aunque si quieres ir a la finca rústica pues el aparato no sabe por dónde tirar, porque no tiene memorizado el camino de tierra.


Pero ese no es el problema. Los problemas no vienen tanto de no identificar el entorno (sobre todo la parte fija) sino de "encontrar el camino". Lo cual es un poco sorprendente porque parecería que el algoritmo de "encontrar el camino" estaría totalmente dominado.

Podemos ver cómo un Model3 identifica perfectamente una rotonda (o eso parece según lo que se ve en la pantalla) y de repente va e intenta cruzar la isla central por el centro. Identifica claramente cómo es una calle e identifica claramente a una furgo aparcada a un lado y aun coche aparcado al otro y se empana porque no sabe cómo hacer el pequeño slalom para sortear los dos vehículos.
En otro caso vemos como identifica claramente un semáforo en rojo y se lo salta.

Da la impresión de que el sistema identifica sin problemas los entornos fijos y los objetos grandes estáticos y otros vehículos pero falla al decidir qué hacer.

Efectivamente, aprender como es el entorno fijo es lo más fácil. Si esta calle tiene dos carriles o uno o si en esa señal de límite de velocidad pone 25 o 28. Pero insisto, al girar en una esquina va y decide irse por el carril del tranvía. O en una carretera totalmente normal va y ocupa el carril de giro a la izquierda en lugar de mantenerse por el carril principal.

Parece que el problema es encontrar el camino y no el no ver lo que está pasando. LLega a un cruce de dos calles que tiene 4 pasos de cebra uno es cruzado por un par de peatones, en otro hay uno, otros peatones parece que van por la acera acercándose a otro y una bici adelanta alegremente y se pone a circular por la intersección, el coche ve todo eso (que en realidad es muy poco para un conductor humano) y se queda empanado como si fuese un octogenario confundido.

Comerse un bolardo puese ser cuestión de no saber que estaba ahí y si de verdad se lo aprende después de chocar, podría ser que el siguiente Tesla lo evitase. Pero el 90% de los fallos que se ven en los vídeos no parecen derivados de no conocer el entorno.

En una ocasión sencillamente no ve a un peatón que va a empezar a cruzar un paso de cebra, el conductor se tiene que disculpar. En otro caso se empeña en incorporarse a una vía en la que hay una continuidad de vehículos de todo tipo circulando en ambos sentidos.

En otro vídeo se pone a circular a 54 millas por hora en una calle limitada a 25. El conductor vuelve a pasar otro día o quizás a otra hora y el coche vuelve a hacer lo mismo.


sudden and sharp

  • Administrator
  • Sabe de economía
  • *****
  • Gracias
  • -Dadas: 49424
  • -Recibidas: 58945
  • Mensajes: 9521
  • Nivel: 971
  • sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #155 en: Febrero 17, 2022, 17:01:09 pm »
[...] En otro vídeo se pone a circular a 54 millas por hora en una calle limitada a 25. El conductor vuelve a pasar otro día o quizás a otra hora y el coche vuelve a hacer lo mismo.

Ni idea del asunto... pero, aparentemente, no es un problema de toma de decisiones; sino más bien, de cómo marcar según que decisión como incorrecta.

Tal vez, si esos otros vehiculos, con el claxon, digamos, le hicieran ver que no, que no se empeñe... que no fue buena idea... que se lo "grabe" en la AI, que no... No sé, un poco como las AIs que juegan al ajedrez. Mate, chata... prueba otra cosa la "proxima " vez.

Ir mejorando... vaya. (Tal vez sea mucho pedir... pero un disco duro grande, la nube... qué se yo...)






[ Por incordiar un poco, sorry. ]

puede ser

  • Espectador
  • ***
  • Gracias
  • -Dadas: 19956
  • -Recibidas: 10406
  • Mensajes: 1492
  • Nivel: 155
  • puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #156 en: Febrero 18, 2022, 01:28:23 am »
[...] En otro vídeo se pone a circular a 54 millas por hora en una calle limitada a 25. El conductor vuelve a pasar otro día o quizás a otra hora y el coche vuelve a hacer lo mismo.

Ni idea del asunto... pero, aparentemente, no es un problema de toma de decisiones; sino más bien, de cómo marcar según que decisión como incorrecta.

Tal vez, si esos otros vehiculos, con el claxon, digamos, le hicieran ver que no, que no se empeñe... que no fue buena idea... que se lo "grabe" en la AI, que no... No sé, un poco como las AIs que juegan al ajedrez. Mate, chata... prueba otra cosa la "proxima " vez.

Ir mejorando... vaya. (Tal vez sea mucho pedir... pero un disco duro grande, la nube... qué se yo...)

[ Por incordiar un poco, sorry. ]
Como aprenda de lo que hacemos los humanos mal vamos. Acabaría tocando el claxon cuando gana el Real Madrid, picándose con los malotes... Ya pasó hace años con un bot que se volvió racista y faltón en un foro  :facepalm:

sudden and sharp

  • Administrator
  • Sabe de economía
  • *****
  • Gracias
  • -Dadas: 49424
  • -Recibidas: 58945
  • Mensajes: 9521
  • Nivel: 971
  • sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.sudden and sharp Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #157 en: Febrero 18, 2022, 11:15:18 am »
Hay sonidos diferentes... y hay "frequencias" de sonido. Hay...

Cadavre Exquis

  • Sabe de economía
  • *****
  • Gracias
  • -Dadas: 18821
  • -Recibidas: 40431
  • Mensajes: 8273
  • Nivel: 501
  • Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #158 en: Febrero 19, 2022, 10:49:56 am »
Programar sin programar, un caso práctico:


Y sí, el código generado es absolutamente inmantenible, pero la tecnología se encuentra ya en ese punto en el que permite que cualquiera pueda empezar a automatizar ciertas tareas sencillas simplemente dándole ordenes verbales a la Alexa o Siri de turno.

Saludos.

pollo

  • Administrator
  • Netocrata
  • *****
  • Gracias
  • -Dadas: 26635
  • -Recibidas: 29234
  • Mensajes: 3429
  • Nivel: 459
  • pollo Sus opiniones inspiran a los demás.pollo Sus opiniones inspiran a los demás.pollo Sus opiniones inspiran a los demás.pollo Sus opiniones inspiran a los demás.pollo Sus opiniones inspiran a los demás.pollo Sus opiniones inspiran a los demás.pollo Sus opiniones inspiran a los demás.pollo Sus opiniones inspiran a los demás.pollo Sus opiniones inspiran a los demás.pollo Sus opiniones inspiran a los demás.pollo Sus opiniones inspiran a los demás.pollo Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #159 en: Febrero 21, 2022, 15:03:02 pm »
El problema es el esperable con técnicas de este tipo.

Para los que no sepan por encima de qué va esto, es muy sencillo entender el funcionamiento básico.

En lugar de coger a un señor que piense en el problema y programe un algoritmo (secuencia de instrucciones y decisiones prefijadas que resuelven una tarea o problema), estas técnicas lo que hacen es ir aproximando cada vez más una función matemática cuyo resultado es equivalente a lo que resuelve ese algoritmo.
Para ello se necesitan, por un lado, datos sobre lo que se está haciendo en cada ejemplo a resolver, y por otro lado, algo que determine si se ha resuelto correctamente o no.

Lo que hace el programa entonces, es que para cada intento de resolver el problema, se prueba con una decisión o decisiones aleatorias o semialeatorias. Si el resultado es positivo, refuerza ciertos valores en la función matemática, y si es negativo, pues refuerza otros. A lo largo de miles, millones o billones de iteraciones, se entiende que la función estará tan afinada que será capaz de resolver el problema sin haber tenido nadie que haya pensado en la solución concreta, sólo a base de muchos intentos y su correspondiente feedback.

En realidad lo que se está haciendo es resolver un problema mediante fuerza bruta (intentar calcular todas las posibilidades de un problema) y averiguar una función matemática que dé el mismo resultado (o uno muy similar) al que daría esta aproximación por fuerza bruta, pero sin tener que calcular nada porque ya está implícito en tal función (ya se ha hecho antes el esfuerzo de calcular, lo que se llama "entrenamiento").

Lo que ha ocurrido en los últimos años son dos cosas: por un lado, la potencia necesaria para aplicar este tipo de fuerza bruta ya existe (antiguamente no se podía) y se ha descubierto que dos algoritmos de este tipo pueden entrenar el uno al otro: uno es el que intenta resolver el problema y otro el que intenta evaluar el resultado. En juegos además se puede utilizar un programa para enfrentarse al otro, con lo que ambos programas (jugador y rival) van aprendiendo el uno del otro.
Los resultados son mucho mejores que los que había antiguamente.

¿Cuál es el problema entonces?

El primer problema es que por la naturaleza del método empleado, el resultado de esa aproximación que resuelve el problema, es una caja negra. Es decir, no es posible saber por qué el programa resuelve lo que resuelve ni cómo lo hace, ya que no hay un proceso lógico como tal, sino una función matemática que no quiere decir nada a priori. Al contrario de un programa hecho por una persona, en el que hay partes concretas con una intención y función concreta, y una estructura explícita.

Es como intentar saber lo que está pensando una persona mirando el encefalograma. No hay forma de interpretarlo y además es diferente para cada persona y situación. Además, esta solución no es generalizable ni tampoco se puede transmitir (sólo en algunos casos, de formas limitadas y siguiendo procedimientos concretos).

El segundo problema es que no hay manera de garantizar que la función resultante haga lo que tenga que hacer para todos los casos. En problemas como jugar al ajedrez o al go, se tiene una información total sobre el estado del juego, y además todas las jugadas posibles, aunque sean números titánicos, son acotados y enumerables.
Sin embargo en problemas abiertos (como la conducción), las variables no están acotadas, las situaciones no son predecibles, no hay información total sobre el problema y además este problema no es determinístico como el ajedrez (dada una situación, debe ser totalmente determiable el resultado y ser siempre el mismo). Nunca se puede garantizar que para cualquier conjunto de entradas en el sistema, habrá una respuesta satisfactoria para resolver el problema. Digamos que la función matemática resultante podría (o no) tener puntos ciegos, en los cuales no haya sido entrenado correctamente. De hecho esto se ha demostrado, siendo posible buscar inputs que confundan a la red neuronal dando resultados incorrectos o absurdos.

Además de este tipo de erorres, se añade además los posibles errores de hardware: sensores que fallan o están averiados, circunstancias adversas (congelaciones, barro, etc.) que pueden causar que los sensores proporcionen información incorrecta, etc.

El resultado neto es que en la práctica hay una tasa de fallos en estos algoritmos, imposible de saber a priori, y que puede matar a alguien en el momento menos pensado, por cualquier tontería no prevista en el entrenamiento. Es imposible saber si hay estos errores y cuáles pueden ser. A lo máximo que se puede aspirar es a testear a lo bestia todas las posibilidades que se nos ocurran. Eso en sí es una tarea titánica. Idealmente se debería recurrir a testear en circunstancias reales, pero la mayor parte se hace en simuladores. Lo que ocurre es que los simuladores en teoría son tan reales como la realidad, pero esto es ser demasiado optimista.

La cuestión está bastante clara: si el algoritmo se equivoca, se va a equivocar sin tener en cuenta las consecuencias. En el ejemplo del primer accidente serio que tuvo un Tesla, se determinó que el coche "creyó" que donde había un camión blanco, la IA determinó que no había nada, con lo cual el coche maniobró chocando de lleno con el camión que tenía en el carril de al lado.

Una persona puede equivocarse, pero si está consciente y no quiere suicidarse, sus errores por lo general serán graduales y no serán por decisiones absurdas in situ. Puede reaccionar despacio, equivocarse al hacer una maniobra, etc. pero no va a confundir un camión con un hueco en la carretera.

El problema con el entrenamiento de estos algoritmos es bien visible: según se van entrenando más y más, los beneficios son cada vez menores, y se llega a un límite asintótico en el que no es posible garantizar la fiabilidad en determinadas circunstancias extremas. Estas circunstancias, extendidas a lo largo de millones de conductores a diario en el mundo, me atrevería a decir que son mucho más frecuentes de lo que se estima por intuición.

Mi previsión es que estos algoritmos no se equivocarán en lo que se equivocan los humanos: no se duermen, no se cansan, calculan correctamente velocidades, adelantamientos, etc., pero en contrapartida se van a equivocar en cosas de cajón que un humano jamás se equivocaría, y directamente no podrán reaccionar en determinadas circunstancias que requieren una interpretación cultural o aprendida de la realidad, debiendo delegar en el conductor sí o sí (el ejemplo más sencillo es apartarse cuando viene un vehículo en circunstancias especiales de emergencia en una situación no estandarizada, o interpretar carteles ad-hoc en obras o señales de un policía). Para esto no hay solución de momento, y creo que va a tardar mucho en haberla.

No se crean el hype, el problema no está resuelto hasta que no se resuelva el 100%. Con el 90% no sirve, ni con el 95%, ni con el 99%.

Cadavre Exquis

  • Sabe de economía
  • *****
  • Gracias
  • -Dadas: 18821
  • -Recibidas: 40431
  • Mensajes: 8273
  • Nivel: 501
  • Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #160 en: Febrero 27, 2022, 21:31:02 pm »
Un anticipo de lo que se nos viene en el ámbito de las fake news...


Saludos.

Cadavre Exquis

  • Sabe de economía
  • *****
  • Gracias
  • -Dadas: 18821
  • -Recibidas: 40431
  • Mensajes: 8273
  • Nivel: 501
  • Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #161 en: Marzo 22, 2022, 18:32:57 pm »
Hace un par de horas Jensen Huang (el CEO de NVIDIA) ha presentado la Keynote de la primera Nvidia GTC de este año (habrá otra en noviembre), en la que ha presentado las novedades en las que han estado trabajando estos útimos meses.


Como siempre, merece la pena echarle un ojo.

Saludos.

Cadavre Exquis

  • Sabe de economía
  • *****
  • Gracias
  • -Dadas: 18821
  • -Recibidas: 40431
  • Mensajes: 8273
  • Nivel: 501
  • Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #162 en: Mayo 19, 2022, 19:31:22 pm »
Citar
Solar-Powered Desalination Device Wins MIT $100K Competition
Posted by BeauHD on Wednesday May 18, 2022 @10:02PM from the only-the-beginning dept.

The winner of this year's MIT $100K Entrepreneurship Competition is commercializing a new water desalination technology. MIT News reports:
Citar
Nona Desalination says it has developed a device capable of producing enough drinking water for 10 people at half the cost and with 1/10th the power of other water desalination devices. The device is roughly the size and weight of a case of bottled water and is powered by a small solar panel. The traditional approach for water desalination relies on a power-intensive process called reverse osmosis. In contrast, Nona uses a technology developed in MIT's Research Laboratory of Electronics that removes salt and bacteria from seawater using an electrical current.

"Because we can do all this at super low pressure, we don't need the high-pressure pump [used in reverse osmosis], so we don't need a lot of electricity," says Crawford, who co-founded the company with MIT Research Scientist Junghyo Yoon. "Our device runs on less power than a cell phone charger." The company has already developed a small prototype that produces clean drinking water. With its winnings, Nona will build more prototypes to give to early customers. The company plans to sell its first units to sailors before moving into the emergency preparedness space in the U.S., which it estimates to be a $5 billion industry. From there, it hopes to scale globally to help with disaster relief. The technology could also possibly be used for hydrogen production, oil and gas separation, and more.
Saludos.

wanderer

  • Sabe de economía
  • *****
  • Gracias
  • -Dadas: 63682
  • -Recibidas: 46878
  • Mensajes: 6830
  • Nivel: 773
  • wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #163 en: Mayo 24, 2022, 21:25:12 pm »
John Deere y los problemas de querer convertir en una tecnológica a una de las principales proveedoras de maquinaria agrícola:

Citar

Llega la guerra del 'software' rural
John Deere es el tractor que todo agricultor quería, hasta que se pasaron de modernos
La marca de maquinaria agrícola lidera un cambio en el sector hacia la computarización. ¿El problema? Muchos agricultores creen que les están dejando atrás

https://www.elconfidencial.com/tecnologia/2022-05-24/maquinaria-agricola-tractores-john-deere-software_3427344/
"De lo que que no se puede hablar, es mejor callar" (L. Wittgenstein; Tractatus Logico-Philosophicus).

Cadavre Exquis

  • Sabe de economía
  • *****
  • Gracias
  • -Dadas: 18821
  • -Recibidas: 40431
  • Mensajes: 8273
  • Nivel: 501
  • Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.Cadavre Exquis Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:STEM
« Respuesta #164 en: Junio 19, 2022, 20:12:04 pm »
Un Princesa de Asturias más que merecidísimo para los que, sin lugar a dudas, podrían considerarse los padres de la IA.


Citar
Geoffrey Hinton, Yann LeCun, Yoshua Bengio y Demis Hassabis, Premio Princesa de Asturias de Investigación Científica y Técnica
Los científicos expertos en inteligencia artificial Geoffrey Hinton (canadiense y británico), Yann LeCun (francés y estadounidense), Yoshua Bengio (canadiense) y Demis Hassabis (británico) han sido galardonados con el Premio Princesa de Asturias de Investigación Científica y Técnica 2022, según ha hecho público hoy el jurado encargado de su concesión

Premios Princesa de Asturias 15/06/2022

@FPA

Los científicos expertos en inteligencia artificial Geoffrey Hinton (canadiense y británico), Yann LeCun (francés y estadounidense), Yoshua Bengio (canadiense) y Demis Hassabis (británico) han sido galardonados con el Premio Princesa de Asturias de Investigación Científica y Técnica 2022, según ha hecho público hoy el jurado encargado de su concesión.

El jurado de este Premio –convocado por la Fundación Princesa de Asturias— estuvo presidido por Pedro Miguel Echenique Landiríbar e integrado por Juan Luis Arsuaga Ferreras, César Cernuda Rego, Juan Ignacio Cirac Lascuráin, Avelino Corma Canós, Elena García Armada, Jerónimo López Martínez, Sir Salvador Moncada, Concepción Alicia Monje Micharet, Ginés Morata Pérez, Inés Rodríguez Hidalgo, María Teresa Telleria Jorge, María Paz Zorzano Mier y Manuel Toharia Cortés (secretario).

Esta candidatura ha sido propuesta por Bart Selman, presidente de la Asociación para el Desarrollo de la Inteligencia Artificial de la Universidad Cornell (Estados Unidos).

Geoffrey Hinton, Yann LeCun y Yoshua Bengio son considerados los padres de una técnica esencial de la inteligencia artificial, el deep learning o aprendizaje profundo, el cual se basa en el uso de redes neuronales para el reconocimiento de voz, la visión por ordenador y el procesamiento del lenguaje natural, y ha logrado avances en campos tan diversos como la percepción de objetos y la traducción automática. Estas redes neuronales pretenden imitar el funcionamiento del cerebro humano, utilizando algoritmos que convierten el proceso biológico del aprendizaje en secuencias matemáticas. Se trata de que la máquina aprenda de su propia experiencia. En 1986, Hinton inventó los algoritmos de retropropagación, fundamentales para el entrenamiento de redes neuronales. Con ellos, en 2012 consiguió crear una red neuronal convolucional llamada AlexNet, compuesta por 650 000 neuronas y entrenada con 1,2 millones de imágenes, que registró tan solo un 26 % de errores en el reconocimiento de objetos y redujo a la mitad el porcentaje de sistemas anteriores. Ha aportado otras contribuciones a las redes neuronales artificiales y su entrenamiento, como la cocreación de la máquina de Boltzmann, la máquina de Helmholtz y el llamado producto de expertos. En 2021 publicó en la plataforma de preprints arXiv un documento en el que presentó GLOM, un innovador proyecto, aún teórico, que supone un nuevo modelo vectorial para procesar y representar la información visual en una red neuronal, que aún está en fase de desarrollo. Por su parte, Yann LeCun hizo aportaciones al desarrollo de los algoritmos de retropropagación que Hinton había inventado y en 1989 creó LeNet-5, un sistema de reconocimiento de caracteres escritos en cheques bancarios, que supuso un gran avance para la tecnología de reconocimiento óptico de caracteres. Posteriormente, contribuyó al desarrollo de la tecnología DjVu, de compresión de imágenes, utilizada por cientos de sitios web y millones de usuarios para acceder a documentos escaneados en internet. También ha trabajado en métodos de aprendizaje profundo para el reconocimiento de documentos, la interacción humano-computadora y el reconocimiento de voz.

A su vez, Bengio ha hecho contribuciones clave en modelos probabilísticos de secuencias, utilizados para el reconocimiento de voz y de escritura y en aprendizaje no supervisado. Actualmente, estudia algoritmos más eficientes en representaciones de datos, extrayendo reconocimiento de patrones y también permitiendo el entendimiento de relaciones más complejas y conceptos de alto nivel. Demis Hassabis es CEO y cofundador de DeepMind, una de las mayores compañías de investigación en inteligencia artificial del mundo, creada en 2011 y adquirida en 2014 por Google (Premio Príncipe de Asturias de Comunicación y Humanidades 2008). Hassabis ha creado con DeepMind un modelo de red neuronal que combina las capacidades de una red neuronal artificial con la potencia algorítmica de un ordenador programable. La compañía de Hassabis ha unido los progresos hechos en machine learning con los procesos de deep learning y el llamado aprendizaje de refuerzo para crear un nuevo campo de aprendizaje por refuerzo profundo, un sistema de inteligencia artificial que abre la puerta a múltiples aplicaciones en el estudio de numerosas disciplinas científicas. En 2021 el equipo de DeepMind logró predecir, con un grado muy elevado de exactitud, la estructura de más de 350 000 proteínas humanas (el 44 % de todas las conocidas). Los datos fueron puestos a disposición de todos los laboratorios del mundo en el AlphaFold Protein Structure Database y el logro fue destacado por la revista Science (Premio Príncipe de Asturias de Comunicación y Humanidades 2007) como Descubrimiento Científico de ese año. Edith Heard, directora del Laboratorio Europeo de Biología Molecular, declaró que el logro era «una auténtica revolución para las ciencias de la vida, como lo fue la genómica hace décadas». Hinton, LeCun y Bengio fueron reconocidos en 2018 con el Premio Turing que concede la Association for Computing Machinery.

Geoffrey Hinton (Londres, Reino Unido, 6 de diciembre de 1947) se graduó en Psicología Experimental en la Universidad de Cambridge en 1970 y se doctoró en Inteligencia Artificial por la Universidad de Edimburgo en 1975. Trabajó, entre otras, en las universidades de Sussex (Reino Unido), California en San Diego y Carnegie-Mellon (Estados Unidos) y en la de Toronto (Canadá). Entre 1998 y 2001 puso en marcha la Unidad Gatsby de Neurociencia Computacional de la Universidad de Londres. Posteriormente regresó a la Universidad de Toronto, donde en la actualidad es catedrático emérito en el Departamento de Ciencias de la Computación. Desde 2013, colabora con Google en el desarrollo de aplicaciones de deep learning como vicepresidente, y es Asesor Científico Principal en el Vector Institute de Canadá. Es autor o coautor de más de trescientas publicaciones, acumula 572 982 citas y tiene un índice h de 169, según Google Scholar. Hinton es miembro de la Royal Society (Premio Príncipe de Asturias de Comunicación y Humanidades 2011), del Reino Unido y de Canadá, y de la Asociación para el Avance de la Inteligencia Artificial (de ámbito internacional). Además, es miembro honorario de la Academia de las Artes y las Ciencias y la Academia Nacional de Ingeniería, ambas de Estados Unidos. Companion de la Orden de Canadá y doctor honoris causa por las universidades de Edimburgo, Sussex y Sherbrooke, ha recibido, entre otros reconocimientos, el Premio David E. Rumelhart (EE. UU., 2001), el Premio a la Investigación de Excelencia de la International Joint Conferences on Artificial Intelligence Organization (2005), la Medalla de Oro Gerhard Herzberg del Consejo de Investigación de Ciencias Naturales e Ingeniería de Canadá (2010), el Premio NEC C&C (Japón, 2016) y la Medalla James Clerk Maxwell que concede el Institute of Electrical and Electronics Engineers (IEEE), la Real Sociedad de Edimburgo (2016), el Premio BBVA Fronteras del Conocimiento (2017) y el citado Premio Turing.

Yann LeCun (Soisy-sous-Montmorency, Francia, 8 de julio de 1960) se graduó en Ingeniería Eléctrica en la Escuela Superior de Ingenieros en Electrotécnica y Electrónica de París en 1983 y se doctoró en Ciencias de la Computación por la Universidad Pierre et Marie Curie (París) en 1987. Después de un postdoctorado en la Universidad de Toronto, en el grupo de Geoffrey Hinton, se unió a AT&T Bell Laboratories en 1988, donde se convirtió en jefe del Departamento de Investigación de Procesamiento de Imágenes en 1996. En 2003 fue contratado como profesor en la Universidad de Nueva York, después de un breve periodo como miembro del NEC Research Institute en Princeton (Nueva Jersey). Es director de investigación de inteligencia artificial en Facebook y mantiene su actividad académica en la Universidad de Nueva York, vinculado al Center for Data Science (que fundó y dirigió entre 2012 y 2014) y al Courant Institute of Mathematical Science. Es miembro del comité asesor del Instituto de Matemáticas Puras y Aplicadas y del Instituto de Investigación Computacional y Experimental en Matemáticas (ICERM). LeCun es autor o coautor de más de trescientas publicaciones, que acumulan 248 571 citas, y tiene un índice h de 135, según Google Scholar. Es miembro de la Academia Nacional de Ingeniería de EE. UU. y ha recibido numerosos premios, como el IEEE Neural Network Pioneer Award (2014), el de Investigador Distinguido IEEE PAMI (2015) y el Pender de la Universidad de Pensilvania (2018), además del Premio Turing mencionado anteriormente. Cuenta con doctorados honoris causa del Instituto Politécnico Nacional de México y de la Escuela Politécnica Federal de Lausana. Fue incluido en la lista de las cien personas influyentes globales de la revista Wired en 2016.

Yoshua Bengio (París, Francia, 5 de marzo de 1964) se graduó en Ingeniería Informática en 1986 en la Universidad McGill (Canadá), donde también cursó un máster y se doctoró en Ciencias de la Computación. Cumplió estudios postdoctorales en el Instituto de Tecnología de Massachusetts (MIT, por sus siglas en inglés) y en los AT&T Bell Laboratories, junto al grupo de LeCun. Desde 1993 es profesor en el Departamento de Ciencias de la Computación e Investigación Operativa de la Universidad de Montreal. Además de ocupar la cátedra de Investigación de Canadá en Algoritmos de Aprendizaje Estadístico, es fundador y director científico de Mila, el Instituto de Inteligencia Artificial de Quebec, cofundador de la empresa emergente Element AI y asesor de varias empresas de tecnología. Es también director científico del Institut de Valorisation des Données (IVADO) y copresidente, desde 2019, del Consejo Asesor de Canadá en Inteligencia Artificial. Bengio ha publicado más de seiscientos artículos y cuenta con 532 373 citas y un índice h de 205, según Google Scholar. Oficial de la Orden de Canadá y Caballero de la Legión de Honor de Francia, es miembro de la Royal Society of Canada (2017). Ha recibido premios como el Marie-Victorin del Gobierno de Quebec (2017), la Medalla del 50.º Aniversario del Ministerio de Relaciones Internacionales de la Francofonía de Quebec (2018), el de la Asociación Canadiense de IA (2018) y el Killam y el Pionero de Redes Neuronales IEEE CIS (2019). Es autor de tres reputados libros sobre aprendizaje profundo y fue uno de los impulsores de la Declaración de Montreal para un desarrollo responsable de la inteligencia artificial.

Demis Hassabis nació en Londres (Reino Unido) el 27 de julio de 1976. Niño prodigio del ajedrez (a los trece años era ya un reconocido jugador) y apasionado de la programación, a los diecisiete se unió a la compañía Bullfrog Productions como diseñador de videojuegos, donde creó juegos de éxito como Theme Park. Estudió en la Universidad de Cambridge, en la que se graduó en 1997 en Ciencias de la Computación, y en 1998 fundó la empresa de videojuegos Elixir Studios, con la que creó proyectos para multinacionales como Microsoft o Vivendi. En 2009 se doctoró en Neurociencia Cognitiva en el University College de Londres y completó sus estudios en Harvard (EE. UU.) y el Instituto Tecnológico de Massachusetts. En 2011, con el apoyo de inversores como Elon Musk, fundó la empresa de inteligencia artificial DeepMind Technologies, con la que comenzó a crear algoritmos de aprendizaje para dominar videojuegos, como AlphaGo (que en poco tiempo logró derrotar a Lee Sedol, campeón mundial del juego de origen chino Go), AlphaZero, para progresar en el desarrollo de un sistema de aprendizaje de inteligencia artificial, considerado por algunos expertos como revolucionario, pues combina el funcionamiento neuronal humano y las conexiones entre la memoria y la imaginación con los mecanismos de aprendizaje de las máquinas. Con otra de esas variantes, AlphaFold, ha logrado, como se ha dicho, transformar el estudio de la estructura 3D de las proteínas. Tras la adquisición de DeepMind por Google, en 2014, Hassabis ha sido su director ejecutivo. Acumula 79 960 citas y tiene un índice h de 73, según Google Scholar. Comandante de la Orden del Imperio Británico, Hassabis es miembro de la Royal Society, de la Royal Academy of Engineering y de la Royal Society of Arts, todas en el Reino Unido, y ha recibido el premio Mullard de la Royal Society (2014), el premio Golden Plate de la Academy of Achievement (Reino Unido, 2017) y el Dan David (Israel, 2020).

Los Premios Princesa de Asturias están destinados, según señala su Reglamento, a galardonar “la labor científica, técnica, cultural, social y humanitaria realizada por personas, instituciones, grupo de personas o de instituciones en el ámbito internacional”. Conforme a estos principios, el Premio Princesa de Asturias de Investigación Científica y Técnica se concederá a la “labor de cultivo y perfeccionamiento de la investigación, descubrimiento y/o invención en las matemáticas, la astronomía y la astrofísica, la física, la química, las ciencias de la vida, las ciencias médicas, las ciencias de la Tierra y del espacio y las ciencias tecnológicas, así como de las disciplinas correspondientes a cada uno de dichos campos y de las técnicas relacionadas con ellas”.

En esta edición concurría al galardón de Investigación Científica y Técnica un total de 47 candidaturas de 16 nacionalidades.

Este ha sido el séptimo de los ocho Premios Princesa de Asturias que se conceden este año, en que cumplen su cuadragésima segunda edición. Anteriormente fueron otorgados el Premio Princesa de Asturias de las Artes a la cantaora Carmen Linares y a la bailarina y coreógrafa María Pagés, el de Comunicación y Humanidades al periodista polaco Adam Michnik, el de Ciencias Sociales al arqueólogo mexicano Eduardo Matos Moctezuma, el de los Deportes a la Fundación y el Equipo Olímpico de Refugiados, el de las Letras al dramaturgo Juan Mayorga y el de Cooperación Internacional a la exregatista y emprendedora social británica Ellen MacArthur. La próxima semana se fallará el Premio Princesa de Asturias de la Concordia.

El acto de entrega de los Premios Princesa de Asturias se celebrará, como es tradicional, en el mes de octubre en una solemne ceremonia presidida por Sus Majestades los Reyes de España, acompañados por Sus Altezas Reales la Princesa de Asturias y la Infanta Doña Sofía.

Cada uno de los Premios Princesa de Asturias está dotado con una escultura de Joan Miró –símbolo representativo del galardón− un diploma, una insignia y la cantidad en metálico de 50 000 euros.
Saludos.

Tags:
 


SimplePortal 2.3.3 © 2008-2010, SimplePortal