* Blog


* Últimos mensajes


* Temas mas recientes


Autor Tema: ¿Avance o retroceso? El sentido del progreso  (Leído 68492 veces)

0 Usuarios y 1 Visitante están viendo este tema.

Saturio

  • Netocrata
  • ****
  • Gracias
  • -Dadas: 852
  • -Recibidas: 26233
  • Mensajes: 3378
  • Nivel: 651
  • Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #75 en: Junio 27, 2017, 16:59:45 pm »
Estando de acuerdo con los tres, habría que puntualizar a Saturio que además de meros afanes de venta de producto, en todo esto subyace una concepción del ser humano como cosa (reificación total) que debería dar miedo, y que es la filosofeta post-new-age totalitarian-2.0 que emana de EEUU y UK (NSA, Silicon Valley, etc.).

Así que mucho ojo, porque con masas cada vez más en manos de demagogos, puede surgir algún iluminado - de derecha o de izquierda - que compre muchos de estos productos y los use gustoso con los ciudadanos (los suyos y os no suyos).

Como crítica al articulista: la "sociedad de la información" era el concepto de los años 80-90, que era muy descentralizado, entre iguales, etc. Eso nunca pasó, para empezar por pasotismo de la gente, que prefiere consumir y que la web se convierta en la TV 2.0. Lo que el articulista describe no es la "sociedad de la información" sino más bien el crecepelo de la Singularidad y la IA que vienen vendiendo Google y cía desde hace unos 5 años: "el ser humano es un animalillo tonto y mis algoritmos pueden funcionar mejor que él y además gestionarlo."

Lo que decía está en relación (o es similar) al otro fenómeno, a veces relacionado, el de la "economía colaborativa". Los que la venden están muy relacionados (o son los mismos) con los grandes promotores del New Age tecnológico californiano.

Saturio

  • Netocrata
  • ****
  • Gracias
  • -Dadas: 852
  • -Recibidas: 26233
  • Mensajes: 3378
  • Nivel: 651
  • Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #76 en: Junio 27, 2017, 18:16:17 pm »

Vamos a ver...qué parecen ustedes adolescentes que todavía no entienden el mundo.

Hay gente con muchas ganas de vender cachivaches, algoritmos y crecepelos tecnológicos. Además, esa gente tan interesada en vender es la misma o está muy relacionada con las nuevas y modernas máquinas de embotellar y distribuir información.

Lógico que veamos muchos panfletos explicándonos cómo todo eso que venden es más moderno y mejor y que quién ose cuestionarlo no es más que un antiguo y un carcamal.

Me quieren vender que la métrica social me ayudará a tomar decisiones mucho mejores sobre mis empleados, que obtendré información relevante que además será tratada por los mágicos algoritmos. Si le pongo un chip a los empleados y veo con quién se juntan, con quién hablan, cuánto se meten en la red social corporativa y las visitas que obtienen de otros empleados y los likes y demás...el sistema me va a decir quiénes son los líderes para este milenio.

¡Qué se vayan al pedo!.

Los incentivos me parecen tan evidentes que no me pareció necesario mencionarlo. Incentivos aparte, es una serie de dogmas que vienen pisando fuerte, se van refinando en su discurso progresivamente y tienen muchísimo peligro.

Sí, sí. Refinadísimo. Lo que pasa es que a veces resulta caricaturesco. Hay una tremenda diferencia entre lo que venden y lo que hacen realmente.

Yo tengo identificadas varias líneas de ataque:

-"Economía colaborativa". Viene a ser precarización, elusión (en realidad evasión) de la responsabilidad del empleador y fraude.
-"Reputación en la red". Viene a ser "te vamos a fichar y si no te fichamos no vas a tener acceso a ningún servicio en la red".
https://www.ted.com/talks/joe_gebbia_how_airbnb_designs_for_trust?language=es
-"Formación a través de la red". Viene a ser "jamás se ha aprendido más que con CCC".
-"Social Metrics". En realidad no tenemos más que datos obtenidos espiando la actividad de la gente pero seguro que son de gran utilidad para ti.

La cuestión es que hay un fondo de verdad en todo. Seguro que hay grandes cosas que se pueden hacer en todos esos campos. Seguro que la ciencia puede conseguir un buen crecepelo o al menos algo que evite la caída del pelo o algo que no evite su caída pero que consiga que tu pelo se vea mejor mientras te dure. Pero de momento tenemos solo vendedores de crecepelo.





Marv

  • Estructuralista
  • ****
  • Gracias
  • -Dadas: 18084
  • -Recibidas: 18501
  • Mensajes: 1540
  • Nivel: 489
  • Marv Sus opiniones inspiran a los demás.Marv Sus opiniones inspiran a los demás.Marv Sus opiniones inspiran a los demás.Marv Sus opiniones inspiran a los demás.Marv Sus opiniones inspiran a los demás.Marv Sus opiniones inspiran a los demás.Marv Sus opiniones inspiran a los demás.Marv Sus opiniones inspiran a los demás.Marv Sus opiniones inspiran a los demás.Marv Sus opiniones inspiran a los demás.Marv Sus opiniones inspiran a los demás.Marv Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #77 en: Junio 27, 2017, 19:52:44 pm »
Pero habría varios niveles en la crítica a todos estos temas, lo mismo que en todo. No consigo entender a cuál se refieren.

Una cosa es que estemos debatiendo si lo que nos venden es cierto o no ahora mismo -o mejor dicho hasta que punto lo es-, y otra es cosa es afirmar o negar que pueda ser cierto en absoluto, hoy o nunca: no hay remedio para la calvicie.

Lo que se nos vende no es nada distinto a lo que llevamos haciendo siglos: medir, analizar y diseñar mejoras basadas en las conclusiones/interpretaciones de los datos. El Márketing ochentero no es más que eso, aunque sin ordenadores ni IA, ni ostias. Es observar el comportamiento (datos puros), hacer proyecciones o estimaciones y sacar conclusiones para reconducir la producción de forma más eficiente. Sólo estamos ante un cambio en los medios de recolección y análisis de los datos, y ante una automatización del análisis (la IA actualmente puede brindarnos el parte del análisis de los datos ya hecho, pero sólo bajo las directivas que tiene predefinidas). No es un cambio de paradigma.

¿Puede un sistema tomar una decisión mejor que un humano? En base a los criterios que tiene predefinidos y con mayor número de datos en los que apoyarse, seguro. No olvida, no se distrae, no falla, puede contabilizar millones de casos en milisegundos y no tiene un pasado ni intereses espurios. Para el caso citado del médico, yo no lo apoyo; harías mejor en conocer al médico antes de pensar que su decisión siempre va a ser preferible. Hay médicos alcohólicos y jueces comprados.

¿Puede elegir el mejor criterio a aplicar según el caso y modificar sus algoritmos para evaluar incorporar otros factoresde decisión, etc.? No, no puede, por el momento. O de forma limitadísima. Para una verdadera inteligencia se necesita tener capacidad meta-algoritmica. Ser capaz de cambiar los propios criterios (algoritmos) de decisión de manera autónoma. Ojo, muchos humanos no consiguen hacerlo.

Desde que se empezó a medir el share de audiencias en la TV se comenzó a reprogramar y contraprogramar, cosa que a nadie le sorprende ya; un programa se puede quitar de en medio al tercer día de malos datos de audiencia, cuando antes se mantenía por otros factores. Si esa 'decisión' la toma un algoritmo construido para tomar precisamente esa decisión, sólo estamos automatizando un paso más del proceso, no añadiendo inteligencia. Lo importante que nos dicen es que quien no tenga ese sistema implantado en sus procesos de funcionamiento va a fracasar frente a los que sí los tienen. El resto es humo.

El día que la IA tenga en sus manos la decisión de mantener el programa en antena dependiendo de criterios de decisión nuevos no previstos, estaremos ante un verdadero cambio, no antes.

puede ser

  • Espectador
  • ***
  • Gracias
  • -Dadas: 20004
  • -Recibidas: 10409
  • Mensajes: 1493
  • Nivel: 155
  • puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.puede ser Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #78 en: Junio 29, 2017, 00:34:03 am »
Interesante debate: hace unos días se publicó en El País este artículo:
http://elpais.com/elpais/2017/06/16/opinion/1497602599_425102.html

En él se explica de forma ¿diáfana? en qué consiste el "aprendizaje profundo" por parte de la inteligencia artificial actual:
Básicamente se ha pasado de usar la lógica simbólica clásica (1.- traducción de la información a símbolos - 2.cálculo lógico con esos símbolos 3.-emisión de resultados traduciendo de nuevo los símbolos a sus referentes de la realidad) a imitar el funcionamiento de las redes neuronales en las cuales la información de la realidad no se traduce a nada más que "patrones de actividad", los cuales se van adaptando progresivamente para dar una respuesta que se aproxime cada vez más al resultado deseado.

Esto suena a vendedor de crecepelo, sí, pero en el fondo ¿qué hace el traductor de google?, ¿cómo aprende a traducir cada vez mejor?... en el fondo porque seguimos preguntándole una y otra vez. En cierta manera es como si captase la inteligencia colectiva de los humanos y diese la respuesta que, por término medio, nos gustaría oír. Si el que usa el traductor es un neófito en la lengua le parecerá buenísima, si es un filólogo le parecerá vulgar. Del mismo modo hablar con Siri es desesperante para un adulto pero quizá no para un niño.

Y en todo el artículo late la clásica contraposición entre racionalismo (lógica clásica) y empirismo (redes neuronales que buscan el éxito); entre Platón con sus ideas eternas y Aristóteles con sus conceptos extraídos de la realidad sensible; y también entre las éticas del deber, que creen en valores y las éticas consecuencialistas, que juzgan las acciones por sus resultados.

Se habla mucho en estos últimos tiempos de cómo programar éticamente a las máquinas. Yo creo que es imposible: sólo hay ética cuando hay libertad. En la última decisión siempre tendrá que haber un ser humano.

(Wanderer: sé que no opinas lo mismo, has defendido una especie de política tecnocrática robotizada y leyendo tu firma creo entender tus razones... Pero piensa que al propio Wittgenstein le acabó horrorizando la idea de que el lenguaje sólo se pudiera usar -en serio- para describir la realidad... Si callamos sobre aquello de lo que no se puede hablar, moriremos con la duda de si el hablar de aquello no nos lo habría desvelado...)


muyuu

  • Estructuralista
  • ****
  • Gracias
  • -Dadas: 2210
  • -Recibidas: 7661
  • Mensajes: 1842
  • Nivel: 176
  • muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.
  • el mercado es tu amigo ☜(゚ヮ゚☜)
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #79 en: Junio 29, 2017, 11:02:01 am »
Lo que se nos vende no es nada distinto a lo que llevamos haciendo siglos: medir, analizar y diseñar mejoras basadas en las conclusiones/interpretaciones de los datos. El Márketing ochentero no es más que eso, aunque sin ordenadores ni IA, ni ostias. Es observar el comportamiento (datos puros), hacer proyecciones o estimaciones y sacar conclusiones para reconducir la producción de forma más eficiente. Sólo estamos ante un cambio en los medios de recolección y análisis de los datos, y ante una automatización del análisis (la IA actualmente puede brindarnos el parte del análisis de los datos ya hecho, pero sólo bajo las directivas que tiene predefinidas). No es un cambio de paradigma.

No, no es eso. Se habla de la toma de decisiones políticas. Elaboro más adelante.

¿Puede un sistema tomar una decisión mejor que un humano? En base a los criterios que tiene predefinidos y con mayor número de datos en los que apoyarse, seguro. No olvida, no se distrae, no falla, puede contabilizar millones de casos en milisegundos y no tiene un pasado ni intereses espurios. Para el caso citado del médico, yo no lo apoyo; harías mejor en conocer al médico antes de pensar que su decisión siempre va a ser preferible. Hay médicos alcohólicos y jueces comprados.

Este es precisamente el "meme" peligroso que hay de todo esto. Pensar que las decisiones en general, y las de tipo político en particular, son objetivamente optimizables de acuerdo a un criterio universal e indiscutible. Esto no ocurre prácticamente nunca. Quienes decidieran la función de optimización impondrían sus objetivos escudados en un supuesto mecanismo "objetivo" que en la práctica nunca puede ser tal.

Por extensión se vende que política = economía = PIB + mercado de valores. En esta ecuación, los derechos, libertades y protecciones sociales no solamente no valen nada, sino que tienen un valor negativo.

El cientifismo es muy peligroso. No se trata de "curar la calvicie" en ningún caso cuando estamos hablando de toma de decisiones de carácter público/social como puede ser, por ejemplo, marcar un objetivo de déficit para un año concreto o decidir cómo dividir el presupuesto según partidas o según niveles de administración.

Por ejemplo, el gasto en la sanidad destinada a individuos más allá de su "edad productiva" todo contaría como negativo si la función objetivo es buscar el mayor aumento posible del PIB per cápita. Las libertades individuales tendrían un coste dentro de la mayoría de los modelos económicos orientados a infraestructura o seguridad pública, etc etc.

Mucho más cercano por ejemplo es el caso de las agencias de seguros, y de la seguridad social. De cara a maximizar resultados, cuanta mayor información privada de los individuos se tenga, mejor. La legislación anti-discriminación sería una rémora toda ella de cara a la toma de decisiones (y no al contrario - por supuesto que una máquina puede tomar decisiones racistas o sexistas, si no existe el concepto de protección legal - los modelos pueden reforzar situaciones pre-existentes).

¿Puede elegir el mejor criterio a aplicar según el caso y modificar sus algoritmos para evaluar incorporar otros factores de decisión, etc.? No, no puede, por el momento. O de forma limitadísima. Para una verdadera inteligencia se necesita tener capacidad meta-algoritmica. Ser capaz de cambiar los propios criterios (algoritmos) de decisión de manera autónoma. Ojo, muchos humanos no consiguen hacerlo.

Pero puede venderse como tal? Puede y ya se hace. Se mira por ejemplo a números en lugar de a realidades. Se miran a cifras de paro que no reflejan la realidad, se mide la economía en términos de PIB ignorando endeudamiento público y privado, e inflación (cifras cada una de ellas ya sesgadas manipuladas de por sí).

Si ahora se cogen varias de estas cifras y se diseña una función objetivo por encima, ten por seguro que no será de forma imparcial. Se busca vender que "no hay alternativa" porque "es lo más competitivo" y todo lo demás lleva a "quedarse atrás". Este es el discurso, y la gente terminará PIDIENDO estas "soluciones" como "alternativa a los políticos" - y este es el discurso que se va refinando. Que la gente vaya equiparando la política con curar una condición física o con resolver una ecuación de ingeniería mecánica. "Dejemos que los tecnócratas se encarguen". Ni siquiera la economía es, en general, una ciencia exacta. La política lo es mucho menos. No hay una ecuación que te resuelva cuánto quieres gastarte en cuidar de tus dependientes (y no solo aquellos que puedan dar rentabilidades futuras para el Estado). La falacia es pretender que la hay, y que te tienes que desentender "por el bien común". Y así con prácticamente todo el ámbito público más allá de la mera inversión en infraestructura.

Desde que se empezó a medir el share de audiencias en la TV se comenzó a reprogramar y contraprogramar, cosa que a nadie le sorprende ya; un programa se puede quitar de en medio al tercer día de malos datos de audiencia, cuando antes se mantenía por otros factores. Si esa 'decisión' la toma un algoritmo construido para tomar precisamente esa decisión, sólo estamos automatizando un paso más del proceso, no añadiendo inteligencia. Lo importante que nos dicen es que quien no tenga ese sistema implantado en sus procesos de funcionamiento va a fracasar frente a los que sí los tienen. El resto es humo.

El día que la IA tenga en sus manos la decisión de mantener el programa en antena dependiendo de criterios de decisión nuevos no previstos, estaremos ante un verdadero cambio, no antes.

Esto es como los supuestos sorteos de la UEFA por ordenador. O la decisión de las sedes de mundiales de fútbol u Olimpiadas de acuerdo a "criterios objetivos". Ya hemos visto cómo va todo eso. Tiranía como la de toda la vida, pero tras una capa cada vez más espesa de opacidad y mendacidad descarada.

Ya ocurre por ejemplo con la concesión de hipotecas o de seguros de vida en algunos países. "El ordenador ha dicho que no", o "el ordenador da X prima" - lo que no te revelan es cómo. Si tienen información confidencial obtenida fraudulentamente, tú no lo puedes saber nunca si el modelo es privado y confidencial (que lo son en general: "secreto industrial"). La decisión, por ejemplo, de a quién se le hace una inspección fiscal o a quién se le investiga preventivamente por ejemplo por riesgo terrorista, es en general en base a criterios estrictamente confidenciales y además no puede ser de otro modo. Extender este modus operandi al ámbito privado o fusionarlo todo en un modelo público-privado nos lleva a escenarios que dejan los libros de Orwell y Huxley en cuentos de hadas.

wanderer

  • Sabe de economía
  • *****
  • Gracias
  • -Dadas: 63682
  • -Recibidas: 46878
  • Mensajes: 6830
  • Nivel: 773
  • wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #80 en: Junio 29, 2017, 12:35:22 pm »
Interesante debate: hace unos días se publicó en El País este artículo:
http://elpais.com/elpais/2017/06/16/opinion/1497602599_425102.html

En él se explica de forma ¿diáfana? en qué consiste el "aprendizaje profundo" por parte de la inteligencia artificial actual:
Básicamente se ha pasado de usar la lógica simbólica clásica (1.- traducción de la información a símbolos - 2.cálculo lógico con esos símbolos 3.-emisión de resultados traduciendo de nuevo los símbolos a sus referentes de la realidad) a imitar el funcionamiento de las redes neuronales en las cuales la información de la realidad no se traduce a nada más que "patrones de actividad", los cuales se van adaptando progresivamente para dar una respuesta que se aproxime cada vez más al resultado deseado.

Esto suena a vendedor de crecepelo, sí, pero en el fondo ¿qué hace el traductor de google?, ¿cómo aprende a traducir cada vez mejor?... en el fondo porque seguimos preguntándole una y otra vez. En cierta manera es como si captase la inteligencia colectiva de los humanos y diese la respuesta que, por término medio, nos gustaría oír. Si el que usa el traductor es un neófito en la lengua le parecerá buenísima, si es un filólogo le parecerá vulgar. Del mismo modo hablar con Siri es desesperante para un adulto pero quizá no para un niño.

Y en todo el artículo late la clásica contraposición entre racionalismo (lógica clásica) y empirismo (redes neuronales que buscan el éxito); entre Platón con sus ideas eternas y Aristóteles con sus conceptos extraídos de la realidad sensible; y también entre las éticas del deber, que creen en valores y las éticas consecuencialistas, que juzgan las acciones por sus resultados.

Se habla mucho en estos últimos tiempos de cómo programar éticamente a las máquinas. Yo creo que es imposible: sólo hay ética cuando hay libertad. En la última decisión siempre tendrá que haber un ser humano.

(Wanderer: sé que no opinas lo mismo, has defendido una especie de política tecnocrática robotizada y leyendo tu firma creo entender tus razones... Pero piensa que al propio Wittgenstein le acabó horrorizando la idea de que el lenguaje sólo se pudiera usar -en serio- para describir la realidad... Si callamos sobre aquello de lo que no se puede hablar, moriremos con la duda de si el hablar de aquello no nos lo habría desvelado...)


Debo aclarar que soy muy escéptico con éso de que las máquinas vendrán a sustituirnos para todo de trabajos, tanto manuales como intelectuales. Por poner unos ejemplos, yo creo, siguiendo a Chosen, que si hay conducción autónoma, seguirá habiendo un conductor al frente del vehículo, aunque lo que haga sea poco más que estar pendiente de la carretera y dejar actuar a la máquina: al final, si hay algún problema, él seguirá siendo en responsable, tanto para afrontar las consecuencias, como para evitarlo en la medida de lo posible. De igual modo, ningún sistema experto de diagnóstico médico, o de análisis de procedimientos judiciales civiles (nunca penales), respaldado por bases de datos enormes y controlado por redes neuronales chipiguais será el que tenga la última palabra, sino que será un  mero apoyo.

Mi tesis de robotización explícita de la política (y del gobierno corporativo) es en el fondo una boutade que pretende llevar a la reflexión: si todos los humanos somos tanto reemplazables, como en el fondo, prescindibles, éso también es válido, y con mayor motivo, para quienes defienden ése tipo de posturas.

Una IA genuina para mí no sería aquélla que fuera infalible, sino aquella que fuera libre y tuviera una demostrable capacidad de introspección metaanalítica y que fuera capaz de transcender su propia programación, tanto en procedimientos, como en objetivos, que fuera capaz de aburrirse, montar en cólera, tener en consideración factores éticos; habría de ser algo emergente, y no totalmente explicable a partir de sus meros componentes, y seguiría. Lo que se pretende vender como tal está muy lejos de tener ninguna de tales características.

No me impresiona demasiado que una supermáquina sea capaz de derrotar a un gran campeón al ajedrez o al go. Sí lo haría una que sin saber cómo, decidiera hacerse experta en uno de tales juegos por su propia voluntad...
« última modificación: Junio 29, 2017, 12:37:38 pm por wanderer »
"De lo que que no se puede hablar, es mejor callar" (L. Wittgenstein; Tractatus Logico-Philosophicus).

Saturio

  • Netocrata
  • ****
  • Gracias
  • -Dadas: 852
  • -Recibidas: 26233
  • Mensajes: 3378
  • Nivel: 651
  • Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.Saturio Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #81 en: Junio 29, 2017, 17:27:27 pm »
Interesante debate: hace unos días se publicó en El País este artículo:
http://elpais.com/elpais/2017/06/16/opinion/1497602599_425102.html

En él se explica de forma ¿diáfana? en qué consiste el "aprendizaje profundo" por parte de la inteligencia artificial actual:
Básicamente se ha pasado de usar la lógica simbólica clásica (1.- traducción de la información a símbolos - 2.cálculo lógico con esos símbolos 3.-emisión de resultados traduciendo de nuevo los símbolos a sus referentes de la realidad) a imitar el funcionamiento de las redes neuronales en las cuales la información de la realidad no se traduce a nada más que "patrones de actividad", los cuales se van adaptando progresivamente para dar una respuesta que se aproxime cada vez más al resultado deseado.

Esto suena a vendedor de crecepelo, sí, pero en el fondo ¿qué hace el traductor de google?, ¿cómo aprende a traducir cada vez mejor?... en el fondo porque seguimos preguntándole una y otra vez. En cierta manera es como si captase la inteligencia colectiva de los humanos y diese la respuesta que, por término medio, nos gustaría oír. Si el que usa el traductor es un neófito en la lengua le parecerá buenísima, si es un filólogo le parecerá vulgar. Del mismo modo hablar con Siri es desesperante para un adulto pero quizá no para un niño.

Y en todo el artículo late la clásica contraposición entre racionalismo (lógica clásica) y empirismo (redes neuronales que buscan el éxito); entre Platón con sus ideas eternas y Aristóteles con sus conceptos extraídos de la realidad sensible; y también entre las éticas del deber, que creen en valores y las éticas consecuencialistas, que juzgan las acciones por sus resultados.

Se habla mucho en estos últimos tiempos de cómo programar éticamente a las máquinas. Yo creo que es imposible: sólo hay ética cuando hay libertad. En la última decisión siempre tendrá que haber un ser humano.

(Wanderer: sé que no opinas lo mismo, has defendido una especie de política tecnocrática robotizada y leyendo tu firma creo entender tus razones... Pero piensa que al propio Wittgenstein le acabó horrorizando la idea de que el lenguaje sólo se pudiera usar -en serio- para describir la realidad... Si callamos sobre aquello de lo que no se puede hablar, moriremos con la duda de si el hablar de aquello no nos lo habría desvelado...)


Debo aclarar que soy muy escéptico con éso de que las máquinas vendrán a sustituirnos para todo de trabajos, tanto manuales como intelectuales. Por poner unos ejemplos, yo creo, siguiendo a Chosen, que si hay conducción autónoma, seguirá habiendo un conductor al frente del vehículo, aunque lo que haga sea poco más que estar pendiente de la carretera y dejar actuar a la máquina: al final, si hay algún problema, él seguirá siendo en responsable, tanto para afrontar las consecuencias, como para evitarlo en la medida de lo posible. De igual modo, ningún sistema experto de diagnóstico médico, o de análisis de procedimientos judiciales civiles (nunca penales), respaldado por bases de datos enormes y controlado por redes neuronales chipiguais será el que tenga la última palabra, sino que será un  mero apoyo.

Mi tesis de robotización explícita de la política (y del gobierno corporativo) es en el fondo una boutade que pretende llevar a la reflexión: si todos los humanos somos tanto reemplazables, como en el fondo, prescindibles, éso también es válido, y con mayor motivo, para quienes defienden ése tipo de posturas.

Una IA genuina para mí no sería aquélla que fuera infalible, sino aquella que fuera libre y tuviera una demostrable capacidad de introspección metaanalítica y que fuera capaz de transcender su propia programación, tanto en procedimientos, como en objetivos, que fuera capaz de aburrirse, montar en cólera, tener en consideración factores éticos; habría de ser algo emergente, y no totalmente explicable a partir de sus meros componentes, y seguiría. Lo que se pretende vender como tal está muy lejos de tener ninguna de tales características.

No me impresiona demasiado que una supermáquina sea capaz de derrotar a un gran campeón al ajedrez o al go. Sí lo haría una que sin saber cómo, decidiera hacerse experta en uno de tales juegos por su propia voluntad...


Yo creo que no hay inteligencia sin voluntad.
Hay quién dirá que la voluntad se puede programar, claro.

A la inteligencia artificial le tendrían que cambiar el nombre.

wanderer

  • Sabe de economía
  • *****
  • Gracias
  • -Dadas: 63682
  • -Recibidas: 46878
  • Mensajes: 6830
  • Nivel: 773
  • wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.wanderer Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #82 en: Junio 29, 2017, 20:21:42 pm »
[...]

Yo creo que no hay inteligencia sin voluntad.
Hay quién dirá que la voluntad se puede programar, claro.

A la inteligencia artificial le tendrían que cambiar el nombre.

Yo no digo que no pueda crearse una IA fuerte, aunque estoy de acuerdo contigo en que sin voluntad no lo sería propiamente. Sin embargo, sostengo que jamás podrá ser programada, sino que de aparecer, aparecería como propiedad emergente de algo complejo, de igual modo que me parece muy dudoso que pueda explicarse la inteligencia humana refiriéndose sólo a su sustrato físico neuronal: no es que haya un alma por ahí fuera, pero tal inteligencia, aunque sólo puede existir apoyándose en su sustrato neuronal, tampoco puede reducirse de modo completo a él.

Tampoco creo en inteligencias incorpóreas, como señalaba Antonio Damasio:

El error de Descartes
"De lo que que no se puede hablar, es mejor callar" (L. Wittgenstein; Tractatus Logico-Philosophicus).

NosTrasladamus

  • Global Moderator
  • Netocrata
  • *****
  • Gracias
  • -Dadas: 18287
  • -Recibidas: 25901
  • Mensajes: 3452
  • Nivel: 620
  • NosTrasladamus Sus opiniones inspiran a los demás.NosTrasladamus Sus opiniones inspiran a los demás.NosTrasladamus Sus opiniones inspiran a los demás.NosTrasladamus Sus opiniones inspiran a los demás.NosTrasladamus Sus opiniones inspiran a los demás.NosTrasladamus Sus opiniones inspiran a los demás.NosTrasladamus Sus opiniones inspiran a los demás.NosTrasladamus Sus opiniones inspiran a los demás.NosTrasladamus Sus opiniones inspiran a los demás.NosTrasladamus Sus opiniones inspiran a los demás.NosTrasladamus Sus opiniones inspiran a los demás.NosTrasladamus Sus opiniones inspiran a los demás.
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #83 en: Julio 05, 2017, 22:36:50 pm »
Interesantísima serie de documentales de Adam Curtis sobre los distintos intentos fracasados de ejercer un control "racional" y empírico, medible, cuantificable, predecible, computable... sobre la sociedad moderna, la economía...

https://en.wikipedia.org/wiki/Pandora%27s_Box_(TV_series

Desde los planes quinquenales al estancamiento y decadencia de la economía soviética...

https://www.youtube.com/watch?v=h3gwyHNo7MI

...los intentos de los EEUU por prevalecer en la guerra fría con la política del terror y la destrucción mutua asegurada, con el papel que jugó la Corporación RAND (Resarch ANd Development)...

https://www.youtube.com/watch?v=8IX9S2gF020

ó los intentos de los gobiernos laboristas para inyectar "crecimiento" en la economía británica, -usaban una máquina hidráulica para tratar de predecir las fluctuaciones de los distintos factores de la economía-,  y del Tatcherismo por reflotar la economía británica abrazando las tésis de MIlton Friedman y los Chicago Boys (que dejaron la economía peor que al principio pero sirvieron como coartada para erosionar las condiciones de vida de los trabajadores y la influencia de los sindicatos)

https://www.youtube.com/watch?v=mBZCdNsXbQg
« última modificación: Julio 07, 2017, 11:55:45 am por NosTrasladamus »
No es signo de buena salud el estar bien adaptado a una sociedad profundamente enferma

muyuu

  • Estructuralista
  • ****
  • Gracias
  • -Dadas: 2210
  • -Recibidas: 7661
  • Mensajes: 1842
  • Nivel: 176
  • muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.
  • el mercado es tu amigo ☜(゚ヮ゚☜)
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #84 en: Julio 12, 2017, 16:12:54 pm »
https://www.nytimes.com/2017/06/13/opinion/how-computers-are-harming-criminal-justice.html

Citar
When a Computer Program Keeps You in Jail

Citar
The criminal justice system is becoming automated. At every stage — from policing and investigations to bail, evidence, sentencing and parole — computer systems play a role. Artificial intelligence deploys cops on the beat. Audio sensors generate gunshot alerts. Forensic analysts use probabilistic software programs to evaluate fingerprints, faces and DNA. Risk-assessment instruments help to determine who is incarcerated and for how long.

Technological advancement is, in theory, a welcome development. But in practice, aspects of automation are making the justice system less fair for criminal defendants.

The root of the problem is that automated criminal justice technologies are largely privately owned and sold for profit. The developers tend to view their technologies as trade secrets. As a result, they often refuse to disclose details about how their tools work, even to criminal defendants and their attorneys, even under a protective order, even in the controlled context of a criminal proceeding or parole hearing.

Take the case of Glenn Rodríguez. An inmate at the Eastern Correctional Facility in upstate New York, Mr. Rodríguez was denied parole last year despite having a nearly perfect record of rehabilitation. The reason? A high score from a computer system called Compas. The company that makes Compas considers the weighting of inputs to be proprietary information. That forced Mr. Rodríguez to rely on his own ingenuity to figure out what had gone wrong.

Citar
This year, Mr. Rodríguez returned to the parole board with the same faulty Compas score. He had identified an error in one of the inputs for his Compas assessment. But without knowing the input weights, he was unable to explain the effect of this error, or persuade anyone to correct it. Instead of challenging the result, he was left to try to argue for parole despite the result.

Mr. Rodríguez was lucky. In the end, he made parole and left Eastern Correctional in mid-May. But had he been able to examine and contest the logic of the Compas system to prove that its score gave a distorted picture of his life, he might have gone home much earlier.

Or consider the case of Billy Ray Johnson, a defendant in California who was sentenced to life without parole for a series of burglaries and sexual assaults that he says he did not commit. The prosecution relied on the results of a software program called TrueAllele that was used to analyze traces of DNA from the crime scenes.

Citar
When an expert witness for Mr. Johnson sought to review the TrueAllele source code in order to confront and cross-examine its programmer about how the software works, the developer claimed it was a trade secret, and the court refused to order the code disclosed — even though Mr. Johnson’s attorney offered to sign a protective order that would safeguard the code. Mr. Johnson was thus unable to fully challenge the evidence used to find him guilty.

TrueAllele’s developer maintains this decision was right. It has submitted affidavits to courts across the country alleging that disclosing the program’s source code to defense attorneys would cause “irreperable harm” to the company because it would allow competitors to steal the code. Most judges have credited this claim, quashing defense subpoenas for the source code and citing the company’s intellectual property interests as a rationale.

In 2015, a California Appeals Court upheld a trade secret evidentiary privilege in a criminal proceeding — for what is likely the first time in the nation’s history — to shield TrueAllele source code from disclosure to the defense. That decision, People v. Chubbs, is now being cited across the country to deny defendants access to trade secret evidence.

TrueAllele is not alone. In another case, an organization that produces cybercrime investigative software tried to invoke a trade secret evidentiary privilege to withhold its source code, despite concerns that the program violated the Fourth Amendment by surreptitiously scanning computer hard drives. In still other instances, developers of face recognition technology have refused to disclose the user manuals for their software programs, potentially obstructing defense experts’ ability to evaluate whether a program has been calibrated for certain racial groups and not for others.

Likewise, the algorithms used to generate probabilistic matches for latent fingerprint analysis, and to search ballistic information databases for firearm and cartridge matches, are treated as trade secrets and remain inaccessible to independent auditors.

This is a new and troubling feature of the criminal justice system. Property interests do not usually shield relevant evidence from the accused. And it’s not how trade secrets law is supposed to work, either. The most common explanation for why this form of intellectual property should exist is that people will be more likely to invest in new ideas if they can stop their business competitors from free riding on the results. The law is designed to stop business competitors from stealing confidential commercial information, not to justify withholding information from the defense in criminal proceedings.

Defense advocacy is a keystone of due process, not a business competition. And defense attorneys are officers of the court, not would-be thieves. In civil cases, trade secrets are often disclosed to opposing parties subject to a protective order. The same solution should work for those defending life or liberty.

The Supreme Court is currently considering hearing a case, Wisconsin v. Loomis, that raises similar issues. If it hears the case, the court will have the opportunity to rule on whether it violates due process to sentence someone based on a risk-assessment instrument whose workings are protected as a trade secret. If the court declines the case or rules that this is constitutional, legislatures should step in and pass laws limiting trade-secret safeguards in criminal proceedings to a protective order and nothing more.

The future of the criminal justice system may depend on it.

muyuu

  • Estructuralista
  • ****
  • Gracias
  • -Dadas: 2210
  • -Recibidas: 7661
  • Mensajes: 1842
  • Nivel: 176
  • muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.
  • el mercado es tu amigo ☜(゚ヮ゚☜)
    • Ver Perfil

muyuu

  • Estructuralista
  • ****
  • Gracias
  • -Dadas: 2210
  • -Recibidas: 7661
  • Mensajes: 1842
  • Nivel: 176
  • muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.
  • el mercado es tu amigo ☜(゚ヮ゚☜)
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #86 en: Julio 16, 2017, 00:46:56 am »


https://arstechnica.com/tech-policy/2017/06/appeals-court-public-defender-lacks-standing-in-dispute-over-court-software/

Citar
Judges refuse to order fix for court software that put people in jail by mistake
Defender: Switch to Odyssey Court Manager remains at the heart of the problem.

Citar
On Wednesday, a California appeals court denied efforts to overturn a county court’s decision not to intervene in an ongoing dispute between the public defender’s office and the administrative arm of the Alameda County Superior Court itself. The dispute is over allegedly flawed court software.
The public defender, Brendon Woods, has argued since December 2016 that a recent upgrade is inadequate for Alameda County and has resulted in many mistaken jailings. In March 2017, a local judge rejected Woods’ demands to fix the software, which is known as Odyssey Court Manager and made by Tyler Technologies.

The 1st Appellate District, a state-level appeals court based in San Francisco, ruled that Woods lacked standing to bring the appeal “in his own right.” Even if there was standing, the plaintiffs did not establish that they would “suffer harm or prejudice in a manner that cannot be corrected on appeal.”

“They also fail to show that they lack an adequate remedy at law, as they may move for correction of erroneous records at any time,” the 1st District continued.

Citar
As Ars reported in December 2016, the Alameda County Superior Court switched from a decades-old courtroom management software to a much more modern one on August 1, 2016.
However, since then, the public defender’s office has filed approximately 2,000 motions informing the court that, due to its reportedly imperfect software, many of its clients have been forced to serve unnecessary jail time, be improperly arrested, or even wrongly registered as sex offenders.

Woods, Alameda County Court Executive Officer Chad Finke, and Tyler Technologies were not immediately available for comment.

UPDATE June 29 5:20pm ET: Finke sent Ars an e-mail earlier on Thursday, responding to our query as to how the efforts to resolve the ongoing errors has gone.

"The current backlog is right around 1,000 cases, so it has come down quite a bit.  And I would say that yes, the rate of errors has dropped quite a bit as well," he wrote.

EEUU va "por delante" en esta historia.

muyuu

  • Estructuralista
  • ****
  • Gracias
  • -Dadas: 2210
  • -Recibidas: 7661
  • Mensajes: 1842
  • Nivel: 176
  • muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.
  • el mercado es tu amigo ☜(゚ヮ゚☜)
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #87 en: Julio 18, 2017, 00:22:31 am »
Más alegrías de El Mundo  :roto2:

http://www.elmundo.es/tecnologia/2017/07/17/596c967de2704e281a8b45cb.html

Kalashnikov fabrica un 'terminator' inteligente capaz de decidir a quién disparar sin intervención humana
Citar
El Ak-47, más conocido como Kalashnikov a secas, es el arma más popular del mundo. Este fusil de asalto se caracteriza por su cargador con forma de cuerno y su durabilidad. Una serie de cualidades muy apreciadas por soldados de todo el mundo a lo largo del siglo XX a partir del cual ha crecido un imperio empresarial que, lejos de la simplicidad que caracteriza a su producto estrella, ahora apuesta por la producción de sofisticados robots de combate autónomos capaces de decidir cuándo y a qué objetivos disparar.Y es que Kalashnikov ya no es sólo aquel mítico fusil capaz de disparar tras sumergirlo en barro, en tierra o después de que la oruga de un tanque le pasara por encima. Ahora Kalashnikov aspira a ser el Terminator del futuro con el sello de 'made in Rusia'.

Aprovechando una visita del presidente ruso, Vladimir Putin, a la fábrica de esta empresa, Kalashnikov ha querido mostrar su nueva gama de robots de combate. Se trata de dispositivos que, según explica la compañía, son capaces de funcionar con inteligencia artificial, sin que una mano humana sea necesaria para ponerlos en operarlos en la batalla. Al igual que ocurre con los soldados humanos, estos nuevos robots son capaces de operar de forma totalmente autónoma, eligiendo los objetivos por sí mismos, tomando decisiones sobre cuando disparar y sobre cuando esperar y, sobre todo, adquieren experiencia en combate y son capaces de afinar su mecanismo de funcionamiento y toma de decisiones a medida que adquieren veteranía.Esta gama de robots, que cuanta con distintos modelos aéreos y terrestres, llevan incorporados ametralladoras pesadas modelo Kalashnikov PK, también fabricadas en la casa. Asimismo, según ha indicado un portavoz de la empresa a la agencia TASS, la producción de estos drones de combate autónomos es una apuesta estratégica ya que la compañía rusa prevé "mostrar una nueva gana de productos" entre los que se encuentra "un módulo de combate totalmente automatizado que se presentará en la feria Army 2017". La marca Kalashnikov se encuentra firmemente arraigada en el imaginario colectivo ruso. En el año 2013, el expresidente ruso, Dimitry Medvedev, se refirió a Kalashnikov como "la marca de la que todo ruso se siente orgulloso".Un orgullo nacional que se traduce en suculentos dividendos para una empresa que, lejos de verse afectada por el veto de Estados Unidos a Rusia tras la revolución del Maidan en Ucrania, ha sabido reinventarse como una empresa centrada en la producción de armas para uso militar en lugar de centrarse en mercados civiles como el de Estados Unidos.

Modelo empresarial de éxito

Para ello, Kalashnikov está apostando por una estrategia de tres patas: por un lado, una fuerte apuesta por la I+D+i con el desarrollo de nuevos productos robóticos. Por otro, la producción de armas destinadas al mercado de venta civil, que es el segmento en el que preveían un mayor crecimiento con la venta de versiones modernas del AK-47 y del Saiga (la versión de caza del mismo) tanto en el mercado ruso como en el mercado norteamericano pero que debido a las sanciones no terminó de cuajar y, finalmente, como proveedor de armamento y equipos militares baratos para países en vías de desarrollo. Un camino hacia la modernización con la que la empresa Kalashnikov aumentó sus ingresos hasta superar los 300 millones de dólares, una cantidad que esperan multiplicar por de cara al presente ejercicio fiscal, y ha elevado sus beneficios hasta los 135 millones de dólares, más del doble que hace tan sólo un año.

Debate ético.

 El empleo de robots de combate ha despertado un debate ético entre algunas voces destacadas en el ámbito de la ciencia y la tecnología como Elon Musk y Stephen Hawking. Ambos, conjuntamente con un amplio grupo de voces académicas de prestigio redactaron una carta abierta en la que advertían de los peligros del armamento autónomo. "Si alguna potencia militar comienza su carrera de armas con inteligencia artificial, una carrera armamentística será inevitable con una trayectoria obvia. Que las armas autónomas serán el Kalashnikov del mañana", indican en su carta.


muyuu

  • Estructuralista
  • ****
  • Gracias
  • -Dadas: 2210
  • -Recibidas: 7661
  • Mensajes: 1842
  • Nivel: 176
  • muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.
  • el mercado es tu amigo ☜(゚ヮ゚☜)
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #88 en: Julio 24, 2017, 11:03:07 am »
http://www.ibtimes.com/facebook-files-patent-takes-secret-photos-detect-your-emotions-2549802

(ojo, video con sonido en el enlace)

Citar
Facebook Files Patent That Takes Secret Photos To Detect Your Emotions


Citar
Facebook slowly has migrated onto other platforms since its launch. But a recent patent filing shows it potentially could be keeping an eye on something more significant: your webcam.

CBInsights reported the patent in question would be for a system that would use a smartphone or laptop’s front-facing camera to take brief photos of you while you’re using Facebook. According to the patent, Facebook could then use these temporary photos to determine your emotions when seeing various types of posts on the News Feed. With this information, the social media network could then provide content tailored to keep you on the service for longer.

Read: Facebook Experiment Raises Legal Questions

For instance, if you look at a photo of a friend or animal and appear happy, Facebook would include more of that type of content. Conversely, Facebook could also reduce the number of times you see content you dislike or to which you react poorly. While Facebook already has ways to self-curate what you see on your News Feed through unfollowing and other methods, the proposed facial emotion detection system would be a significant move to expand and automate this process.

To be sure, patent filings aren’t a sure indicator of a company’s product roadmap. Facebook told the Independent the filing for the webcam detection patent was purely exploratory. 

"We often seek patents for technology we never implement, and patents should not be taken as an indication of future plans,” Facebook told the Independent.

But at the same time, the public relations downside for Facebook on the patent would be clear. While Facebook has often been given substantial leeway from users thanks to its sheer scale and ubiquity, the idea the network was secretly taking photos of users without their consent would be a potential headache for the company.

In addition, the patent is not the first time Facebook reportedly has investigated higher-detail ways of understanding its users’ emotions. Earlier this year, Facebook came under fire for a program that tracks the emotional states of teenage users through their posts and comments. Facebook then subsequently used this information to target these users with specific ads.

Read: Facebook Gathered Data About User Emotions, Used It To Target Vulnerable Teens

Previously, Facebook also allegedly used account search histories to target advertising for users based on medical conditions. The social media site was criticized for allowing ads that could target users based on race. In 2014, Facebook was revealed to have done a large-scale experiment wherein staffers adjusted the feed of around 700,000 Facebook users to see if the company could manipulate their emotions.

muyuu

  • Estructuralista
  • ****
  • Gracias
  • -Dadas: 2210
  • -Recibidas: 7661
  • Mensajes: 1842
  • Nivel: 176
  • muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.muyuu Sus opiniones inspiran a los demás.
  • el mercado es tu amigo ☜(゚ヮ゚☜)
    • Ver Perfil
Re:¿Avance o retroceso? El sentido del progreso
« Respuesta #89 en: Julio 29, 2017, 19:49:40 pm »
http://uk.businessinsider.com/cgi-ai-fake-news-videos-real-2017-7

(los enlaces funcionan, aunque no salgan aquí)

CGI and AI are going to turbocharge 'fake news' and make it far harder to tell what's real


Citar
Most people trust what they watch — but that won't always be the case.
Tech is being developed that will make it easy to create fake video footage of public figures or audio of their voice.
The developments aren't perfect yet, but they threaten to turbocharge "fake news" and boost hoaxes online.
In years to come, people will need to be far more skeptical about the media they see.
LONDON — Late last year, some WikiLeaks supporters were growing concerned: What had happened to Julian Assange?

The then-45-year-old founder of the anti-secrecy publisher was no stranger to controversy. Since 2012, he has sheltered in the Ecuadorian Embassy in Knightsbridge, London, following allegations of sexual assault. (He denies them and argues the case against him is politically motivated.) But the publication of leaked emails from Democratic Party officials in the run-up to the US presidential election saw Assange wield unprecedented influence while at the centre of a global media firestorm.

After the election, though, suspicions were growing that something had happened to him. Worried supporters highlighted his lack of public appearances since October and produced exhaustive timelines detailing his activities and apparent "disappearance." They combined their efforts to solve the mystery on the Reddit community r/WhereIsAssange.

Video interviews and photos of Assange were closely scrutinised amid speculation that they might have been modified with computer-generated imagery — or faked entirely, as at least one YouTube analysis alleged.

"We need to look at the many glitches in that interview, and there were many for sure," one amateur sleuth wrote on Reddit. "Either terrible editing went on or CGI or whatever was just not fluid enough to make the grade. We need to understand why Assange's head looked like a cut and paste to his suit."

Another investigator took an alternative approach: "I plan on watching the interview totally sober, and then vaping a whole bunch of weed and re-watching. I find that I can spot CGI or irregularities incredibly easily when I am really high."

This is not normal behaviour. When watching newsreel, or a clip of an interview on Facebook, most people don't give much thought as to whether the footage is real. They don't closely scrutinise it for evidence of elaborate CGI forgery.

But these concerns may not be confined to the paranoid fringes of the internet forever.

CGI and artificial intelligence are developing at a rapid pace, and in the coming years it will become increasingly easy for hoaxsters and propagandists to create fake audio and video — creating the potential for unprecedented doubt over the authenticity of visual media.

"The output we see from these models ... are still crude and easily identified as forgeries, but it seems to be only a matter of refinement for them to become harder to discern as such," Francis Tseng, a copublisher of The New Inquiry who curates a project tracking how technology can distort reality, told Business Insider.

"So we'll see the quality go up, and like with other technologies, the costs will go down and the technology will become accessible to more people."

Early tech demos are a sign of what is to come
We're already living in an era of "fake news." US President Donald Trump frequently lashes out online at the "phony" news media. Hoax news outlets have been created by Macedonian teenagers to make a quick buck from ad revenue, their stories spreading easily through platforms like Facebook. Public trust in the professional news media has fallen to an all-time low.

But a string of tech demos and apps highlight how this problem seems likely to get much worse.

Earlier in July, University of Washington researchers made headlines when they used AI to produce a fake video of President Barack Obama speaking, built by analysing tens of hours of footage of his past speeches. In this demo, called "Synthesizing Obama," the fake Obama's lips were synched to audio from one of his speeches — but it could have come from anywhere.



! No longer available

Citar
In a similar demo from 2016, "Face2face," researchers were able to take existing video footage of high-profile political figures including George W. Bush, Vladimir Putin, and Trump and make their facial expressions mimic those of a human actor, all in real time.


! No longer available

Citar
Even your voice isn't safe. Voice-mimicking software called Lyrebird can take audio of someone speaking and use it to synthesise a digital version of that person's voice — something it showed off to disconcerting effect with demos of Hillary Clinton, Obama, and Trump promoting it. It's in development, and Adobe, the company behind Photoshop, is also developing similar tools under the name Project Voco.


And once you start to combine these technologies, things get really interesting — or worrying. Someone could synthesise a speech from Trump using Lyrebird and then make a fake version of him generated with "Synthesising Obama"-style software.

You could quite literally put words into the mouth of any public figure.

It could undermine trust in everything you watch
Developers of this technology are awake to the dangerous possibilities of this tech. "Making these kinds of video-manipulation tools widely available will have strong social implications," Justus Thies, who helped to develop Face2face, told Business Insider. "That is also the reason why we do not make our software or source code publically available."

Children with access to such a software could "lift cyberbullying to a whole new level," Thies said, adding, "You can also assume that the number of fake news will increase."



Supasorn Suwajanakorn, a researcher on "Synthesising Obama," agrees that it could be used to produce fraudulent material — but argues it could also lead to more skepticism among ordinary people. "It could potentially be used to create fake videos when combined with technology that can generate a person-specific voice," he said. "On the other hand, if such tools are widespread and well-known, people can be more cautious about treating video as a strong evidence. People know Photoshop exists, and no one simply believes photos. This could happen with videos."

This was echoed by Yaroslav Goncharov, the CEO of the photo-editing app FaceApp. People will just have to learn to stop taking videos at face value, he argued. "If ordinary people can create such content themselves, I hope it will make people pay more attention to verifying any information they consume," he said. "Right now, a lot of heavily modified/fake content is produced and it goes under the radar."


He added: "Before printers were available, people could assign much high credibility to printed materials than to handwritten ones. Now when most people have a printer at home, they won't believe in something just because it is printed."

There's a flip side to the fact that it will become easy to make photo-realistic fraudulent video: It will also cast some doubts on even legitimate footage. If a politician or celebrity is caught saying or doing something untoward, there will be an increasing chance that the person could dismiss the video as being fabricated.

In October, Trump's presidential campaign was rocked by the "Access Hollywood" tape — audio of his discussing groping women in vulgar terms. What if he could have semi-credibly claimed the entire thing was just an AI-powered forgery?

It's not all bad, however: Just think of the entertainment!
So should conscientious developers swear off this technology altogether? Not so fast — there are also numerous positive use cases, including entertainment and video gaming.

Face2face suggested its techniques could be used in postproduction in the film industry or for creating realistic avatars for gaming. In the announcement of "Synthesising Obama," it is suggested that it could be used to reduce bandwidth during video chats and teleconferencing. (Don't bother streaming video — just send audio and synthesise the visuals instead!) Products like Lyrebird and Project Voco could help people with speech disorders synthesise fluent and realistic speech on demand.

And Tseng of The New Inquiry also posits that the tech could be used to "foster a wide culture of DIY entertainment: people editing clips from movies but replacing the dialogue or other elements in scenes or entirely synthesizing new clips by emulating actors and actresses."

But, he warns, developers still have a responsibility to take political issues into account. "Software development as a profession has grown so rapidly through so many informal channels that there is not much of a professional culture of ethics to speak of," he said. "Other engineering professions have developed pretty robust ethical standards, and those hold up because engineers trained in those professions go through a limited number of formal channels which expose them to those ethics. The boon of programming education is its decentralization and wide accessibility, but this also means people often pick up the skills without the necessary ethical frameworks to accompany them."

He added: "Anyone involved in the development of technology, directly or indirectly, has a responsibility to consider these issues, outright refuse to implement problematic technologies, or subvert them in some way."

The entertainment industry, of course, has long used CGI for entertainment purposes — and it is acutely aware of what further developments could herald. The December film release "Star Wars: Rogue One" featured a surprise appearance from actor Peter Cushing.

It was a particularly surprising appearance because Cushing had been dead for 22 years. His image was reconstructed using CGI overlaid on a real actor.

It wasn't a perfect recreation, but the stunt grabbed headlines and spooked some celebrities. Reuters reported at the time that its release led to actors "scrambling to exert control over how their characters and images are portrayed in the hereafter," negotiating contracts on how their image may or may not be used even after they die.

In January, Lucasfilm even had to deny that it was planning to incorporate a CGI Carrie Fisher into the coming movie "Star Wars: The Last Jedi" amid rumours that the studio was planning to get around the actress' death in December by making a digital version of her.

It's time to start getting ready
It's undeniable that developments in the coming years will heighten challenges people will face in finding and responsibly sharing media. In trying to solve these new challenges, everyone — journalists, developers, tech platforms, and consumers — may have a role to play.

Technology already exists to cryptographically sign footage captured by a camera, so it can be verified when required. News outlets and organisations could perhaps one day "sign" their footage, so anyone can check its authenticity. No matter how convincing the fake, if it's not cryptographically fingerprinted, viewers would know something was wrong.

Face2face suggests its findings could be built upon to help "detect inconsistencies" in media and help identify fraudulent imagery.

Thies argued that big tech platforms like Facebook would have a duty to proactively police for fraudulent media.

"Social-media companies as well as the classical media companies have the responsibility to develop and setup fraud detection systems to prevent spreading / shearing of misinformation," he said.

And as Goncharov of FaceApp and others suggested, it may force consumers to be more skeptical and not take video and audio at face value — much as they wouldn't with a photo or screenshot today.

In January, Julian Assange read out a hash from the bitcoin blockchain (essentially a high-tech version of holding up today's newspaper) on a public livestream in a bid to prove he was still alive.

But a decade from now, if creating real-time imagery of people from scratch becomes trivial, such authentication may no longer be enough.
« última modificación: Julio 29, 2017, 19:51:28 pm por muyuu »

Tags:
 


SimplePortal 2.3.3 © 2008-2010, SimplePortal