AGI

[muyuu]

Problemas como los que comentas ya se están dando. YouTube tiene un algoritmo de censura que no es 100% infalible, lo peor está detrás cuando vas a presentar alegaciones a Google... y Google dice que no va a rectificar su decisión. Algo así como cuando impugnas una multa de tráfico puesta por un ayuntamiento, que te suelta la respuesta estándar, y que si llevas el caso al contencioso administrativo lo tienes ganado pero te hacen mear sangre para ello.

O peor que eso porque en el caso de Google a ver a qué tribunal apelas.

sí y no... efectivamente lo inmediato es que todo esto sea un catalizador de los derroteros por los que ya vamos

de momento, es gente la que te está censurando en una última instancia, y es gente armada con una serie de algoritmos y de bedeles en categoría de esbirros quienes te borran del mapa y quienes toman las decisiones sobre qué vale y qué no vale - de momento hay una cierta jerarquía principalmente humana donde está claro qué es humano y qué es herramienta - o qué es manual y qué automatizado

eso va a ir cambiando

también de momento, por lo general nos dirigimos a personas y "sabemos" que son personas - de momento normalmente estamos en lo cierto en que lo son, y de momento, por lo general, no preferimos que no lo sean

eso me temo que también va a ir cambiando

[wanderer]

Problemas como los que comentas ya se están dando. YouTube tiene un algoritmo de censura que no es 100% infalible, lo peor está detrás cuando vas a presentar alegaciones a Google... y Google dice que no va a rectificar su decisión. Algo así como cuando impugnas una multa de tráfico puesta por un ayuntamiento, que te suelta la respuesta estándar, y que si llevas el caso al contencioso administrativo lo tienes ganado pero te hacen mear sangre para ello.

O peor que eso porque en el caso de Google a ver a qué tribunal apelas.

sí y no... efectivamente lo inmediato es que todo esto sea un catalizador de los derroteros por los que ya vamos

de momento, es gente la que te está censurando en una última instancia, y es gente armada con una serie de algoritmos y de bedeles en categoría de esbirros quienes te borran del mapa y quienes toman las decisiones sobre qué vale y qué no vale - de momento hay una cierta jerarquía principalmente humana donde está claro qué es humano y qué es herramienta - o qué es manual y qué automatizado

eso va a ir cambiando

también de momento, por lo general nos dirigimos a personas y "sabemos" que son personas - de momento normalmente estamos en lo cierto en que lo son, y de momento, por lo general, no preferimos que no lo sean

eso me temo que también va a ir cambiando

Lo de las funaciones ya sea en YouTube, Twitch o TikTok está a la orden del día, y cualquier contenido, por inocente que sea, corre el riesgo de ser desmonetizado (ahí siempre recurren a preferir tener falsos positivos a falsos negativos -.al revés que en un sistema de justicia garantista.-).

Pero claro, luego es que a ciertas tribus de la red (sobre todo los woke), les va la marcha censora más que a un niño una bolsa de chuches...

[muyuu]

Hace tiempo leí otro caso, un hombre que además de perder su cuenta de Google mandaron sus datos a los tribunales... porque guardó automáticamente fotos de su hijo de un año en la bañera. Fotos inocentes de un padre a su hijo, pero que "el algoritmo" identificó como pornografía infantil.

me ha recordado un cómic que he visto hace poco



por cierto, carnaza para el hilo de Brave New World: https://mullvad.net/en/chatcontrol

The chat control proposal does not belong in democratic societies

The European Commission is working on a legislative proposal called chat control. If the law goes into effect, all EU citizens will have their communications monitored and audited. Now is the time to stop it.

[Benzino Napaloni]

Hace tiempo leí otro caso, un hombre que además de perder su cuenta de Google mandaron sus datos a los tribunales... porque guardó automáticamente fotos de su hijo de un año en la bañera. Fotos inocentes de un padre a su hijo, pero que "el algoritmo" identificó como pornografía infantil.

me ha recordado un cómic que he visto hace poco

Un reflejo de lo que ya está pasando. No tengo noticias de que haya ocurrido con niños que ya no son bebés y que llevan el bañador puesto, pero desde luego los precedentes no son buenos.

Como dice Wanderer, al cargarse el garantismo acabas haciendo un daño enorme. ¿Qué está bien y qué está mal? ¿Y quién es el policía y el juez?

No va a ser Skynet, desde luego. Con máquinas de Von Neumann desde luego que nunca la veremos implementada. Pero por ahora sí empezamos a ver lo que el malo comentó hace ya algunas semanas. El ejemplo del despacho de abogados que automatiza trabajo, se despide a los becarios y se queda con uno con experiencia, y el día que hay que hacer ajustes o que el sistema deja de ser servible todo se cae porque ya no hay ni conocimiento ni recursos para deshacerlo.

En LinkedIn ya se van viendo comentarios de reclutadores y de empresarios diciendo que con la IA se nos va a bajar el humo a muchos curritos. No son conscientes de lo que están poniendo en marcha, Dios quiera que el fracaso sea rápido y no les dé tiempo a liarla mucho.

[wanderer]

Hace tiempo leí otro caso, un hombre que además de perder su cuenta de Google mandaron sus datos a los tribunales... porque guardó automáticamente fotos de su hijo de un año en la bañera. Fotos inocentes de un padre a su hijo, pero que "el algoritmo" identificó como pornografía infantil.

me ha recordado un cómic que he visto hace poco

Un reflejo de lo que ya está pasando. No tengo noticias de que haya ocurrido con niños que ya no son bebés y que llevan el bañador puesto, pero desde luego los precedentes no son buenos.

Como dice Wanderer, al cargarse el garantismo acabas haciendo un daño enorme. ¿Qué está bien y qué está mal? ¿Y quién es el policía y el juez?

No va a ser Skynet, desde luego. Con máquinas de Von Neumann desde luego que nunca la veremos implementada. Pero por ahora sí empezamos a ver lo que el malo comentó hace ya algunas semanas. El ejemplo del despacho de abogados que automatiza trabajo, se despide a los becarios y se queda con uno con experiencia, y el día que hay que hacer ajustes o que el sistema deja de ser servible todo se cae porque ya no hay ni conocimiento ni recursos para deshacerlo.

En LinkedIn ya se van viendo comentarios de reclutadores y de empresarios diciendo que con la IA se nos va a bajar el humo a muchos curritos. No son conscientes de lo que están poniendo en marcha, Dios quiera que el fracaso sea rápido y no les dé tiempo a liarla mucho.

Cuidado con aquello que deseas, que puede que lo consigas... 

[muyuu]

el trabajo de reclutador y el de vendehumo se puede reducir a los que sean self-employed antes de que les de tiempo a ir a hacer cola en el INEM

[Cadavre Exquis]

FTC Is Reviewing Competition in AI
Posted by msmash on Monday March 27, 2023 @02:00PM from the good-idea dept.

The US Federal Trade Commission is paying close attention to developments in artificial intelligence to ensure the field isn't dominated by the major tech platforms, Chair Lina Khan said Monday. From a report:

"As you have machine learning that depends on huge amounts of data and also a huge amount of storage, we need to be very vigilant to make sure that this is not just another site for big companies to become bigger," Khan said at an event hosted by the Justice Department in Washington. Khan said companies offering AI tools need to make sure they are not "overselling or overstating" what their products can do. "Sometimes we see claims that are not fully vetted or not really reflecting how these technologies work," Khan said, noting recent guidance from the agency on AI-enabled products. "Developers of these tools can potentially be liable if technologies they are creating are effectively designed to deceive."

Saludos.

[Cadavre Exquis]

Europol Sounds Alarm About Criminal Use of ChatGPT, Sees Grim Outlook
Posted by msmash on Monday March 27, 2023 @02:40PM from the PSA dept.

EU police force Europol on Monday warned about the potential misuse of artificial intelligence-powered chatbot ChatGPT in phishing attempts, disinformation and cybercrime, adding to the chorus of concerns ranging from legal to ethical issues. From a report:

"As the capabilities of LLMs (large language models) such as ChatGPT are actively being improved, the potential exploitation of these types of AI systems by criminals provide a grim outlook," Europol said as it presented its first tech report starting with the chatbot. It singled out the harmful use of ChatGPT in three areas of crime. "ChatGPT's ability to draft highly realistic text makes it a useful tool for phishing purposes," Europol said. With its ability to reproduce language patterns to impersonate the style of speech of specific individuals or groups, the chatbot could be used by criminals to target victims, the EU enforcement agency said.

Saludos.

[saturno]

Pues anticipo un auge imparable de las comunicaciones encriptadas.

Sölo con la necesidad de comunicar la clave pública,  ya tienes que singularizarte con tus interlocutores.
Respectivamente.

Aplica a correos electrónicos, incluso a foros como XTE.
En cambio, las redes sociales van a ser presas de IA

Imagina la relación con la administración. Por canales criptados y delegando a cada usario la necesidad de comunicar su clave pública

Veremos formarse submundos de comunicacion humana encriptada.
Y el paso siguiente, va a ser que esos submundos de comunicación humana se convertirán en sociedades politicas.

Y las principales victimas serán las propias empresas que vivan o trabajen con IA

No es ciencia ficción, aunque esos submundos de comunicación "libre" han sido descritos en la CF (SF con C en español)

Si, creo que va a ser muy divertido.

[Benzino Napaloni]

En LinkedIn ya se van viendo comentarios de reclutadores y de empresarios diciendo que con la IA se nos va a bajar el humo a muchos curritos. No son conscientes de lo que están poniendo en marcha, Dios quiera que el fracaso sea rápido y no les dé tiempo a liarla mucho.

Cuidado con aquello que deseas, que puede que lo consigas... 

Pues tendrías que verlos. Más de uno lleva tiempo diciendo que si hay una burbuja de salarios, que si esto no puede ser... Y también quejas de que los "candis" les rechazan.

Sí, tengo por ahí en el baúl del correo uno de una reclutadora que por error me metió en copia diciendo "os paso unos candis más por aquí".

Si se saca la guadaña a pasear, no sé yo quién va a caer antes.

[muyuu]

Pues anticipo un auge imparable de las comunicaciones encriptadas.

Sölo con la necesidad de comunicar la clave pública,  ya tienes que singularizarte con tus interlocutores.
Respectivamente.

Aplica a correos electrónicos, incluso a foros como XTE.
En cambio, las redes sociales van a ser presas de IA

Imagina la relación con la administración. Por canales criptados y delegando a cada usario la necesidad de comunicar su clave pública

Veremos formarse submundos de comunicacion humana encriptada.
Y el paso siguiente, va a ser que esos submundos de comunicación humana se convertirán en sociedades politicas.

Y las principales victimas serán las propias empresas que vivan o trabajen con IA

No es ciencia ficción, aunque esos submundos de comunicación "libre" han sido descritos en la CF (SF con C en español)

Si, creo que va a ser muy divertido.

todas las comunicaciones a mi nombre desde hace más de 20 años van firmadas criptográficamente y a menudo cifradas también (lo de encriptadas yo lo doy por válido pero mucha gente se me enfada)

sin embargo yo esto no lo veo como protección de la IA, igual me estoy perdiendo algo(?) ... la IA puede cifrar mensajes también

igual vas por el lado de quienes se quieran hacer pasar por otros? ("spoofing")

si lo dices por eso, sin duda lo vamos a tener encima también no porque no fuera posible antes, sino porque se va haciendo mucho más sencillo y accesible

por ejemplo:

https://playground.play.ht/listen/1554 (usando https://playground.play.ht/  esto es un servicio para decir cosas arbitrarias con cualquier voz que le suministres con solamente unos segundos de audio)

[Cadavre Exquis]

https://www.pressreader.com/spain/la-vanguardia-dinero/20230326/page/17/textview

GPT-4 está aquí: ¿qué vamos a hacer?

Saludos.

[Cadavre Exquis]

https://twitter.com/emulenews/status/1639962592473956353

Saludos.

[pollo]

https://www.pressreader.com/spain/la-vanguardia-dinero/20230326/page/17/textview

GPT-4 está aquí: ¿qué vamos a hacer?

Saludos.

A mí en particular me llama la atención lo del tema legal.

En un ámbito en el que hay que ser puntilloso e ir a la literalidad del texto, vamos a utilizar una técnica que es fundamentalmente incontrolable.

Eso quiere decir que van a aparecer casos en los que cuando haya que hacer un recurso o cualquier texto del estilo, habrá que sacar el texto que se quiera y luego habrá que repasar minuciosamente el texto de salida, no vaya a ser que por una alteración de la redacción o directamente una invención del modelo la interpretación del texto en cuestión no tenga nada que ver con lo que debería decir, o también citas no literales de la ley, inferencias ilógicas, y otro montón de artefactos conocidos que no se deben a lo "currado" que está el modelo, sino a la limitación de esta técnica.

Si yo escribo un documento, y luego tengo que pasar horas revisando que no haya una trampa, y además esa trampa está hábilmente camuflada por la aparente coherencia del texto, en la práctica no estoy mejor que antes. De hecho estoy peor.

En la programación pasa tres cuartos de lo mismo, aunque en este caso los errores son más sencillos de observar, ya que el programa no hará lo que debe hacer. Lo que mucha gente no parece haberse enterado es que escribir código es mucho más fácil que leerlo. Si tengo que andar buscando zancadillas en el código, no ahorro gran cosa. Además, la fiabilidad de lo producido dependerá directamente de lo frecuentes y correctas que sean las respuestas relacionadas en el corpus de texto que utilice para entrenar el modelo (y obviando asuntos como la arquitectura general del proyecto en el que esté trabajando, que el modelo no tiene cómo saber). Por lo que si lo que le solicito es algo único o en un lenguaje poco popular, va a fallar mucho más.

Esta situación será similar a la de los coches autónomos: está de puta madre el 99% del tiempo, pero el 1% restante que sería trivial para un humano para la máquina es imposible o confuso por que esta técnica no da para más (falta, como digo, el sentido común y no hay un modelo mental como tal). Y resulta que ese 1%, el "trivial", es imprescindible para que sirva para tareas significativas o críticas.

[pollo]

https://twitter.com/emulenews/status/1639962592473956353

Saludos.

Lo que no acabo de ver es el "de aquí a octubre puede mejorar mucho".

No entendemos que no es una mejora cuantitativa (vamos a entrenarlo mogollón y a meterle el triple de CPU), sino cualitativa. Se le está pidiendo al modelo que imite la inteligencia sin tener una mente, solo a base de correlacionar texto.

Se le está pidiendo a un niño que toque la guitarra bien después de ver muchas veces a alguien tocarla. Faltan muchos ingredientes para que el resultado sea que acabe tocando bien.