El fin del trabajo

[Benzino Napaloni]

Las tomas falsas del robot que reemplazará a los obreros (dentro de bastante tiempo)

 

[Cadavre Exquis]

https://www.expansion.com/juridico/actualidad-tendencias/2023/02/06/63e13c97468aebe12a8b45be.html

Saludos.

[Saturio]

https://www.expansion.com/juridico/actualidad-tendencias/2023/02/06/63e13c97468aebe12a8b45be.html

Saludos.

Resulta evidente que es algo que se tiene que implementar sobre una "base de conocimiento" propia. Por ejemplo una gran base jurídica como la de algunas editoriales que no sólo contenga la legislación sino sentencias de todos los ámbitos (y monografías y "papers" jurídicos).

Funcionaria tal y como ahora los abogados utilizan esas herramientas, con búsquedas, solo que las búsquedas podrían hacerse en forma de lenguaje humano (y las respuestas, claro). Por último la aplicación para abogados requeriría que las respuestas contuviesen citas y referencias (links) a los textos originales para que todo fuese comprobado, para que una mente humana validase la consistencia de todo.

En resumen, sería como tener un asistente muy listillo y muy rápido.

Por cierto, de dónde sale la base de conocimiento de ChatGPT ¿Alguien puede estar utilizando todos esos documentos que tan alegremente subimos a la nube? ¿O podría hacerlo?

[pollo]

https://www.expansion.com/juridico/actualidad-tendencias/2023/02/06/63e13c97468aebe12a8b45be.html

Saludos.

Resulta evidente que es algo que se tiene que implementar sobre una "base de conocimiento" propia. Por ejemplo una gran base jurídica como la de algunas editoriales que no sólo contenga la legislación sino sentencias de todos los ámbitos (y monografías y "papers" jurídicos).

Funcionaria tal y como ahora los abogados utilizan esas herramientas, con búsquedas, solo que las búsquedas podrían hacerse en forma de lenguaje humano (y las respuestas, claro). Por último la aplicación para abogados requeriría que las respuestas contuviesen citas y referencias (links) a los textos originales para que todo fuese comprobado, para que una mente humana validase la consistencia de todo.

En resumen, sería como tener un asistente muy listillo y muy rápido.

Por cierto, de dónde sale la base de conocimiento de ChatGPT ¿Alguien puede estar utilizando todos esos documentos que tan alegremente subimos a la nube? ¿O podría hacerlo?

Yo apostaría a que una de las fuentes es esa. Probablemente hayan metido webs seleccionadas (entre ellas StackOverflow y similares). Si no, ni de coña tendrían el volumen de texto necesario y de la gran variedad de temas que "soporta".

[sudden and sharp]

Con el código fuente en la mano... no habría que apostar, solo estudiarlo.

[Saturio]

Con el código fuente en la mano... no habría que apostar, solo estudiarlo.

Que tampoco sería tan raro dados los términos y condiciones de muchos de esos sitios.
Y otras fuentes quizás menos "traicioneras" pero en las que los "cedentes" podrían no estar contando con ese tipo de usos futuros cuando firmaron. Estoy pensando que, por ejemplo, Google ha colaborado con muchas universidades de todo el mundo para temas de su distribución editorial.

[el malo]

Con el código fuente en la mano... no habría que apostar, solo estudiarlo.

Que tampoco sería tan raro dados los términos y condiciones de muchos de esos sitios.

Sí pero cuidado porque si la IA se alimenta de toda la bazofia sin verificar que hay en repositorios de dudosa calidad, va a ser peor el remedio que la enfermedad. El viejo mantra "garbage in = garbage out"

Viendo los artículos de la institución China que producía papers falsos a cambio de pasta y que han pasado por artículos legítimos, miedo me da que se acepte a pies juntillas lo que salga de la IA sin que un humano lo verifique

[sudden and sharp]

Con el código fuente en la mano... no habría que apostar, solo estudiarlo.

Que tampoco sería tan raro dados los términos y condiciones de muchos de esos sitios.

Sí pero cuidado porque si la IA se alimenta de toda la bazofia sin verificar que hay en repositorios de dudosa calidad, va a ser peor el remedio que la enfermedad. El viejo mantra "garbage in = garbage out"

Viendo los artículos de la institución China que producía papers falsos a cambio de pasta y que han pasado por artículos legítimos, miedo me da que se acepte a pies juntillas lo que salga de la IA sin que un humano lo verifique

¿Que parte de que las decisiones son nuestras y no de la máquina no ha quedado meridianamente clara?

[el malo]

Con el código fuente en la mano... no habría que apostar, solo estudiarlo.

Que tampoco sería tan raro dados los términos y condiciones de muchos de esos sitios.

Sí pero cuidado porque si la IA se alimenta de toda la bazofia sin verificar que hay en repositorios de dudosa calidad, va a ser peor el remedio que la enfermedad. El viejo mantra "garbage in = garbage out"

Viendo los artículos de la institución China que producía papers falsos a cambio de pasta y que han pasado por artículos legítimos, miedo me da que se acepte a pies juntillas lo que salga de la IA sin que un humano lo verifique

¿Que parte de que las decisiones son nuestras y no de la máquina no ha quedado meridianamente clara?

Hombre Sudden, para eso tiene que irse usted a sitios donde haya sentido común.

"Y la culpa no fue mía, yo hice lo que me dijo la IA.."

[Saturio]

Con el código fuente en la mano... no habría que apostar, solo estudiarlo.

Que tampoco sería tan raro dados los términos y condiciones de muchos de esos sitios.

Sí pero cuidado porque si la IA se alimenta de toda la bazofia sin verificar que hay en repositorios de dudosa calidad, va a ser peor el remedio que la enfermedad. El viejo mantra "garbage in = garbage out"

Viendo los artículos de la institución China que producía papers falsos a cambio de pasta y que han pasado por artículos legítimos, miedo me da que se acepte a pies juntillas lo que salga de la IA sin que un humano lo verifique

¿Que parte de que las decisiones son nuestras y no de la máquina no ha quedado meridianamente clara?

Hombre Sudden, para eso tiene que irse usted a sitios donde haya sentido común.

"Y la culpa no fue mía, yo hice lo que me dijo la IA.."

Yo insisto que el negocio no va a estar en un Chatbot libre que corre sobre no se sabe que base de conocimientos (exceptuando usos gratuitos como el que se integre con navegadores y cosas así).
Tu comprarás el Chatbot y lo harás correr sobre tu base de conocimiento para que de respuestas en lenguaje humano y reciba preguntas hechas en lenguaje humano.
Con el ejemplo de los abogados, ya están tardando Francis Lefebvre y otras editoriales por el estilo en comprárselo y vender un producto que puede ser de puta madre (con la precaución de ver qué firman, no vaya a ser que los del software les roben la base de datos).

[el malo]

Con el código fuente en la mano... no habría que apostar, solo estudiarlo.

Que tampoco sería tan raro dados los términos y condiciones de muchos de esos sitios.

Sí pero cuidado porque si la IA se alimenta de toda la bazofia sin verificar que hay en repositorios de dudosa calidad, va a ser peor el remedio que la enfermedad. El viejo mantra "garbage in = garbage out"

Viendo los artículos de la institución China que producía papers falsos a cambio de pasta y que han pasado por artículos legítimos, miedo me da que se acepte a pies juntillas lo que salga de la IA sin que un humano lo verifique

¿Que parte de que las decisiones son nuestras y no de la máquina no ha quedado meridianamente clara?

Hombre Sudden, para eso tiene que irse usted a sitios donde haya sentido común.

"Y la culpa no fue mía, yo hice lo que me dijo la IA.."

Yo insisto que el negocio no va a estar en un Chatbot libre que corre sobre no se sabe que base de conocimientos (exceptuando usos gratuitos como el que se integre con navegadores y cosas así).
Tu comprarás el Chatbot y lo harás correr sobre tu base de conocimiento para que de respuestas en lenguaje humano y reciba preguntas hechas en lenguaje humano.
Con el ejemplo de los abogados, ya están tardando Francis Lefebvre y otras editoriales por el estilo en comprárselo y vender un producto que puede ser de puta madre (con la precaución de ver qué firman, no vaya a ser que los del software les roben la base de datos).

Saco mi bola de cristal y me pongo mi gorrito de adivino.

Los bufetes de abogado con más músculo financiero se comprarán su IA y se gastarán una pasta en digitalizar sus bases de datos y hacerlas leíbles para la IA.
Al principio estos bufetes tendrán una ventaja competitiva enorme. Donde antes había 1 abogado y 5 pasantes haciendo el trabajo sucio, ahora sólo hay 1 abogado y 1 pasante. Cuanto más se pule la IA, menos hace falta el pasante. Al final un abogado y un buscador pueden hacer el trabajo.

Avanzamos y tenemos un bufete muy eficiente en el que un puñado de abogados gana casos como churros. Hemos llegado al equilibirio del rendimiento del abogado y al límite de la economía IA, pero por supuesto los jefes quieren más. Al abogado se le piden más casos y más facturación.

El abogado empieza a confiar en la IA para los casos más fáciles y se centra en los más difíciles. Al principio las cosas van bien pero llega un punto en que los casos fáciles se complican. Un bufetillo de tres al cuarto encuentra el agujero que la IA no pudo encontrar y el abogado no tuvo tiempo de revisar a conciencia.

El abogado y el bufete entran en pánico y dan la voz de alarma. Se pide a los abogados que revisen bien todos los casos y que no confíen en la IA. El problema es que el abogado tiene tiempo de revisar minuciosamente 7 casos a la semana y la productividad que se le exigía era de 20. El bufete empieza a tambalearse.

No hay pasantes ni suficientes juniors para lidiar con la carga de trabajo. No hay remplazo de calidad suficiente ni fuera ni dentro de la empresa. El bufete colapsa.

¿De dónde saco este escenario? De mi propia experiencia profesional y de ver las barbaridades que se han hecho con automatizaciones, externalizaciones y otras herramientas milagrosas a lo largo de mi carrera.

En el hilo de PPCC se puso un gráfico de los trabajadores necesarios para llegar al millón de USD de facturación. La productividad es demencial y aún así los inversores no están contentos con los retornos y piden más y más. La avaricia ha fagocitado el modelo. La IA le puede dar una buena puntilla.

Y todo esto sin contar posibles fallos en la IA, hackeos o una caída en la red de varias horas que de al traste con tu modelo de "just-in-time" del conocimiento.

[wanderer]

Que contraten a Saul Goodman para trampear a gusto a tanto picapleitos engominao... 

[Benzino Napaloni]

Saco mi bola de cristal y me pongo mi gorrito de adivino.

Los bufetes de abogado con más músculo financiero se comprarán su IA y se gastarán una pasta en digitalizar sus bases de datos y hacerlas leíbles para la IA.
Al principio estos bufetes tendrán una ventaja competitiva enorme. Donde antes había 1 abogado y 5 pasantes haciendo el trabajo sucio, ahora sólo hay 1 abogado y 1 pasante. Cuanto más se pule la IA, menos hace falta el pasante. Al final un abogado y un buscador pueden hacer el trabajo.

Avanzamos y tenemos un bufete muy eficiente en el que un puñado de abogados gana casos como churros. Hemos llegado al equilibirio del rendimiento del abogado y al límite de la economía IA, pero por supuesto los jefes quieren más. Al abogado se le piden más casos y más facturación.

El abogado empieza a confiar en la IA para los casos más fáciles y se centra en los más difíciles. Al principio las cosas van bien pero llega un punto en que los casos fáciles se complican. Un bufetillo de tres al cuarto encuentra el agujero que la IA no pudo encontrar y el abogado no tuvo tiempo de revisar a conciencia.

El abogado y el bufete entran en pánico y dan la voz de alarma. Se pide a los abogados que revisen bien todos los casos y que no confíen en la IA. El problema es que el abogado tiene tiempo de revisar minuciosamente 7 casos a la semana y la productividad que se le exigía era de 20. El bufete empieza a tambalearse.

No hay pasantes ni suficientes juniors para lidiar con la carga de trabajo. No hay remplazo de calidad suficiente ni fuera ni dentro de la empresa. El bufete colapsa.

¿De dónde saco este escenario? De mi propia experiencia profesional y de ver las barbaridades que se han hecho con automatizaciones, externalizaciones y otras herramientas milagrosas a lo largo de mi carrera.

En el hilo de PPCC se puso un gráfico de los trabajadores necesarios para llegar al millón de USD de facturación. La productividad es demencial y aún así los inversores no están contentos con los retornos y piden más y más. La avaricia ha fagocitado el modelo. La IA le puede dar una buena puntilla.

Y todo esto sin contar posibles fallos en la IA, hackeos o una caída en la red de varias horas que de al traste con tu modelo de "just-in-time" del conocimiento.

A los primeros a los que se les ha hecho la boca agua por todo esto ha sido a los hackers, justo cuando han oído hablar de la automatización de la programación.

Sin una IA perfecta, y eso a día de hoy con la base que tenemos es simplemente imposible, saldrían agujeros como puños. Casi como invitasen al hacker a ponerse cómodo, que está en su casa. Con cervecita y todo.


La automatización tiene ese gran problema que comentas. Está para aligerar carga de trabajo, pero jamás, jamás sustituye al 100% al trabajador humano.

¿Dónde está el fallo? Pues ni siquiera está en la tecnología. Está en la puñetera avaricia. Piensen en toda la tecnificación que se ha conseguido, especialmente desde las revoluciones industriales. En cualquier relato utópico se nos vende un futuro donde las máquinas harán todo el trabajo mientras nosotros nos rascamos la barriga. Pero la realidad es otra, cuando el currito ya va ligero y cómodo, pues "eso no puede ser, éste podría estar haciendo más". Cuando precisamente buena parte de la habilidad de trabajo mental viene cuando uno está fresco. No a las once de la noche después de haber echado ya más horas que el reloj.

Y por supuesto está el punto débil número 1 del Just in Time: jamás, jamás hay que ir al 100% todo el tiempo. El 100% de la capacidad es para dar respuesta a un pico, no para estar así siempre. Si siempre vas apurando, te has quedado sin margen de error o de imprevistos, y una sola cosa que no salga bien puede tumbar la cadena entera.

Pero se ve que nunca nos pegamos suficientes tortazos para aprender.

[pollo]

Con el código fuente en la mano... no habría que apostar, solo estudiarlo.

El código fuente es relativamente irrelevante. Tienes un "modelo" que es a todos los efectos una caja negra, resultado del "entrenamiento" (es un archivo de pesos de unos pocos GB sin un significado concreto ni datos visibles). El código aquí es lo de menos, que se limita a "ejecutar" el modelo, el cual es intercambiable.
No es posible saber qué fuentes se han utilizado nada más que deduciéndolo indirectamente y de forma limitada. El propio ChatGPT no te puede dar una lista de fuentes (lo hace, pero son puestas a bulto si coinciden más o menos con el tema).

Esto es un aspecto fundamental de esta tecnología, y es algo de lo que se lleva hablando años y una de las limitaciones que tiene. Entrenar un modelo es un camino de ida, con una vuelta muy complicada (si es que es posible en absoluto).

Si uno mira el modelo de Dall-E no va a encontrar una sóla imagen codificada en ningún formato reconocible. Sin embargo la información que tiene el modelo permite construir imágenes conceptualmente. Pasa un poco como con el ADN, que la única forma de saber qué ser vivo va a salir es "ejecutarlo", o como nuestro propio cerebro, que aunque sepamos lo que hacen las neuronas no sabemos a día de hoy qué sentido tiene cada interacción ni cómo funciona el conjunto.

[pollo]

Con el código fuente en la mano... no habría que apostar, solo estudiarlo.

Que tampoco sería tan raro dados los términos y condiciones de muchos de esos sitios.

Sí pero cuidado porque si la IA se alimenta de toda la bazofia sin verificar que hay en repositorios de dudosa calidad, va a ser peor el remedio que la enfermedad. El viejo mantra "garbage in = garbage out"

Viendo los artículos de la institución China que producía papers falsos a cambio de pasta y que han pasado por artículos legítimos, miedo me da que se acepte a pies juntillas lo que salga de la IA sin que un humano lo verifique

¿Que parte de que las decisiones son nuestras y no de la máquina no ha quedado meridianamente clara?

Hombre Sudden, para eso tiene que irse usted a sitios donde haya sentido común.

"Y la culpa no fue mía, yo hice lo que me dijo la IA.."

Yo insisto que el negocio no va a estar en un Chatbot libre que corre sobre no se sabe que base de conocimientos (exceptuando usos gratuitos como el que se integre con navegadores y cosas así).
Tu comprarás el Chatbot y lo harás correr sobre tu base de conocimiento para que de respuestas en lenguaje humano y reciba preguntas hechas en lenguaje humano.
Con el ejemplo de los abogados, ya están tardando Francis Lefebvre y otras editoriales por el estilo en comprárselo y vender un producto que puede ser de puta madre (con la precaución de ver qué firman, no vaya a ser que los del software les roben la base de datos).

Como dije en el mensaje anterior, aquí hay un error de concepto fundamental.

El código que ejecuta el modelo no tiene gran cosa. Lo relevante y lo que cuesta pasta, conocimientos y tiempo es diseñar y entrenar el modelo, y hacerlo bien.
La "base de conocimientos" no es simplemente meterle un corpus de texto y ya está. Hay que saber lo que se hace o puedes caer en una de las numerosas trampas en las que pueden caer estos modelos y que los hacen inútiles (sobreadaptación, GIGO, etc.)

Y bueno, una vez que tienes una técnica para seleccionar la información, pasarte unas semanas calculando el modelo en un cluster.

El mérito de ChatGPT no es el programa que ejecuta el modelo. Es el modelo. El negocio (al menos hasta que se masifique) es precisamente crearlos.