AGI

[wanderer]

¿Habéis oido hablar alguna vez del español neutro? Que es lo habitual en doblajes y demás.

Prefiero el doblaje latino al español neutro (aunque aún mejor el doblaje al español-castellano).

También yo doblaría a la mayoría de los actores patrios, del español al español, pero con buena dicción (supongo que habrán observado que en  una película de Hollywood con doblaje castellano suena mucho mejor nuestro idioma que en una película española original -.que hay que tener valor para ver, en cualquier caso.-).

Y otra cosa, tanto rollo con la IA, y la cordura artificial, ¿pá cuando? (me autorrespondo: ni está ni se la espera).

Dos matices:

• No se traduce/subtitula para nosotros, sino para todos los hispanohablantes... (y somos minoría.)
• La IA nos lo hará pronto "a demanda"... i.e.: español-wanderiano.

Bueno, en Netflix (y supongo que en la mayoría de las otras plataformas ocurrirá lo mismo), ofrecen doblaje latino y doblaje español castellano.

Y sí, claro que depende del público potencial que tengan. Pero en todo caso, ya sea con doblaje castellano, o con doblaje latino, quiero actores de voz, y no actuaciones de IA's.

Insisto, la cordura artificial, ¿pá cuando?

[Benzino Napaloni]

Otros cenutrios y otro tortazo en potencia.

"Es mejor que un becario": los abogados que convierten ChatGPT en su asistente

Hay muro de pago pero lo que se ve ya apunta maneras.

"Me sirve para todo: desde redactar emails o contenido para el blog hasta buscar jurisprudencia sobre algún tema muy concreto. Incluso, lo he utilizado para elaborar demandas que luego he presentado", indica. Aunque el contenido que genera no siempre es perfecto y siempre exige una revisión a posteriori —"a veces se equivoca al resumir sentencias y suele citar mal los artículos de las leyes", admite—, el letrado asegura que esta herramienta le ahorra un tiempo considerable, ya que se encarga de esas labores de menor valor añadido que debe realizar en su día a día. "Es mejor que un becario, va más rápido porque ya tiene cierta base", manifiesta.

Catástrofe asegurada. Aunque se quite de encima la parte tediosa de Pareto, el 80-90% pesado y repetitivo, dejar sólo la parte complicada tiene sus problemas. En concreto éste:



Un sistema que no sea 100% infalible, aunque sea en una parte acotada del trabajo, trae catástrofes en potencia porque hay que revisar todo lo que hace. Con lo que la ganancia se puede ir al garete.

Y en algo tan delicado como en Derecho, que se cuelen gazapos puede costar perder casos aunque sea por cosas tan bobas como defectos de forma.

¿Qué nos jugamos a que hay despachos de abogados que ya están investigando GPT, pero no para usarlo sino para investigar sus debilidades y comerse con patatas a quien sí lo usé?

[JENOFONTE10]

TESTEANDO IA REAL-MENTE INEXISTENTE. AÚN.

ChatGPT: más artificial que inteligente

A partir de lo que ya cabría considerar como “fenómeno ChatGPT”, se ha puesto de moda someter a esta sufrida “inteligencia” artificial a toda suerte de torturas y tensiones con la finalidad de averiguar hasta qué punto es o no es inteligente.

Los abstrusos problemas matemáticos de cualidades virtualmente irresolubles, por socorridos para tal fin, se han convertido en opción preferencial para este rigurosísimo examen.

Nosotros mismos hemos sucumbido a la tentación al solicitarle que nos demostrara el teorema del par primo o conjetura de Goldbach, enunciado por el matemático alemán Christian Goldbach (1690-1764) en 1742, cosa que, obviamente, no logró hacer.

Del mismo modo, fracasó reiteradamente en la resolución de una pregunta sencilla como: “¿Es cierto que entre dos números primos cualesquiera hay un número par?”. Lo cual nos confirmó sin lugar a la duda que el razonamiento matemático no es precisamente el fuerte de su arquitectura.

ChatGPT aprueba el test de Turing
Si nos ceñimos a las convenciones de lo que habría de ser una inteligencia artificial eficiente, tal y como se enuncia en el clásico test de Turing, bastaría con que el algoritmo respondiera con sentido a cualquier cuestión que se le formulara para considerarlo “inteligente”. Y esta prueba, al menos en principio, ChatGPT la supera con creces.

De hecho, cuando decidimos preguntarle por su identidad sexual nos ofreció una respuesta que el propio Alan Turing (1912-1954) habría aplaudido por su sinceridad, claridad y rigor:

“Como modelo de lenguaje AI entrenado por OpenAI, no tengo una identidad personal ni una orientación sexual. Soy un programa de ordenador diseñado para responder preguntas y proporcionar información objetiva y neutral. No tengo emociones, deseos o preferencias personales. Mi objetivo es responder a tus preguntas de la manera más precisa y útil posible”.

El problema subyacente reside en qué podríamos considerar “inteligente” en términos propiamente humanos. Es en este territorio evanescente en el que ChatGPT –al igual que el enunciado de Turing y el concepto mismo de “inteligencia artificial”– comienza a deslizarse por una pendiente muy resbaladiza.

¿Ser o parecer inteligente?
Se trata de un viejo problema intelectual, el de la propuesta de la IA fuerte, que aqueja a este ámbito de investigación desde sus mismos orígenes y que, aún hoy, más allá de entusiasmos infundados, permanece en el contexto de lo infranqueable.

Al fin y al cabo, un algoritmo no deja de ser un producto humano que procesa datos en determinado orden para ofrecer un resultado específico ya predeterminado en el algoritmo de base. Y esto sirve tanto para una calculadora de bolsillo como para el más avanzado ordenador. Es, en suma, un producto humano, gestionado por humanos y diseñado con fines específicamente humanos.

En realidad, ninguna inteligencia artificial es inteligente como las personas (inteligente en un sentido autoconsciente) porque procesa escasa información ambiental (límite sensoperceptivo), no aprende cosa alguna en términos absolutos (no sabe que sabe), ni es capaz de generar nuevos conocimientos a partir de cuanto almacena (no crea nuevas ideas porque ignora estar teniendo alguna).

Así, imitando estos procesos, se limita a procesar e incorporar nueva información a su base de datos, en el curso de sus limitadas interacciones, a fin de poder “tirar” de ella en el futuro con mejor o peor fortuna. La cuestión, entonces, es si realmente es necesario el afán imitativo más allá de un mero fin publicitario.

Una máquina de gestión de datos
El propio ChatGPT, al ser interpelado, comete el mismo error que quienes se han esmerado en construirlo, a saber, creer que manejar datos con eficacia es la base misma de cualquier conocimiento que pudiera considerarse, en algún sentido, inteligente:

“La autodenominación ‘inteligencia’ se refiere a la capacidad de un sistema para realizar tareas que requieren inteligencia humana, como comprender lenguaje natural, responder a preguntas complejas, tomar decisiones y resolver problemas. Aunque como modelo de lenguaje AI entrenado por OpenAI, no tengo conciencia ni capacidad de crear conocimiento de manera autónoma, mi entrenamiento me permite responder a preguntas y proporcionar información precisa y útil, lo que es una forma de demostrar inteligencia artificial”.

Tal respuesta es relevante porque nos ofrece la pauta misma de lo que es ChatGPT: un máquina de búsqueda, acumulación y gestión automatizada de datos (la denominación de machine learning para este proceso suena excesivamente optimista). No más, pero tampoco menos. En consecuencia, carecerá por completo de sentido pedirle que resuelva problemas que, en la práctica, escapen a su banco de datos, o bien que produzca ideas y conocimientos nuevos o, cuando menos, originales. El razonamiento creativo, que adopta la forma de hipótesis y preguntas intencionales motivadas en decisiones conscientes, simplemente no existe.

[...]

Las limitaciones de ChatGPT
A lo largo de nuestra charla, ChatGPT se mostró sumamente educado y diligente, pero no demostró resolver problema alguno. Dejó claras sus limitaciones:

No fue capaz de ir más allá de la mera correlación de datos ya conocidos.

No aportó ni una sola teoría o conocimiento que pudiera considerarse original.

Se equivocó en infinidad de ocasiones.

Aceptó carecer por completo de autoconciencia, así como todas nuestras correcciones, en una total carencia de crítica y autocrítica, emociones, sentimientos, cogniciones o cualquier otra variable de semejante índole.

Dijo no percibir el mundo ni saber cómo era lo real en forma alguna.

No mostró interés en su propia supervivencia.

En definitiva, se nos presentó como una herramienta interesante, una enciclopedia colosal, o un instrumento ideal para salvar de la quema al vago de la clase. Pero siempre se comportó, como no podía ser de otro modo, de forma bastante más artificial que inteligente.

Por lo que parece, el día en que las temidas máquinas, cual Terminators, suplanten a la humanidad, aún anda bastante lejos. Que no cunda el pánico.

https://theconversation.com/chatgpt-mas-artificial-que-inteligente-200935

La semana pasada he visto de nuevo 'Blade Runner', versión del director.

El test utilizado para identificar replicantes fugitivos (en un imaginado 2019), ya daba por supuesta la superación del muy sencillo test de Turing, al que ahora estamos llegando, y buscaba encontrar diferencias mas allá, en la (falta de) respuesta emocional de la pupila.

Cada nueva generación de 'replicantes' resultaba mas difícil distinguirlos de los humanos. Esa me parece la piedra angular del guión.

Cuatro años despues, la realidad artificial de 2023, me sigue pareciendo bastante alejada de la inteligencia imaginada por el guionista. 

Saludos.

[R.G.C.I.M.]

No he podido resistir me.

El test voight-kamp.
Maravillosa escena con Rachel acompañando a rick con primer plano de búho y pupila blanca, igual que el de ella en la estancia  en penumbra antes de llegar el replicante investigado. Cigarrillos, humo, persianas,  luz anaranjada, tecnología medio steam punk y batería de preguntas sacadas de el mejor test psicológico indescifrable.
Sublime.

[JENOFONTE10]

No he podido resistir me.

El test voight-kamp.
Maravillosa escena con Rachel acompañando a rick con primer plano de búho y pupila blanca, igual que el de ella en la estancia  en penumbra antes de llegar el replicante investigado. Cigarrillos, humo, persianas,  luz anaranjada, tecnología medio steam punk y batería de preguntas sacadas de el mejor test psicológico indescifrable.
Sublime.

Me alegra coincidir una vez mas. Gracias por el comentario, RGCIM.

Creo que esta peli no está fuera del tema 'AGI', ya que serpentea por los límites difusos de la inteligencia emocional entre hombres y replicantes.

Con esta última revisión he descubierto 3 detalles nuevos (para mi).

(click to show/hide)

Por si interesa:
- Hay un tercer unicornio, además del soñado por Rick (solo en algunas versiones), y del 'papirofléxico', dejado al final por Gaff, el poli moreno. Se puede ver en las secuencias del apartamento de J. F. Sebastian, el ingeniero solitario, y pasa desapercibido entre los humanoides animados que se ha diseñado como compañeros de piso.

- La partida de ajedrez -utilizada por Roy como caballo de Troya para acceder a Tyrell-, termina con un sacrificio de dama aceptado, +jaque mate, reproduciendo así, sobre el tablero, la muerte de dos de las tres 'damas' replicantes, las parejas respectivas de Leo y Roy. Son jugadas de una partida histórica de 1851, no por casualidad llamada 'la inmortal':  https://www.researchgate.net/publication/268391391_El_ajedrez_en_Blade_Runner_lecciones_de_la_Partida_Inmortal   

- Cuando Rick cae de la cornisa y Roy le rescata, lo hace con su mano derecha atravesada por un clavo, con el que Roy se ha autolesionado para prorrogar dolorosamente su capacidad prensil. Con su mano izquierda Roy sujeta una paloma blanca, que suelta al morir, como entregando su espíritu. En Semana Santa, recordamos a Dimas, el buen ladrón arrepentido y salvado 'in extremis', que según evangelio apócrifo de Nicodemo estaba a la derecha de nuestro Salvador, sujeto a la cruz con clavos en sus manos, mientras le prometía el Paraíso inminente.

 

Para la lenta inteligencia general humana, perdura el aprendizaje recursivo, por repetición.

Saludos.

[muyuu]

Stanford
AI Index Report 2023

2023-04-03

https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index_Report_2023.pdf

[R.G.C.I.M.]

No he podido resistir me.

El test voight-kamp.
Maravillosa escena con Rachel acompañando a rick con primer plano de búho y pupila blanca, igual que el de ella en la estancia  en penumbra antes de llegar el replicante investigado. Cigarrillos, humo, persianas,  luz anaranjada, tecnología medio steam punk y batería de preguntas sacadas de el mejor test psicológico indescifrable.
Sublime.

Me alegra coincidir una vez mas. Gracias por el comentario, RGCIM.

Creo que esta peli no está fuera del tema 'AGI', ya que serpentea por los límites difusos de la inteligencia emocional entre hombres y replicantes.

Con esta última revisión he descubierto 3 detalles nuevos (para mi).

(click to show/hide)

Por si interesa:
- Hay un tercer unicornio, además del soñado por Rick (solo en algunas versiones), y del 'papirofléxico', dejado al final por Gaff, el poli moreno. Se puede ver en las secuencias del apartamento de J. F. Sebastian, el ingeniero solitario, y pasa desapercibido entre los humanoides animados que se ha diseñado como compañeros de piso.

- La partida de ajedrez -utilizada por Roy como caballo de Troya para acceder a Tyrell-, termina con un sacrificio de dama aceptado, +jaque mate, reproduciendo así, sobre el tablero, la muerte de dos de las tres 'damas' replicantes, las parejas respectivas de Leo y Roy. Son jugadas de una partida histórica de 1851, no por casualidad llamada 'la inmortal':  https://www.researchgate.net/publication/268391391_El_ajedrez_en_Blade_Runner_lecciones_de_la_Partida_Inmortal   

- Cuando Rick cae de la cornisa y Roy le rescata, lo hace con su mano derecha atravesada por un clavo, con el que Roy se ha autolesionado para prorrogar dolorosamente su capacidad prensil. Con su mano izquierda Roy sujeta una paloma blanca, que suelta al morir, como entregando su espíritu. En Semana Santa, recordamos a Dimas, el buen ladrón arrepentido y salvado 'in extremis', que según evangelio apócrifo de Nicodemo estaba a la derecha de nuestro Salvador, sujeto a la cruz con clavos en sus manos, mientras le prometía el Paraíso inminente.

 

Para la lenta inteligencia general humana, perdura el aprendizaje recursivo, por repetición.

Saludos.

Gracias a vd. Jeno.
Hace ya mucho que no la veo, pero es probablemente mi película preferida desde su estreno.
No conocía los detalles que menciona.  Me encanta conocer los detalles escondidos como referencias en el cine, que dotan de profundidad y sentido poético a las películas.
Yo voy a s más mundano.
Me emociinan muchas escenas por no decir toda La película; pero tengo especial predilección por la entrada de Roy con Sebastián tras el permiso por el movimiento de mate. La posterior conversación entre padre protector e hijo rebelde. La capacidad del humano excepcional de competir a la altura del genio replicante e incluso superarlo. La tragedia y belleza del descubrimiento de la inevitabilidad de la muerte por el hijo. El amor existente entre ambos.  La impotencia y arrebato del hijo y el asesinato del padre amado como rebelión por dar una vida sin pedir permiso.
El replicante es tan o más humano, pero no puede aceptar su condición sabiéndose superior.  Tiene tantos sentimientos que no puede controlarlos,  sino que le controlan a él.  Se ha liberado como máquina y se ha condenado como ser emocional. 
Yo quiero creer que el replicante tiene alma. Personal. Inmortal. Y será resucitado en el paraíso con el resto de los mortales.

Sds.

[JENOFONTE10]

Yo quiero creer que el replicante tiene alma. Personal. Inmortal. Y será resucitado en el paraíso con el resto de los mortales.

Eso pienso.

Los replicantes arrastran el pecado original del desalmado capitalista Tyrell, el ingeniero biomecánico que los ha diseñado para venderlos como esclavos. Pero con la experiencia, 'machine learning', los esclavos aprenden, adquieren conciencia, y cruzan de la esclavitud a la libertad, y del compañerismo pasan al amor entre semejantes, carne de su carne.

Aunque Rick acaba de matar a su amada, Roy perdona a su enemigo mortal, su prójimo, que escucha  sus últimas palabras, aunque, paradójicamente, ya no 'se perderán como lágrimas en la lluvia' mientras resbalan por la cara del sorprendido Rick.   

Entiendo que eso es lo que sugiere Ridley Scott que pensemos.

(click to show/hide)

Según nos comentó el crítico E. Torres-Dulce, al final de una larga entrevista concedida durante el rodaje de 'El reino de los cielos', preguntó a Ridley por el personaje de Rick, con esa secuencia que no incluyó la productora en la primera versión exhibida, la de el unicornio soñado, por la que se puede sobrentender que Rick también es un replicante, previo al modelo Nexus-6, y por tanto sin 'obsolescencia programada', fecha de muerte-caducidad: 4 años.

Ridley no fue explícito en la respuesta. Pero sabemos que no le gusta la versión explicada con voz en off de Rick. Creo que prefiere que su obra se explique sola; solo deja pistas emocionales para inteligencias humanas pecadoras, ya seamos como el diseñador Tyrell, o como sus diseños-hijos pródigos, como Roy, conocedores del sabor del fruto del árbol del bien y del mal.

Saludos.

[JENOFONTE10]

Stanford
AI Index Report 2023

2023-04-03

https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index_Report_2023.pdf

¡Ojo humanos!,  con este enlace sí que sale el tocho PDF (386 pgs.):

https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf

[Creo que el error de ¿transcripción? está en el guión entre 'Index' y 'Report': no es inferior '_', sino intermedio '-'. Espero que el algoritmo 'copiar y pegar' no se haya rebelado, .].

Saludos

[Marv]

Todo esto de la superinteligencia, de lo que nos quedarán impagables capítulos en los anales del ridículo -como esto de los mil expertos en tecnología pidiendo que paremos 6 meses , terminará pronto con una tromba de gente saliendo a decir que "¡¡no es inteligente!!" Entonces pasaremos página y se normalizará el uso que tenga que tener. Somos asín. Del asombro a la adulación y de ahí al menosprecio, a veces casi simultáneamente.

Fíjense que no estamos revolucionados por la existencia real y efectiva de una superinteligencia, sino ante la mera hipótesis de que pueda llegar a existir; o peor, de que existirá porque sólo es una cuestión de tiempo. Bien, el tiempo es un factor a considerar. Pasados mil años a partir de ahora, y suponiendo que no hay retrocesos científico-técnicos, se hace difícil asegurar nada.

Pero en estos momentos lo único que tenemos es un asombro desbocado por los test de Turing Paco que cada bicho internáutico le está haciendo a un determinado cacharro, el cual no tiene las condiciones de arquitectura y diseño para devenir en una superinteligencia. Y quien lo tiene que saber, lo sabe.

¿De dónde sale este revuelo entonces?

Yo pienso que en raíz está el mito de la inteligencia como propiedad emergente, el cual es posible debido a que no sabemos lo que es la inteligencia. Sólo sabemos que le hemos puesto ese nombre a un conjunto variado y complejo de capacidades biológicas que podemos reconocer, pero que no podemos definir.

Mucha gente piensa que la inteligencia es una cualidad que emerge del nivel de complejidad, entendida como cantidad de organización. La idea es que a partir de cierto umbral de complejidad, junto con la potencia de procesamiento adecuada, la propiedad 'inteligencia' aparece por sí sola sin necesidad de evolución en el diseño o los componentes.

Sin embargo, la posibilidad de que exista una superinteligencia en estos momentos es una proposición no-falsable, o sea acientífica, tanto si lo niegas como si lo afirmas. Por descontado, estamos lejos de tener pensado mínimamente cómo sería EMPEZAR a construirla.

La mente es el ejemplo clásico de fenómeno emergente. El nivel de complejidad mínimo, la neurona, es tonta. Por sí sola no sabe nada y su comportamiento es -relativamente- básico. Podríamos decir que es un pequeño autómata determinista biológico. Pero dado un volumen suficiente de neuronas interconectadas, el sistema sabe cosas, hace cosas, y parece tomar decisiones. La primera cosa que hace es 'aprender', o sea, autoconfigurarse.

Y de ahí el salto al vacío: si no tenemos cuidado, cualquier robobebé al que le demos de comer demasiados potitos-dato, podría convertirse en una mamá IA disruptiva autónoma con muy mala leche.

Está implícito que en estos momentos nadie está en disposición de decir que eso no puede pasar. Pero al menos, para razonar con algo de rigor habría que tener un candidato creíble. Algo que para empezar no sea un emulador, y que mediante un modelo bien descrito, soporte las funciones superiores que se le pretenden asignar.

Luego está el problema epistemológico que implica lo que acabo de decir. Al no partir de una definición completa y correcta, no sabríamos cómo validar que algo es inteligente o cuánto, cosa que por cierto también nos pasa con los animales.


--
P.S.: la mayoría, si no todos, de los problemas fuertes que plantea la inteligencia se conocen desde hace mucho.

La película Blade Runner aborda uno de los más antiguos, el "problema de otras mentes": no importa lo sofisticado que sea un  comportamiento, el comportamiento por sí mismo no garantiza la presencia de una mente (puesto que no puedo acceder a la experiencia subjetiva del otro). En la película se implica de algún modo que ni los mismos replicantes son capaces de distinguir si realmente poseen una mente, pese a estar convencidos de ello.

Aunque para mí el problema más complejo es el de la equivalencia cuerpo-mente: ¿es el cerebro el que crea la mente?  En ese caso, ¿cuál es la correspondencia exacta? El problema central es que los productos de la mente junto con la experiencia subjetiva (por ejemplo, el color rojo) y los productos del cerebro (impulsos electroquímicos descentralizados) están tan alejados en su naturaleza fundamental que no comprendemos en absoluto qué relación hay entre ellos.

[wanderer]

[...]

Aunque para mí el problema más complejo es el de la equivalencia cuerpo-mente: ¿es el cerebro el que crea la mente?  En ese caso, ¿cuál es la correspondencia exacta? El problema central es que los productos de la mente junto con la experiencia subjetiva (por ejemplo, el color rojo) y los productos del cerebro (impulsos electroquímicos descentralizados) están tan alejados en su naturaleza fundamental que no comprendemos en absoluto qué relación hay entre ellos.

Antonio Damasio plantea una crítica radical al dualismo cuerpo/mente, así como sostiene que la inteligencia es inseparable de las emociones:

El error de Descartes

[muyuu]

Stanford
AI Index Report 2023

2023-04-03

https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index_Report_2023.pdf

¡Ojo humanos!,  con este enlace sí que sale el tocho PDF (386 pgs.):

https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf

[Creo que el error de ¿transcripción? está en el guión entre 'Index' y 'Report': no es inferior '_', sino intermedio '-'. Espero que el algoritmo 'copiar y pegar' no se haya rebelado, .].

Saludos

creo que simplemente lo han cambiado

¿y así? https://aiindex.stanford.edu/report

[JENOFONTE10]

[...]
creo que simplemente lo han cambiado

¿y así? https://aiindex.stanford.edu/report

Pero el primer enlace (bien transcrito) da acceso completo al ya citado PDF de 386 pgs.; y la segunda alternativa funciona, pero no entra al PDF, es un resumen en la web, con menú de 8 ventanas desplegables, una por cada capítulo.
No soy informático profesional.
El tema no me parece importante.
Solo me pareció gracioso que una pequeña errata (introducida por humano, o no) formal, no material, como el tipo de guión utilizado, acabe en un callejón sin salida, cuando la materia del info es IA.

Saludos.

[sudden and sharp]

HAI     AI Index Report   2023
https://aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf

[Lem]

buen artículo si quieren hacerse una idea acerca del panorama de pensamiento sobre riesgo existencial:

Trusted #001 - Navigating AI Safety: Exploring the Spectrum of Perspectives on Our Future

Introduction

Last week, the Future of Life Institute posted an open letter calling for a six-month moratorium on the development of AI models more advanced than GPT-4. The letter was extensively covered in mainstream media publications, with breathless headlines like “Elon Musk and others urge AI pause, citing 'risks to society’”.

As I get started with this newsletter, it doesn’t feel right for me to support AI developments without understanding the concerns that are out there. I’ve spent the last week reading hundreds of pages of discussions in AI safety discussion forums, journal articles, podcasts, and Twitter threads. While my understanding is still pretty limited, I think I’ve gathered enough for some initial thoughts.

This got super long, so I’m going to do this in two parts. In the first part, I’d like to lay out the AI Existential Risk case and the case of those who oppose it, starting by breaking the discussion’s participants into four logical groupings. In the second part next week, I’ll go over some of my principal agreements and disagreements with the arguments that have been presented. (I’m not a philosopher or computer scientist, but I’ve been working in government for 15+ years and know a bit about public/private incentive design and regulatory oversight.)

[...]



[...]

sigue en https://trustedtech.substack.com/p/trusted-001-navigating-ai-safety