Artificial – Mariano Sigman & Santiago Bilinkis

A continuación, adjunto un compendio de las notas que he tomado de forma literal del libro «Artificial» que personalmente me han parecido interesantes, además del propio recorrido del libro y del aprendizaje obtenido.

Ted Hall y Klaus Fuchs fueron exponentes cabales de la teoría de la paridad nuclear. Convencidos de que había que igualar las condiciones de juego para salvar a la humanidad de un desastre, contactaron con los soviéticos y los mantuvieron informados sobre los avances del Proyecto Manhattan.

Redes neuronales: En este nuevo abordaje ya no se observa la inteligencia humana para escribirla en un programa, sino que se pretendía ver si un cerebro digital y artificial era capaz de producir comportamientos inteligentes.

 

Lo asombroso del cerebro humano no radica en la complejidad de una neurona, sino en las capas y formas en las que se organizan miles de millones de ellas.

 

En 1966, Joseph Weizenbaum programó Eliza. Eliza conversaba por escrito con su interlocutor e intentaba dar la impresión de que comprendía sus problemas e inquietudes. Para lograr que la conversación fuese empática, y lo más humana posible el programa se valía de un algoritmo simple.

Primero reconociera alguna palabra clave y de esa palabra podría inferir el tema. Luego hacía alguna pregunta o comentario relacionado con el tema. 

Las redes neuronales artificiales se organizan en una estructura jerárquica de capas sucesivas y que en su versión más simple incluyen tres capas, una que codifica la entrada, otra intermedia que la procesa y una de sólida.

Aprendizaje por refuerzos:  el algoritmo refuerza conexiones cuando aumenta la función de valor y las cambia cuando disminuye.

Arquitectura transformer que incorpora justamente un algoritmo para decidir cuánto peso darle a diferentes palabras o elementos de la secuencia o , en otras palabras, que prestar más atención.

Los transformers funcionan en un ensamblaje de dos redes profundas, una codificadora y otra decodificadora. La codificadora recibe como entrada una frase y la analiza en múltiples pasos, decidiendo cual es la información más relevante que se guardará en la memoria para la capa siguiente. Así logra entender mejor la oración y cómo las palabras se relacionan unas con otras.

Una vez procesada la entrada de esta manera, la codificadora le pasa la decodificadora, que es una red generativa que fue entrenada para producir frases verosímiles que resultan indiscernibles de las que formularía un ser común como respuesta a la fase previa.



“No somos lo suficientemente inteligentes como para definir inteligencia” Gerry Garbulsky

Nuestro cerebro es prácticamente igual al de nuestros antecesores hace 10.000 años, lo que nos diferencia es una inteligencia cultivada y agregada en una historia educativa y cultural. La inteligencia entonces es acumulativa.

Nos inquieta que una máquina piense mejor. Porque nos toca la fibra más íntima. Serán mejores en aquella cualidad que nos hizo lo que somos.

 

La inteligencia es la herramienta con la que hemos creído gobernar el mundo e impuesto nuestra voluntad sobre los demás criaturas. Hacemos bien en temer lo que pueda pasar cuando alguien o algo nos supere, y puede ser quien decida si andamos sueltos, con correa o enjaulados.

Podemos plantear la consulta y pedirle que, antes de responder nos pregunte a nosotros todas las cuestione que considere necesarias para hacer su trabajo de la mejor manera.

LLM

Virtudes: por su estructura basada en transformers, los LLM son particularmente efectivos en todo lo relacionado con el lenguaje y la atención. Al chat también se le da bien la traducción, a fin de cuentas ese era el objetivo inicial de los transformers.

Las IA basadas en transformers tienen el potencial para convertirse en muy buen programadores. Pero son aún mejores encontrando oportunidades de optimización en el código producido por humanos.

Vicios: suelen inventar con gran facilidad todo lo que no saben. Las llamadas  “alucinaciones” son una consecuencia del propósito mismo con el que fueron construidas: engañar a una contraparte muy bien preparada para encontrar errores.

 

Son “pre-entrenados” y por lo tanto solo tienen información actualizada hasta la fecha que finaliza el entrenamiento. 

 

El premio nobel Daniel Khaneman decía que, si pudiera cambiar un único rasgo de la cognición humana, cambiaría ese exceso de confianza que nos impide reconocer lo imprecisas y aproximadas que son muchas de nuestras opiniones.

Michel de Montaigne en su ensayo sobre el arte de conversar:

  • Encontrar el orden adecuado de nuestras ideas y revisar cuidadosamente nuestros argumentos.
  • Abrazar a quien nos contradice
  • No hablar para convencer, sino para disfrutar. Apreciar el ejercicio del razonamiento.
  • Dudar de uno mismo y recordar que siempre podemos estar equivocados. 
  • Usar la conversación como un espacio vital para juzgar nuestras propias ideas.
  • Conservar un pensamiento crítico vivo.
  • Evitar prejuicios, diferenciando los ejemplos concretos de las generalizaciones.
  • Reflexionar sobre lo que hemos aprendido del otro en la conversación.

No es casual que muchas de las grandes empresas de contenido estén vinculadas a pecados capitales Netflix explota la pereza, Twitter la gula, Instagram la vanidad, Linkedin la codicia, Amazon la gula, Pinterest la envidia y PornHub la lujuria.

Plataformas como Instagram y TikTok nos proponen un juego de tres entre nuestro yo presente, la red social y nuestro yo futuro, en el que las dos primeras se comportan en contra del tercero ausente.

Si aprendemos cómo usarlas en nuestro provecho, explotaremos al máximo su potencial. Si no, ellos aprovecharán el nuestro.

 

Richard Feynman propuso el siguiente método para mejorar nuestra forma de pensar, acerca de cualquier problema. Primero intenta comprenderlo de la mejor manera; luego, cuando creemos que lo hemos entendido intenta explicarla a un niño de 10 años.

 

Producir contenido con Chat GPT es como hacer matemáticas con una calculadora: nos da el poder de tercerizar partes del desarrollo y eso nos permite llegar más lejos en nuestras creaciones.

 

Replanteemos la pregunta del arte, si el que conceptualiza o el que ejecuta por otra más simple. ¿Cuán precisa y específica es la conceptualización y cuanto sin ella no hubiese podido existir esa obra?

 

La pregunta de fondo quizá no sea tanto si es lícito o no usar ideas anteriores sino cuanto trazo propio debe tener una idea para poder considerarnos sus autores.

 

En un entorno estable como el que nos ha acompañado en la segunda mitad del siglo XX, la educación se construyó sobre una asimetría de conocimiento entre las que sabían mucho y enseñaban, y los que sabían poco y aprendieron.

 

Sedentarismo cognitivo

 

El aprendizaje solo es efectivo si quien aprende está motivado. Michael Merzenich descubrió que la mera repetición de un estímulo general no alcanza para transformar las sinapsis del cerebro.

 

Es necesario que esté procesos suceda en el mismo momento en el que se activan unas neuronas, en una región profunda del cerebro conocida como el área ventral tegmental, que producen e irrigan dopamina al resto del cerebro.

 

Examinar en tiempos de chat GPT

Dan Ariely propone recuperar la oralidad. El docente entrega al principio del semestre, un listado detallado con todas las preguntas que pueden ser parte del examen final. Habilita toda clase de material en la fase de preparación, incluyendo chat GPT. Para la evaluación es oral, lo que ubica a los alumnos en la situación de hacer uso del conocimiento adquirido sin usar esa ayuda externa.

 

La solución tiene muchas virtudes, pero también tiene un problema práctico: es poco escalable porque es muy ineficiente para el evaluador cuando se trata de casos grandes.

 

Otra estrategia similar es habilitar el uso del chat para el estudio, pero al evaluar volver al examen a libro cerrado. El problema es que este enfoque nos aleja de lo que habitualmente se nos presenta en la vida.

Lev Vygotsky introdujo el concepto de “zona de desarrollo próximo” según el cual debe haber una pequeña brecha entre aquello que el alumno puede hacer por sí solo y aquello que la exige a un mentor.

El sentido existencial amenaza con pasar, ahora de golpe, a un enorme vacío.

En un mundo donde el trabajo sea hecho con IA, ¿Quienes serán los consumidores? En un mundo donde es posible que se requiera un porcentaje pequeño de la fuerza laboral, ¿ cómo se distribuye esa fuerza?

Atenas

  • Oikos: es el espacio doméstico, el de la casa, el lugar donde ocurren los asuntos privados, de los menesteres básicos de la vida.
  • Polis: la plaza pública, el ágora. Era el espacio donde se conversaba de igual a igual, sobre lo humano y sobre la sociedad, en busca de la virtud.

Esta es la clave: la felicidad solo se da una vez emancipados de los menesteres básicos del oikos, y se da entre iguales, entre verdaderos ciudadanos.

“El trabajo resuelve tres grandes males: la necesidad, el aburrimiento y el vicio” Voltaire

 

“Resisto a todo menos a la tentación” Oscar Wilde

 

Recompensas variables e intermitentes: Es un rasgo metabólico de la dopamina y por tanto, rasgo humano universal.

 

“Toda servidumbre procede exclusivamente del consentimiento de aquellos sobre quien se ejerce el poder” Etiene de la Boétie

 

Compartir

Facebook
Twitter
Pinterest
LinkedIn

Otros artículos

Notas: Mindset – Carol S. Dweck

A continuación, adjunto un compendio de las notas que he tomado de forma literal del libro «Mindset» que personalmente me han parecido más interesantes, además