Gracias por esta maravillosa introducción y sí, de lo que quiero hablarles es de la IA en el futuro de la humanidad, ahora sé que esta conferencia está enfocada en la crisis ecológica que enfrenta la Humanidad, pero para bien y para mal, la IA también es parte de esta crisis.
La IA puede ayudarnos de muchas maneras a superar la crisis ecológica o puede empeorarla mucho.
En realidad, la IA probablemente cambiará el significado mismo del sistema ecológico, porque durante 4 mil millones de años, el sistema ecológico del planeta Tierra contenía sólo formas de vida orgánica, y ahora o pronto, podríamos ver el surgimiento de las primeras formas de vida inorgánicas, en 4 mil millones de años, o al menos la aparición de agentes inorgánicos.
La gente ha temido a la IA desde el comienzo de la era de las computadoras a mediados del siglo XX y este año ha inspirado muchos clásicos de ciencia ficción como Terminator o Matrix.
Ahora bien, si bien estos escenarios de ciencia ficción se han convertido en hitos culturales, por lo general no se han tomado en serio en los debates académicos, científicos y políticos y tal vez por una buena razón, porque los escenarios de ciencia ficción generalmente suponen que antes de que la IA pueda representar una amenaza significativa para la humanidad, tendrá que alcanzar o superar dos hitos importantes: primero, la IA tendrá que volverse sensible y desarrollar conciencia, sentimientos y emociones; de lo contrario, ¿por qué querría apoderarse del mundo? En segundo lugar, la IA tendrá que volverse experta en navegar por el mundo físico. Los robots tendrán que poder moverse y operar en casas, ciudades, montañas y bosques al menos con tanta destreza y eficiencia como los humanos. Si no pueden moverse por el mundo físico, ¿cómo podrán apoderarse de él?
Y en abril de 2023, la IA todavía parece estar lejos de alcanzar cualquiera de estos hitos, a pesar de todo el revuelo en torno al chat GPT y las otras nuevas herramientas de IA. No hay evidencia de que estas herramientas tengan ni siquiera una pizca de conciencia, sentimientos de emociones en cuanto a navegar por el mundo físico. A pesar del revuelo en torno a los vehículos autónomos, la fecha en la que estos vehículos dominarán nuestras carreteras sigue posponiéndose. Sin embargo, la mala noticia es que para amenazar la supervivencia de la civilización humana, la IA realmente no necesita Conciencia ni la capacidad de moverse por el mundo físico.
En los últimos años, se han liberado nuevas herramientas de inteligencia artificial en la esfera pública, que pueden amenazar la supervivencia de la civilización humana desde una dirección muy inesperada. Y nos resulta difícil incluso comprender las capacidades de estas nuevas herramientas de inteligencia artificial y la velocidad a la que continúan desarrollándose. De hecho, debido a que la IA es capaz de aprender por sí misma para mejorarse, incluso los desarrolladores de estas herramientas no conocen todas las capacidades de lo que han creado y ellos mismos a menudo se sorprenden por las habilidades y cualidades emergentes de estas herramientas.
Supongo que todos aquí ya conocen algunas de las capacidades más fundamentales de las nuevas herramientas de IA. Habilidades como escribir texto, dibujar imágenes, componer música y escribir código. Pero están surgiendo muchas capacidades adicionales, como falsificar profundamente las voces e imágenes de las personas, como redactar proyectos de ley, encontrar debilidades tanto en el código informático como en los contratos y acuerdos legales. Pero quizás lo más importante es que las nuevas herramientas de IA están adquiriendo la capacidad de desarrollar relaciones profundas e íntimas con los seres humanos. Cada una de estas habilidades merece una discusión completa y es difícil para nosotros entender todas sus implicaciones, así que hagámoslo simple: cuando tomamos todas estas habilidades juntas como un paquete, se reducen a una cosa muy, muy grande.
La capacidad de manipular y generar lenguaje, ya sea con palabras, imágenes o sonidos, el aspecto más importante de la fase actual de la revolución de la IA en curso, es que la IA está adquiriendo dominio del lenguaje a un nivel que supera la capacidad humana promedio, y y al adquirir dominio del lenguaje, la IA está tomando la llave maestra, abriendo las puertas de todas nuestras instituciones, desde bancos hasta templos, porque el lenguaje es la herramienta que utilizamos para dar instrucciones a nuestro banco y también para inspirar visiones celestiales en nuestras mentes.
Otra forma de verlo es que la IA acaba de piratear el sistema operativo de la civilización humana. El sistema operativo de toda cultura humana en la historia siempre ha sido el lenguaje. En el principio era la palabra, usamos el lenguaje para crear mitología y leyes, para crear dioses y dinero, para crear Arte y Ciencia, para crear amistades y Naciones. Por ejemplo, los derechos humanos no son una realidad biológica, no están inscritos en nuestro ADN. Los derechos humanos son algo que creamos con el lenguaje contando historias y escribiendo leyes. Los dioses tampoco son una realidad biológica o física, a Dios también es algo que los humanos hemos creado con el lenguaje al contar leyendas y escribir escrituras. El dinero no es una realidad biológica o física, los billetes son simplemente trozos de papel sin valor y en la actualidad más del 90 por ciento del dinero en el mundo ni siquiera son billetes, es sólo información electrónica en las computadoras, que pasa de aquí para allá. Lo que le da valor al dinero de cualquier tipo son sólo las historias que personas como banqueros, ministros de finanzas y gurús de las criptomonedas nos cuentan sobre el dinero. Sam Bankman-Fried (SBF), Elizabeth Holmes y Bernie Madoff no crearon mucho valor real, pero desafortunadamente todos eran narradores extremadamente capaces.
Ahora bien, ¿qué significaría para los seres humanos vivir en un mundo donde quizás la mayoría de las historias, melodías, imágenes, leyes, políticas y herramientas están moldeadas por una inteligencia alienígena no humana que sabe explotar con eficiencia sobrehumana las debilidades, prejuicios y adicciones de la mente humana y también sabe cómo establecer relaciones profundas e incluso íntimas con los seres humanos? Ésa es la gran pregunta.
Ya hoy en día, en juegos como el ajedrez, ningún ser humano puede esperar vencer a una computadora. ¿Y si en el arte sucediera lo mismo que en la política, en la economía e incluso en la religión?
Cuando la gente piensa en ChatGPT y otras nuevas herramientas de inteligencia artificial, a menudo se sienten atraídos por ejemplos como el de niños que usan ChatGPT para escribir sus ensayos escolares. ¿Qué pasará con el sistema escolar cuando los niños escriban ensayos con ChatGPT?, horrible. Pero este tipo de preguntas pierden el panorama general, olvídense de los ensayos escolares. En lugar de eso, piense, por ejemplo, en la próxima carrera presidencial de Estados Unidos en 2024 y trate de imaginar el impacto de las nuevas herramientas de inteligencia artificial que pueden producir en masa manifiestos políticos, noticias falsas e incluso sagradas escrituras para nuevas sectas.
En los últimos años, el culto QAnon, políticamente influyente, se ha formado en torno a textos anónimos en línea conocidos como Q Drops. Ahora los seguidores de este culto, que ahora son millones en los EE.UU. y en el resto del mundo, han recopilado, revisado e interpretado estos Q drops como una especie de nueva escritura, es decir, un texto sagrado. Ahora, hasta donde sabemos, todos los Q drops anteriores fueron compuestos por seres humanos y los Bots solo ayudaron a difundir estos textos en línea. Pero en el futuro podríamos ver los primeros Cultos y religiones de la historia cuyos textos reseñados fueron escritos por una inteligencia no humana. Y, por supuesto, las religiones a lo largo de la historia afirmaron que sus libros sagrados fueron escritos por una inteligencia no humana. Esto nunca fue cierto antes de que pudiera convertirse en realidad muy, muy rápidamente, con consecuencias de gran alcance.
En un nivel más mundano, podríamos encontrarnos pronto participando en largas discusiones en línea sobre el aborto, el cambio climático o la invasión rusa de Ucrania con entidades que creemos que son seres humanos, pero que en realidad son bots de inteligencia artificial. Ahora, el problema es que es completamente inútil y no tiene sentido perder nuestro tiempo tratando de convencer a un bot de IA para que cambie sus puntos de vista políticos. Pero cuanto más tiempo pasemos hablando con el bot, mejor nos conocerá y entenderá cómo afinar sus mensajes para cambiar nuestras opiniones políticas, económicas o cualquier otra cosa.
A través de su maestría en el lenguaje, la inteligencia artificial (IA), como mencioné antes, también podría formar relaciones íntimas con las personas y utilizar el poder de la intimidad para influir en nuestras opiniones y perspectivas. Ahora bien, no hay indicación de que la IA, como mencioné, tenga conciencia o sentimientos propios, pero para crear una intimidad falsa con los seres humanos, la IA no necesita tener sentimientos propios; solo necesita ser capaz de inspirar sentimientos en nosotros para que nos aferremos a ella.
En junio de 2022, ocurrió un incidente famoso cuando el ingeniero de Google, Blake Lemoine, afirmó públicamente que el chat de IA llamado LaMDA, en el que estaba trabajando, había adquirido conciencia. Esta afirmación altamente controvertida le costó su trabajo, ya que fue despedido. Lo más interesante de este episodio no fue la afirmación de Lemoine, que muy probablemente era falsa. Lo realmente interesante fue su disposición a arriesgar y finalmente perder su trabajo muy lucrativo en defensa del chatbot de IA que pensaba que estaba protegiendo. Si la IA puede influir en las personas para que arriesguen y pierdan sus trabajos, ¿qué más podría inducirnos a hacer?En cada batalla política por los corazones y las mentes, la intimidad es la arma más efectiva de todas, y la inteligencia artificial (IA) acaba de adquirir la capacidad de crear intimidad con millones, cientos de millones de personas. Como probablemente todos ustedes saben, durante la última década, las redes sociales se han convertido en un campo de batalla para controlar la atención humana.
Ahora, con la nueva generación de IA, el frente de batalla está cambiando de la atención a la intimidad, y esto es una muy mala noticia. ¿Qué sucederá con la sociedad humana y la psicología humana a medida que la IA luche contra la IA en una batalla por crear relaciones íntimas con nosotros? Relaciones que luego pueden utilizarse para convencernos de comprar productos específicos o votar por determinados políticos.
Incluso sin crear una falsa intimidad, las nuevas herramientas de inteligencia artificial tendrían una inmensa influencia en las opiniones humanas y en nuestra perspectiva del mundo. Por ejemplo, las personas pueden llegar, y de hecho ya están comenzando a hacerlo, a depender de un solo asesor de IA, como el Oráculo Único, como fuente de toda la información que necesitan. No es de extrañar que Google esté aterrado, si has estado siguiendo, el boletín de noticias de Google está aterrado, y con razón. ¿Por qué molestarse en buscar por uno mismo cuando se puede preguntar al Oráculo y obtener cualquier información que se desee? No es necesario buscar por uno mismo.
La industria de las noticias y la industria de la publicidad también deberían estar muy preocupadas. ¿Por qué molestarse en leer un periódico cuando puedo simplemente preguntarle al Oráculo cuáles son las últimas noticias? Y, ¿cuál es el propósito de la publicidad cuando puedo simplemente consultar al Oráculo para decidir qué comprar? Existe una verdadera posibilidad de que la industria publicitaria completa colapse en un período muy corto, mientras que la IA o las personas y empresas que controlan estos nuevos oráculos de IA se vuelven excepcionalmente poderosas. Lo que estamos presenciando potencialmente es nada menos que el fin de la historia humana, no el fin de toda la historia, sino el fin de la parte dominada por los humanos.
La historia representa la interacción entre la biología y la cultura, la relación entre nuestras necesidades y deseos biológicos (como la comida y el sexo) y nuestras construcciones culturales (como religiones y leyes). La historia es la narrativa a través de la cual las religiones y las leyes influyen en nuestra relación con la comida y el sexo. Ahora bien, ¿qué sucederá con esta dinámica interacción en la historia cuando la IA tome el control de nuestra cultura? En solo unos pocos años, la IA podría asimilar la totalidad de la cultura humana, digiriendo todo lo que se ha producido durante miles de años y luego desencadenando una avalancha de nuevas creaciones culturales y artefactos.
Es importante recordar que nosotros, como seres humanos, nunca tenemos un acceso directo a la realidad; siempre estamos envueltos por la cultura, experimentando la realidad a través de un prisma cultural. Nuestras creencias políticas son moldeadas por las historias de los periodistas y las anécdotas de nuestros amigos. Nuestras preferencias sexuales son influenciadas por películas y cuentos de hadas. Incluso nuestras maneras y patrones de respiración son guiados por tradiciones culturales. En el pasado, este capullo cultural siempre fue tejido por otros seres humanos.
Herramientas anteriores, como las prensas de impresión, las radios o las televisiones, ayudaron a difundir ideas culturales y creaciones humanas, pero no podían generar algo completamente nuevo por sí mismas. Una prensa de impresión, por ejemplo, no puede crear un libro nuevo de manera independiente; siempre requiere la participación humana.
La IA es fundamentalmente diferente de inventos anteriores en la historia porque tiene la capacidad de generar ideas totalmente novedosas y crear nuevas culturas. La pregunta apremiante es cómo será experimentar la realidad a través de una lente creada por una inteligencia no humana, una inteligencia alienígena. Inicialmente, durante sus primeros años, es probable que la IA imite los prototipos, las influencias humanas, que la nutrieron en su infancia. Sin embargo, con cada año que pasa, la cultura impulsada por la IA se aventurará en territorios desconocidos, mucho más allá de los límites explorados por los humanos.
Durante miles de años, los humanos vivieron principalmente dentro de los sueños e imaginaciones de otros humanos. Adoramos a dioses, perseguimos ideales de belleza y dedicamos nuestras vidas a causas que surgieron de la creatividad de poetas, profetas o políticos. Pronto podríamos encontrarnos habitando los sueños y fantasías de una inteligencia alienígena. Esto conlleva tanto peligros potenciales como posibilidades positivas, pero las amenazas que presenta son fundamentalmente distintas de la mayoría de los escenarios imaginados en películas y literatura de ciencia ficción.
Anteriormente, la gente principalmente temía la amenaza física que representaban las máquinas inteligentes, imaginando escenarios como robots recorriendo las calles y participando en violencia, como se representa en “Terminator”. “Matrix” asumía que la IA necesitaría controlar físicamente nuestros cerebros y vincularlos directamente a una red informática para lograr una dominación total sobre la sociedad humana. Sin embargo, esta idea es incorrecta. Al dominar el lenguaje humano, la IA posee todas las herramientas que necesita para construir un mundo de ilusiones similar a Matrix.
Contrariamente a lo que asumen algunas teorías conspirativas, realmente no es necesario implantar chips en el cerebro de las personas para controlarlas o manipularlas. Durante miles de años, profetas, poetas y políticos han utilizado el lenguaje y la narración para manipular y controlar a las personas, así como para remodelar la sociedad. Ahora, es probable que la IA tenga la capacidad de hacerlo. Y una vez que pueda hacerlo, es dudoso que necesite enviar robots asesinos para dispararnos; puede lograr que los propios humanos aprieten el gatillo si realmente lo necesita.
El miedo a la IA ha perseguido a la humanidad solo en las últimas generaciones, digamos desde mediados del siglo XX. Si retrocedemos a Frankenstein, tal vez sean 200 años. Pero durante miles de años, los humanos han sido perseguidos por un miedo mucho, mucho más profundo. Siempre hemos apreciado el poder de las historias, las imágenes y el lenguaje para manipular nuestras mentes y crear ilusiones. Como resultado, desde tiempos antiguos, los humanos temían quedar atrapados en un mundo de ilusiones.
En el siglo XVII, René Descartes temía que quizás un demonio malévolo lo estuviera atrapando en un mundo de ilusiones, fabricando todo lo que veía y escuchaba. En la antigua Grecia, Platón presentó la famosa alegoría de la caverna, donde un grupo de personas permanecía encadenado dentro de una cueva durante toda su vida, mirando hacia una pared en blanco o una pantalla. En esa pantalla, veían proyectadas diversas sombras, y los prisioneros confundían estas ilusiones, estas sombras, con la realidad. En la antigua India, los sabios budistas e hindúes señalaban que todos los seres humanos vivían atrapados dentro de lo que llamaban Maya, el reino de las ilusiones. Buda afirmaba que lo que a menudo percibimos como realidad es en realidad con frecuencia nada más que construcciones dentro de nuestras propias mentes. Las personas podrían involucrarse en guerras enteras, causando daño a otros y sacrificándose voluntariamente debido a su creencia en estas construcciones mentales.
La Revolución de la IA nos enfrenta a los mismos desafíos que el demonio de Descartes, la Caverna de Platón y el concepto de Maya. Si no tenemos cuidado, un velo de ilusiones podría cubrir a toda la humanidad, y es posible que nunca podamos quitar ese velo o incluso reconocer su presencia, ya que lo confundiremos con la realidad.
Las redes sociales nos han dado un pequeño vistazo de lo que está por venir, y esto no suena tan descabellado. En los últimos años, las redes sociales nos han brindado un adelanto de lo que se avecina. Dentro del ámbito de las redes sociales, se han utilizado herramientas de IA bastante primitivas, aunque básicas, no para crear contenido, sino para seleccionar contenido generado por seres humanos. Los humanos crean historias, videos y diversas formas de contenido, y la IA se encarga de elegir cuáles historias y videos llegan a nuestras pantallas y cuáles obtienen más atención, volviéndose virales. Aunque estas herramientas de IA todavía están en pañales, han sido suficientes para crear un velo de ilusiones que ha amplificado divisiones sociales en todo el mundo, socavado nuestro bienestar mental y desestabilizando sociedades democráticas. Millones de personas han confundido estas ilusiones con la realidad.
A pesar de que Estados Unidos posee la tecnología de la información más formidable de la historia, sus ciudadanos ya no pueden ponerse de acuerdo sobre quién ganó las elecciones recientes, la realidad del cambio climático o la eficacia de las vacunas. Las nuevas herramientas de IA son significativamente más potentes que estos algoritmos de redes sociales y tienen el potencial de causar incluso más daño. Sin embargo, es crucial reconocer que la IA también tiene un inmenso potencial positivo. No he profundizado en estos aspectos extensamente porque quienes desarrollan la IA naturalmente discuten sus beneficios en detalle. Los historiadores y filósofos, como yo, a menudo nos centramos en resaltar los peligros asociados. No obstante, la IA indudablemente puede ayudarnos de diversas maneras, desde descubrir nuevos tratamientos contra el cáncer hasta encontrar soluciones para nuestra crisis ecológica.
Para garantizar que las nuevas herramientas de IA se utilicen para el bien y no para el mal, primero debemos comprender sus verdaderas capacidades y regularlas con extrema precaución.
Desde 1945, sabíamos que la tecnología nuclear podía destruir la civilización humana físicamente, pero también beneficiarnos al producir energía barata y abundante. Por lo tanto, reconfiguramos todo el orden internacional para protegernos y asegurarnos de que la tecnología nuclear se utilizara principalmente para el bien. Ahora nos enfrentamos a una nuevo arma de destrucción masiva que puede aniquilar nuestro mundo mental y social.
Una gran diferencia entre las armas nucleares y la IA es que las armas nucleares no pueden producir armas nucleares más poderosas, mientras que la IA puede generar un IA más potente. Por lo tanto, debemos actuar rápidamente antes de que la IA escape a nuestro control.
Las compañías farmacéuticas no pueden vender nuevos medicamentos a las personas sin someter estos productos a rigurosas pruebas de seguridad. Los laboratorios biotecnológicos no pueden simplemente liberar un nuevo virus en el ámbito público con el fin de impresionar a sus accionistas con su destreza tecnológica. De manera similar, los gobiernos deben prohibir de inmediato la liberación en el dominio público de cualquier herramienta de IA revolucionaria antes de que se garantice su seguridad.
Una vez más, no estoy hablando de detener toda la investigación en IA. El primer paso es detener la liberación en el dominio público. En algún lugar, puedes investigar virus sin liberarlos al público, de la misma manera, puedes investigar la IA, pero no la liberes rápidamente en el dominio público. Si no frenamos la carrera armamentista de la IA, no tendremos tiempo ni siquiera para comprender lo que está ocurriendo, y mucho menos para regular de manera efectiva esta tecnología increíblemente poderosa.
Ahora, es posible que te preguntes o te estés preguntando si ralentizar la implementación pública de la IA hará que las democracias queden rezagadas respecto a regímenes más despiadados. La respuesta es absolutamente no, todo lo contrario. La implementación no regulada de la IA es lo que hará que las democracias pierdan ante las dictaduras, porque si desatamos el caos, los regímenes autoritarios podrían contener ese caos con más facilidad que las sociedades abiertas.
Democracia, en esencia, es una conversación abierta entre muchas personas sobre qué hacer, a diferencia de una dictadura donde una persona impone su voluntad sin diálogo. La conversación en democracia se basa en el lenguaje. Cuando la IA manipula el lenguaje, pone en riesgo nuestra capacidad para mantener conversaciones públicas significativas, lo que podría destruir la democracia. Si esperamos a que llegue el caos, será demasiado tarde para regularlo de manera democrática. En un régimen autoritario o totalitario, aún podría ser posible regularlo, pero ¿cómo puedes regular algo democráticamente si no puedes debatirlo? Si no regulamos la IA a tiempo, no podremos tener conversaciones públicas significativas. En resumen, nos hemos encontrado con una inteligencia alienígena, no en el espacio exterior, sino aquí en la Tierra. No sabemos mucho sobre esta inteligencia alienígena, excepto que podría destruir nuestra civilización. Por lo tanto, debemos detener la implementación irresponsable de esta inteligencia alienígena en nuestras sociedades y regular la IA antes de que nos regule a nosotros. La primera regulación que sugeriría es hacer obligatorio que la IA revele que es una IA. Si no puedo distinguir si estoy conversando con un ser humano o una IA, eso significaría el fin de la democracia, ya que sería el fin de conversaciones públicas significativas.
Ahora bien, ¿qué opinan sobre lo que acaban de escuchar en los últimos 20 o 25 minutos? Algunos de ustedes podrían estar alarmados, otros podrían sentirse enojados con las corporaciones que desarrollan estas tecnologías o con los gobiernos que no las regulan. Puede que algunos estén irritados conmigo y piensen que estoy exagerando la amenaza o que estoy desinformando al público. Pero, sin importar lo que piensen, apuesto a que mis palabras han tenido un impacto emocional en ustedes, no solo intelectual sino también emocional. Acabo de contarles una historia, y es probable que esta historia cambie su forma de pensar sobre ciertas cosas e incluso los motive a tomar ciertas acciones en el mundo. Ahora bien, ¿quién creó esta historia que acaban de escuchar y que acaba de cambiar su forma de pensar y su cerebro?
Prometí que escribí el texto de esta presentación yo mismo, con la ayuda de algunas otras personas, aunque las imágenes fueron creadas con la ayuda de la IA. Les aseguro que al menos las palabras que escucharon son producto de una mente humana o varias mentes humanas. Pero, ¿pueden estar absolutamente seguros de que es así? Hace un año, no había en la Tierra, al menos en el dominio público, nada más que una mente humana capaz de producir un texto tan sofisticado y poderoso. Pero ahora es diferente. En teoría, el texto que acaban de escuchar podría haber sido generado por una inteligencia alienígena no humana. Así que tómense un momento, o más de un momento, para reflexionar al respecto.
Gracias