Por Yuval Noah Harari, Tristan Harris y Aza Raskin
La democracia es una conversación, la conversación se basa en el lenguaje, y cuando el lenguaje mismo es pirateado, la conversación se rompe y la democracia se vuelve insostenible. Si se llega a ese punto, no habrá retorno.
Imagine que mientras aborda un avión, la mitad de los ingenieros que lo construyeron le dicen que hay un 10 por ciento de posibilidades de que el avión se estrelle, y que usted podría morir junto con todos los demás pasajeros. ¿Todavía lo abordaría?
En 2022, se preguntó en una encuesta a más de 700 académicos e investigadores destacados detrás de las principales empresas de inteligencia artificial (IA) sobre el futuro y el riesgo de esa tecnología. La mitad de los encuestados declaró que había un 10 por ciento o más de posibilidades de extinción humana (o una pérdida de poder similar, permanente y severa) por los futuros sistemas de IA. Las empresas de tecnología que construyen los grandes modelos de lenguaje actuales están atrapadas en una carrera para poner a toda la humanidad en ese avión.
Las compañías farmacéuticas no pueden venderle a la gente nuevos medicamentos sin antes someter sus productos a rigurosos controles de seguridad. Los laboratorios de biotecnología no pueden lanzar nuevos virus a la esfera pública para impresionar a los accionistas con su magia. Asimismo, la IA, los sistemas con el poder de GPT-4 y más allá, no deben enredarse con las vidas de miles de millones de personas a un ritmo más rápido de lo que las culturas pueden absorberlos de manera segura. Una carrera para dominar el mercado no debe marcar la velocidad de implementación de la tecnología más importante de la humanidad. Debemos movernos a cualquier velocidad que nos permita hacerlo bien.
El espectro de la IA ha perseguido a la humanidad desde mediados del siglo XX, pero hasta hace poco seguía siendo una perspectiva lejana, algo que pertenece a la ciencia ficción más que a los debates científicos y políticos serios. Es difícil para nuestras mentes humanas comprender las nuevas capacidades de GPT-4 y herramientas similares, y es aún más difícil comprender la velocidad exponencial a la que estas herramientas están desarrollando capacidades más avanzadas y poderosas. Pero la mayoría de las habilidades clave se reducen a una sola cosa: la capacidad de manipular y generar lenguaje, ya sea con palabras, sonidos o imágenes.
En el principio era la palabra. El lenguaje es el sistema operativo de la cultura humana. Del lenguaje surgen el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades y las naciones y el código informático. El nuevo dominio del lenguaje de la IA significa que ahora puede piratear y manipular el sistema operativo de la civilización. Al adquirir dominio del lenguaje, la IA está apoderándose de la llave maestra de la civilización, desde las bóvedas de los bancos hasta los santos sepulcros.
¿Qué significaría para los humanos vivir en un mundo donde un gran porcentaje de historias, melodías, imágenes, leyes, políticas y herramientas están moldeadas por una inteligencia no humana, que sabe cómo explotar con eficiencia sobrehumana las debilidades, sesgos y adicciones de los humanos, sabiendo cómo establecer relaciones íntimas con personas? En juegos como el ajedrez, ningún ser humano puede aspirar a vencer a una computadora. ¿Qué sucede cuando ocurre lo mismo en el arte, la política o la religión?
La IA podría devorar rápidamente toda la cultura humana, todo lo que hemos producido durante miles de años, digerirla y comenzar a brotar una avalancha de nuevos artefactos culturales. No solo ensayos escolares sino también discursos políticos, manifiestos ideológicos, libros sagrados para nuevos cultos. Para 2028, es posible que la carrera presidencial de EEUU ya no esté dirigida por humanos.
Los humanos a menudo no tienen acceso directo a la realidad. Estamos envueltos por la cultura, experimentando la realidad a través de un prisma cultural. Nuestras opiniones políticas están formadas por los informes de los periodistas y las anécdotas de los amigos. Nuestras preferencias sexuales están modificadas por el arte y la religión. Ese capullo cultural ha sido tejido hasta ahora por otros humanos. ¿Cómo será experimentar la realidad a través de un prisma producido por una inteligencia no humana?
Durante miles de años, los humanos hemos vivido dentro de los sueños de otros humanos. Hemos adorado dioses, perseguido ideales de belleza y dedicado nuestras vidas a causas que se originaron en la imaginación de algún profeta, poeta o político. Pronto también nos encontraremos viviendo dentro de las alucinaciones de la inteligencia no humana.
La franquicia “Terminator” mostraba robots corriendo por las calles y disparando a la gente. “The Matrix” asumió que para obtener el control total de la sociedad humana, la IA primero tendríamos que obtener el control físico de nuestros cerebros y conectarlos directamente a una red informática. Sin embargo, simplemente al adquirir dominio del lenguaje, la IA tendría todo lo necesario para contenernos en un mundo de ilusiones similar a Matrix, sin dispararle a nadie ni implantar ningún chip en nuestros cerebros. Si es necesario disparar, la IA podría hacer que los humanos apretaran el gatillo, simplemente contándonos la historia correcta.
El espectro de estar atrapado en un mundo de ilusiones ha perseguido a la humanidad mucho más tiempo que el espectro de la IA pronto nos encontraremos por fin cara a cara con el demonio de Descartes, con la caverna de Platón, con los mayas budistas. Una cortina de ilusiones podría descender sobre toda la humanidad, y es posible que nunca más podamos rasgar esa cortina, o incluso darnos cuenta de que está allí.
Las redes sociales fueron el primer contacto entre IA y la humanidad, y la humanidad perdió. El primer contacto nos ha dado el sabor amargo de lo que vendrá. En las redes sociales, la IA primitiva no se usó para crear contenido sino para seleccionar contenido generado por el usuario. la IA detrás de nuestros feeds de noticias sigue eligiendo qué palabras, sonidos e imágenes llegan a nuestras retinas y tímpanos, en función de seleccionar aquellos que obtendrán la mayor viralidad, la mayor reacción y el mayor compromiso.
Si bien es muy primitivo, la IA detrás de las redes sociales fue suficiente para crear una cortina de ilusiones que aumentó la polarización social, socavó nuestra salud mental y deshizo la democracia. Millones de personas han confundido estas ilusiones con la realidad. Estados Unidos tiene la mejor tecnología informática de la historia, pero los ciudadanos estadounidenses ya no pueden ponerse de acuerdo sobre quién ganó las elecciones. Aunque ahora todo el mundo es consciente de las desventajas de las redes sociales, no se han abordado porque muchas de nuestras instituciones sociales, económicas y políticas se han enredado con ellas.
Los modelos de lenguaje grande son nuestro segundo contacto con IA No podemos darnos el lujo de perder de nuevo. Pero, ¿sobre qué base deberíamos creer que la humanidad es capaz de alinear estas nuevas formas de IA para nuestro beneficio? Si continuamos con los negocios como de costumbre, la nueva IA las capacidades se volverán a utilizar para obtener beneficios y poder, incluso si se destruyen inadvertidamente los cimientos de nuestra sociedad.
La IA, de hecho, tiene el potencial de ayudarnos a vencer el cáncer, descubrir medicamentos que salven vidas e inventar soluciones para nuestras crisis climática y energética. Hay otros innumerables beneficios que no podemos empezar a imaginar. Pero no importa cuán alto sea el rascacielos de beneficios de la IA, si se ensambla sobre cimientos que se derrumban.
El momento de contar con IA es antes de que nuestra política, nuestra economía y nuestra vida cotidiana se vuelvan dependientes de ella. La democracia es una conversación, la conversación se basa en el lenguaje, y cuando el lenguaje mismo es pirateado, la conversación se rompe y la democracia se vuelve insostenible. Si esperamos a que se produzca el caos, será demasiado tarde para remediarlo.
Pero hay una pregunta que puede permanecer en nuestras mentes: si no vamos lo más rápido posible, ¿no se arriesgará Occidente a perder ante China? No. El despliegue y enredo de la IA sin control. en la sociedad, liberando poderes divinos desvinculados de la responsabilidad, podría ser la razón por la que Occidente pierde ante China.
Todavía podemos elegir qué futuro queremos con la IA, Cuando los poderes divinos se combinan con la responsabilidad y el control correspondientes, podemos darnos cuenta de los beneficios que la IA promete.
Hemos convocado una inteligencia alienígena. No sabemos mucho al respecto, excepto que es extremadamente poderosa y nos ofrece regalos deslumbrantes, pero también podría hackear los cimientos de nuestra civilización. Hacemos un llamado a los líderes mundiales para que respondan a este momento al nivel del desafío que presenta. El primer paso es ganar tiempo para actualizar nuestras instituciones del siglo XIX y aprender a dominar la IA antes de que nos domine.
Fuente: Infobae
Por 
POR María Ximena Perez para 