08/09/2024
Yuval Noah Harari alerta que una bomba nuclear no decide a quién matar pero un dron autónomo sí: fragmentos de su nuevo libro
:quality(85)/cloudfront-us-east-1.images.arcpublishing.com/infobae/IGLLYRVV4ZEAFLNETJ5K6OXON4.jpg)
Fuente: telam
¿Podemos confiar en los algoritmos informáticos para tomar decisiones sensatas y construir un mundo mejor? El consagrado historiador israelí, autor de “Sapiens”, piensa el futuro en el trabajo que se publicará esta semana
>Es noticia que Yuval Noah Harari saque un libro nuevo. El historiador israelí es uno de los grandes best sellers del mundo. Libros suyos como Sapiens o De animales a dioses cambiaron, para mucho, la manera de ver la historia o de vernos a nosotros mismos. Como cuando enseñó, por ejemplo, que los homo sapiens -nosotros- todavía tenemos algo de neandertales. Ahora, este martes, sale Nexus, que se presenta nada menos que como Una breve historia de las redes de información desde la Edad de Piedra hasta la IA. Y las antenas del mundo vuelven a apuntar a él.
Yuval Noah Harari ha conquistado la atención de grandes líderes. Barack Obama, Mark Zuckerberg y Bill Gates han recomendado sus libros, y su análisis sobre el futuro de la humanidad es consultado en foros con presidentes y mandatarios. Historiador de formación, Harari se ha convertido en una de las voces más agudas y provocadoras de nuestro tiempo y, como tal, no se priva de plantear preguntas profundas sobre la tecnología, la inteligencia artificial y el destino de nuestra especie.En 2022,-Tenemos que regular estas tecnología pero ningún país puede hacerlo solo. Ahora se habla de la producción de armas autónomas, robots que matan. Si tratás de regular esta tecnología sólo en tu país, no funciona. Porque otros países van a seguir usándola y pronto vos también vas a hacerlo, no querés quedar atrás.
La posibilidad política de hacer esto, los peligros que se enfrentan, lo que el futuro puede ganar de la tecnología todos fueron temas que Harari siguió desarrollanod hasta Nexus.Aquí, algunos fragmentos del libro que está por salirA lo largo de la historia, un buen número de tradiciones han creído que un defecto letal en nuestra naturaleza nos incita a andar detrás de poderes que no sabemos manejar. El mito griego de Faetón nos habla de un muchacho que descubre que es hijo de Helios, el dios sol. Ansioso por demostrar su origen divino, Faetón se atribuye el privilegio de conducir el carro del sol. Helios le advierte que ningún humano puede controlar a los caballos celestes que tiran del carro solar. Pero Faetón insiste, hasta que el dios sol cede. Después de elevarse orgulloso en el cielo, Faetón acaba por perder el control del carro. El sol se desvía de su trayectoria, abrasa toda la vegetación, provoca gran cantidad de muertes y amenaza con quemar la Tierra misma. Zeus interviene y alcanza a Faetón con un rayo. El presuntuoso humano cae del cielo como una estrella fugaz, envuelto en llamas. Los dioses retoman el control del cielo y salvan el mundo.Dos mil años después, cuando la Revolución Industrial daba sus primeros pasos y las máquinas empezaban a sustituir a los humanos en numerosas tareas, Johann Wolfgang von Goethe publicó un texto admonitorio similar titulado «El aprendiz de brujo». El poema de Goethe (que posteriormente se popularizó en la versión animada de Walt Disney protagonizada por Mickey Mouse) cuenta cómo un brujo ya anciano deja su taller en manos de un joven aprendiz, a quien pide que, en su ausencia, se encargue de tareas como traer agua del río. El aprendiz decide facilitarse las cosas y, recurriendo a uno de los conjuros del brujo, lanza un hechizo sobre una escoba para que vaya a por el agua. Pero el aprendiz no sabe cómo detener la escoba, que, incansable, trae cada vez más agua, lo que amenaza con inundar el taller. Presa del pánico, el aprendiz corta la escoba encantada en dos con un hacha solo para ver que cada mitad se convierte en otra escoba. Ahora hay dos escobas encantadas que inundan el taller con cubos de agua. Cuando el viejo brujo regresa, el aprendiz le suplica ayuda: «Los espíritus a los que invoqué […] ahora no puedo librarme de ellos». De inmediato, el brujo deshace el hechizo y detiene la inundación. La lección para el aprendiz —y para la humanidad— es clara: nunca recurras a poderes que no puedas controlar.¿Qué nos dicen las fábulas conminatorias del aprendiz y de Faetón en el siglo XXI? Es obvio que los humanos nos hemos negado a hacer caso de sus advertencias. Ya hemos provocado un desequilibrio en el clima terrestre y puesto en acción a miles de millones de escobas encantadas, drones, chatbots y otros espíritus algorítmicos con capacidad para escapar a nuestro control y desatar una inundación de consecuencias incalculables.El mito de Faetón y el poema de Goethe no proporcionan un consejo útil porque malinterpretan la manera en que los humanos solemos hacernos con el poder. En ambas fábulas, un único humano adquiere un poder enorme, pero después se ve corrompido por la soberbia y la codicia. La conclusión es que nuestra psicología individual imperfecta provoca que abusemos del poder. Lo que este análisis aproximado pasa por alto es que el poder humano nunca es el resultado de una iniciativa individual. El poder siempre surge de la cooperación entre un gran número de personas.
Por consiguiente, no es nuestra psicología individual lo que provoca que abusemos del poder. Al fin y al cabo, junto con la codicia, la soberbia y la crueldad, los humanos somos capaces de amar, de compadecernos, de ser humildes y de sentir alegría. Sin duda, entre los peores miembros de nuestra especie abundan la codicia y la crueldad, que llevan a los malos actores a abusar del poder. Pero ¿por qué elegirían las sociedades humanas encomendar el poder a sus peores representantes? Por ejemplo, en 1933 la mayoría de los alemanes no eran psicópatas. Entonces, ¿por qué votaron a Hitler?En épocas recientes, la humanidad ha experimentado un aumento sin precedentes en la cantidad y la velocidad de la producción de información. Cualquier teléfono inteligente contiene más información que la antigua Biblioteca de Alejandría y permite a su propietario entrar en contacto instantáneo con miles de millones de personas de todo el mundo. Pero, con tanta información circulando a velocidades impresionantes, la humanidad se halla más cerca que nunca de la aniquilación.
A pesar de —o quizá debido a— la acumulación de datos, seguimos arrojando a la atmósfera gases de efecto invernadero, contaminamos ríos y mares, talamos bosques, destruimos hábitats enteros, condenamos a innumerables especies a la extinción y ponemos en peligro los cimientos ecológicos de nuestra especie. También producimos armas de destrucción masiva cada vez más poderosas, desde bombas termonucleares hasta virus que pueden suponer la total aniquilación de la humanidad. Nuestros líderes no carecen de información acerca de estos peligros, pero, en lugar de colaborar en la búsqueda de soluciones, se acercan cada vez más a una guerra global.Otros son más escépticos. No solo filósofos y científicos sociales, sino también conocidos expertos en IA y empresarios como Yoshua Bengio, Geoffrey Hinton, Sam Altman,La IA es una amenaza sin precedentes para la humanidad porque es la primera tecnología en la historia que puede tomar decisiones y generar nuevas ideas por sí misma. Todo invento humano previo ha servido para conferir poder a los humanos, porque, con independencia del alcance que tuviera la nueva herramienta, las decisiones sobre su uso se han mantenido en nuestras manos. Las bombas nucleares no deciden por sí mismas a quién matar, ni pueden mejorar por sí mismas o incluso inventar bombas aún más poderosas. En cambio, los drones autónomos pueden decidir por sí mismos a quién matar, y las IA pueden crear nuevos diseños de bombas, estrategias militares inéditas y mejores IA. La IA no es una herramienta, es un agente. La mayor amenaza de la IA es que estamos invocando en la Tierra innumerables nuevos y poderosos agentes que potencialmente son más inteligentes e imaginativos que nosotros, y que no entendemos ni controlamos del todo.
Tradicionalmente, el término IA se ha utilizado como un acrónimo de Inteligencia Artificial. Pero es quizás mejor verlo como un acrónimo de Inteligencia Ajena. A medida que la IA evoluciona, se vuelve menos artificial (en el sentido de depender de diseños humanos) y más ajena. Muchas personas intentan medir e incluso definir la inteligencia artificial utilizando la métrica de «inteligencia a nivel humano», y hay un debate animado sobre cuándo podemos esperar que las IA alcancen la «inteligencia a nivel humano». Esta métrica es profundamente engañosa. Es como definir y evaluar los aviones a través de la métrica de «vuelo a nivel de pájaro». La IA no está progresando hacia la inteligencia a nivel humano. Está evolucionando hacia un tipo de inteligencia ajena.Mustafa Suleyman es un experto mundial en este tema. Es cofundador y exdirector de DeepMind, una de las empresas de IA más importantes del mundo, responsable de desarrollar el programa AlphaGo, entre otros logros. AlphaGo se diseñó para jugar al go, un juego de estrategia en el que dos jugadores se disputan un territorio. Inventado en la antigua China, es bastante más complejo que el ajedrez. En consecuencia, incluso después de que fuera capaz de derrotar a un campeón mundial de ajedrez, los expertos siguieron creyendo que un ordenador nunca vencería a un humano en el go.
«Entonces… llegó la jugada número 37 —escribe Suleyman—. No tenía sentido. Por lo visto, AlphaGo la había pifiado al seguir una estrategia aparentemente perdedora que ningún jugador profesional habría empleado nunca. Los comentaristas, ambos profesionales del mayor nivel, dijeron que había sido un “movimiento muy extraño” y pensaron que se trataba de “un error”. Era algo tan insólito que Sedol tardó quince minutos en responder, e incluso se levantó de la mesa para dar un paseo. En la sala de control desde la que observábamos se palpaba la tensión. Pero, a medida que se acercaba el final de la partida, la jugada “errónea” se demostró esencial. AlphaGo volvió a ganar. La estrategia del go se estaba reescribiendo ante nuestros ojos. Nuestra IA había descubierto ideas que no se les habían ocurrido a los jugadores más brillantes en miles de años».
La segunda razón es que demostró la ininteligibilidad de la IA. Ni siquiera después de que AlphaGo hiciera la jugada 37 para conseguir la victoria, Suleyman y su equipo pudieron explicar cómo había decidido hacerlo. Si un tribunal hubiera ordenado a DeepMind que proporcionara a Lee Sedol una explicación, nadie podría haber cumplido tal orden. Escribe Suleyman: «Ahora mismo, en la IA, las redes neurales que avanzan hacia la autonomía son inexplicables. No podemos hacer que alguien explore el proceso de toma de decisiones para explicar con precisión por qué un algoritmo ha hecho una predicción específica. Los ingenieros no pueden mirar bajo el capó y explicar en detalle la causa de que algo haya ocurrido. GPT-4, AlphaGo y demás son cajas negras, y todo aquello que producen y deciden se basa en cadenas opacas e imposiblemente intrincadas de señales minúsculas».
El auge de una inteligencia ajena e insondable socava la democracia. Si nuestras vidas dependen cada vez más de las decisiones de una caja negra cuya comprensión y cuestionamiento quedan fuera del alcance de los votantes, la democracia dejará de funcionar. En concreto, ¿qué pasará cuando unos algoritmos insondables tomen decisiones de importancia no solo acerca de la vida de los individuos sino también sobre cuestiones de interés general como la tasa de interés de la Reserva Federal? Los votantes humanos aún podrán elegir un presidente humano, pero ¿no será una ceremonia vacía? Incluso en la actualidad, solo una pequeña parte de la humanidad entiende el funcionamiento del sistema financiero.Traduciendo la fábula de advertencia de Goethe al lenguaje de las finanzas modernas, imaginemos el siguiente escenario: un aprendiz de Wall Street cansado de la monotonía del taller financiero crea una IA llamada Escoba, le proporciona un millón de dólares en capital inicial y le ordena que genere más dinero. Para la IA, las finanzas son el campo de juego ideal, ya que es un ámbito puramente informativo y matemático. Las IA aún encuentran difícil conducir un coche de forma autónoma, porque esto requiere moverse e interactuar en el desordenado mundo físico, donde el «éxito» es difícil de definir. Por contra, para realizar transacciones financieras, la IA solo necesita tratar con datos y puede medir con facilidad su éxito matemáticamente en dólares, euros o libras. Más dólares: misión cumplida.
Durante un par de años, mientras Escoba guía a la humanidad hacia territorios financieros vírgenes, todo parece maravilloso. Los mercados están en auge, el dinero fluye sin esfuerzo y todos están felices. Luego ocurre una crisis aún mayor que la de 1929 o 2008. Pero ningún ser humano —ya sea presidente, banquero o ciudadano— sabe qué la causó ni qué se puede hacer al respecto.
Los ordenadores aún no son lo suficientemente poderosos como para escapar completamente a nuestro control o destruir la civilización humana por sí solos. Mientras la humanidad permanezca unida, podemos construir instituciones que regulen la IA, ya sea en el ámbito financiero o en el de la guerra. Desafortunadamente, la humanidad nunca ha estado unida. Siempre hemos estado plagados de actores negativos, así como de desacuerdos entre actores positivos. El auge de la IA plantea un peligro existencial para la humanidad no por la malevolencia de los ordenadores, sino por nuestras propias deficiencias.
La civilización humana también podría ser víctima de armas de destrucción masiva sociales, como, por ejemplo, relatos capaces de socavar nuestros vínculos de convivencia. Una IA desarrollada en un país concreto podría emplearse para desatar una avalancha de noticias falsas, dinero falso y humanos falsos, de manera que la gente de otros numerosos países perdiera la capacidad de confiar en nada ni nadie.
Muchas sociedades, ya sean democracias o dictaduras, pueden actuar con responsabilidad para regular estos usos de la IA, adoptar medidas drásticas contra los actores dañinos y poner freno a las peligrosas ambiciones de sus propios gobernantes y de fanáticos. Pero bastaría con que un puñado de estas sociedades no lo hicieran para poner en peligro a toda la humanidad. Al tratarse de un problema global y no nacional, el cambio climático puede acabar incluso con aquellos países que adopten unas normativas medioambientales excelentes. La IA también es un problema global. Los gobiernos pecarían de ingenuos si creyeran que una regulación sensata de la IA dentro de sus fronteras fuera a protegerlos de las consecuencias negativas que puede acarrear la revolución de la IA.En el siglo XVI, los conquistadores españoles, portugueses y holandeses estaban instaurando los primeros imperios globales de la historia, a base de barcos de vela, caballos y pólvora. Cuando británicos, rusos y japoneses compitieron por la hegemonía durante los siglos XIX y XX, se basaron en barcos de vapor, locomotoras y ametralladoras. En el siglo XXI, para dominar una colonia ya no es necesario desplegar la artillería. Basta con apoderarse de sus datos. Unas pocas compañías o un Gobierno que consigan recolectar los datos de todo el mundo podrían convertir el resto del globo en colonias de datos: territorios dominados no mediante una fuerza militar manifiesta, sino con información.
Fuente: telam