Hace casi una década, se escribió un libro llamado Ciencia olvidada sobre los delirios exagerados de la arrogancia científica a lo largo de la historia. Uno de los capítulos presentaba un relato resumido de Aleksandr Sukhovo-Kobylin (1817-1903), un rico dramaturgo ruso con algunas ideas pseudocientíficas muy extrañas sobre la evolución humana. Según Aleksandr, la humanidad se dirigía hacia un futuro punto final evolutivo teleológico en el que se terminaría desprendiéndose por completo de los cuerpos corpóreos y convirtiendo a todos en “ángeles humanos”, o formas de pensamiento puras e incorpóreas.
Aquí hay una versión editada de lo que se escribió sobre este tipo claramente demasiado optimista en ese momento:
“En última instancia, cada ángel humano sería capaz de desplegar sus alas y habitar en todos los lugares del universo simultáneamente, como dioses. Sin embargo, para conquistar el espacio exterior, primero tendríamos que conquistar el espacio físico real al dejar de habitar las tres dimensiones en absoluto. Para hacerlo, la humanidad tendría que empezar a hacerse cada vez más pequeña hasta que, finalmente, todos simplemente desapareciéramos. Convertirse en vegetariano sería un buen comienzo, pensó Aleksandr, ya que comer solo lechuga y hierba nos haría más delgados y ligeros, lo que nos pondría en el largo camino hacia la falta de espacio. Haríamos bien, dijo, en observar a la humilde mosca doméstica; Debido a que eran tan pequeños, también eran “maravillosamente móviles” y, calculó, podían volar cien veces la longitud de su propio cuerpo en un solo segundo. Con el tiempo, a medida que la humanidad comía cada vez menos, “consumiendo nuestro propio espacio” y al mismo tiempo consumíamos menos carne, nosotros también seríamos capaces de tales hazañas soberbias, desarrollando alas de insecto, y así llegando a ser capaces de “moverse por el espacio con la velocidad de una bala de cañón”. Eventualmente, nos reduciríamos tanto que ya no tendríamos ninguna existencia dimensional en absoluto, momento en el que nos liberaríamos por completo de todas las restricciones espaciales, en nuestra última forma evolutiva final de ángeles humanos. Finalmente, la humanidad entraría en un estado de total unidad con la Creación misma, ya que nuestra mente se fusionaría con todos los átomos y la materia del universo. Comer más lechuga, al parecer, convertiría a la humanidad en Dios. Es todo un plan de dieta”.
¿Acaso esos locos sueños de opio son ahora cosas del pasado? Lamentablemente no.
Cortocircuito
Ray Kurzweil es un destacado futurólogo, inventor e informático de Silicon Valley, que en 2005 publicó un libro muy celebrado y ridiculizado, The Singularity Is Near, en el que predice el logro futuro de la humanidad de algo llamado “la Singularidad“, un punto en el que la Inteligencia Artificial (IA) se volvería tan superpoderosa que esencialmente haría que la especie fuera tan obsoleta como Betamax.
Pasando el Test de Turing con gran éxito (es decir, cuando una mente-máquina se vuelve tan inteligente que es capaz de engañar a los humanos reales para que piensen que es uno de ellos, como con Mark Zuckerberg), esta IA de nivel de Singularidad pronto se convertiría en mucho más que humana, dejando atrás a sus creadores de carne y hueso en el polvo intelectual.
Resolviendo todos los problemas, permitiría a la humanidad fusionar su mente con ella, antes de reemplazar los cuerpos actuales por otros completamente nuevos hechos por máquinas, o bien prescindir de ellos por completo, en favor de una existencia puramente incorpórea, como una vez predijo Aleksandr Sukhovo-Kobylin. En concreto, Kurzweil predice que las próximas mentes incorpóreas se extenderán por el espacio para colonizar el cosmos mismo, “convirtiendo así la materia ordinaria en computronio“, sea lo que sea.
Ahora, han pasado casi 20 años y, gracias a algo llamado Ley de Moore -que, para simplificar, argumenta que la potencia informática asequible disponible en la sociedad tiende a duplicarse aproximadamente cada dos años más o menos-, la IA ha mejorado miles de veces desde la publicación del libro anterior de Kurzweil, como se ve en desarrollos recientes muy anunciados como ChatGPT.
Como tal, Ray ahora está de regreso con una secuela titulada por sí misma, The Singularity Is Nearer, completa con citas laudatorias de otros post-humanos como Bill Gates, argumentando que el evento en cuestión ahora es inminente, lo que significa que, si estás vivo y tienes menos de 70-80 años hoy, es muy probable que pronto se te dé la opción de la inmortalidad asistida por IA.
Pero, si tales maravillas realmente llegaran a suceder, ¿merecerían tales super-seres modificados ser llamados humanos?
Sólo los dioses son inmortales e incorpóreos, ¿no es así? Sí, pero todo el objetivo tácito de tales ideas es precisamente transformar a la humanidad en una raza de dioses.
El país de las nubes
La idea básica de Kurzweil se basa en la existencia de “la nube”, esa zona incorpórea (desde la perspectiva de un usuario ordinario: en realidad reside en varios centros de datos globales físicos) de Internet donde en la actualidad los usuarios simplemente pueden almacenar copias de seguridad en línea de sus fotos, documentos y videos. pero que eventualmente también tendrá extensiones digitales de las propias mentes.
Kurzweil describe esto como “expandiendo directamente nuestros cerebros con capas de neuronas virtuales en la nube. De esta manera, nos fusionaremos con la IA y nos aumentaremos con millones de veces la potencia computacional [nuestros cerebros son poco más que computadoras biológicas para Kurzweil] que nos dio nuestra biología”.
Pero… ¿Con qué precisión sucederá esto?
¿Cuál es el mecanismo real a través del cual esto ocurrirá?
Al leer el libro de Ray,es posible darse cuenta. Que básicamente piensa que “la IA resolverá eso por las personas una vez que llegue la Singularidad”, lo que un cínico puede decir que es solo una cláusula de salida conveniente por el hecho de que él mismo tampoco sabe realmente la respuesta. En la actualidad, las personas, los primitivos cabezas de carne sin aumentar, sólo poseen una “incapacidad para comprender un cambio tan radical con los niveles actuales de inteligencia”. La explicación más cercana de Kurzweil a la mecánica es la siguiente:
“En algún momento de la década de 2030 (…) [comenzar a usar dispositivos microscópicos diseñados por IA] [es decir, robots] llamados nanobots. Estos diminutos dispositivos electrónicos conectarán las capas superiores de nuestro neocórtex a la nube, lo que permitirá que nuestras neuronas se comuniquen directamente con las neuronas simuladas alojadas para nosotros en línea. Esto no requerirá ningún tipo de cirugía cerebral de ciencia ficción: podremos enviar nanobots al cerebro de forma no invasiva a través de los capilares. [Luego] se pueden apilar más capas [de neuronas de nube simuladas] encima de esa (computacionalmente hablando) para una cognición cada vez más sofisticada. A medida que avanza este siglo y la relación precio-rendimiento de la informática sigue mejorando exponencialmente, la potencia de cálculo disponible para nuestros cerebros también lo hará”.
¿Recuerdas la primitiva NES de 8 bits de Nintendo de la década de 1980, con sus sprites toscos y en bloques y sus bandas sonoras de chip-tune bip-bip?
Ese es el actual cerebro humano primitivo de hoy. Comparando eso con la actual consola Switch de Nintendo, con sus gráficos y sonido HD ultrarrealistas. Ese es el cerebro de nube aumentado del mañana.
A la vanguardia
Gracias a la inminente Singularidad, la capacidad intelectual -y la civilización misma- seguirá la Ley de Moore, en una curva exponencial cada vez más ascendente. En otras palabras, Kurzweil cree en el progreso, pero aquí con el brillo protector de la “ciencia” más que de la ideología política: uno de sus capítulos se llama en realidad “La vida está mejorando exponencialmente”, que se presenta como un hecho científicamente verificable, en lugar de un juicio de valor meramente subjetivo (o directamente ilusorio).
Con esto quiere decir que cosas como el PIB y la esperanza de vida media han aumentado en las últimas décadas, lo cual se puede estar seguro de que es cierto, pero estos representan datos cuantitativos, no cualitativos: los televisores de hoy son, tecnológicamente hablando, mucho mejores que sus predecesores, pero eso no significa necesariamente que los programas en ellos sean igualmente superiores. Mucha gente sentirá que son mucho peores, particularmente Doctor Who.
Y, del mismo modo, el hecho de que se tenga una capacidad intelectual muy superior, no significa necesariamente que las ideas sean realmente buenas: Stalin, Mao, Marx, etc., eran todos mucho más inteligentes académicamente que el prole tonto promedio que lamía el piso de la fábrica, pero ¿cuyas ideas en última instancia dañaron más a la sociedad?
Sin embargo, Kurzweil es un tecno-progresivo clásico, y no parece ver demasiados peligros inherentes a su trabajo. En una entrevista promocional con The Guardian, Kurzweil describió su fantasía de tener un nuevo cerebro en la nube de la siguiente manera: “Piensa en ello como tener tu teléfono, pero en tu cerebro. Si haces una pregunta, tu cerebro podrá ir a la nube en busca de una respuesta similar a la que lo haces ahora en tu teléfono, solo que será instantánea, no habrá ningún problema de entrada o salida, y no te darás cuenta de que se ha hecho (la respuesta simplemente aparecerá)”.
Eso suena simplemente genial … hasta que te preguntas quién (o qué) será precisamente el que decidirá qué respuestas concretas aparecen en tu cerebro como por arte de magia:
¿Los mismos que han decidido recientemente que el CO₂ va a hacer que el mundo se acabe mañana, que el portátil de Hunter Biden estaba perfectamente por encima de la mesa, y que las personas con pene pueden ser realmente mujeres?
Presumiblemente sí, ya que los programadores iniciales de la IA serán presumiblemente del tipo de Silicon Valley con mentalidad progresista como el propio Kurzweil. Esto no me suena a utopía tecnológica, sino a una distopía impuesta por la tecnología.
Transistores transgénero
De manera reveladora, el transhumanista Kurzweil trae a colación el actual movimiento precursor del transgenerismo para justificar su extraño proyecto neo-rosacruz:
“Las personas transgénero tienen una mayor capacidad que nunca para hacer que sus cuerpos físicos coincidan con la identidad de género que experimentan en su interior. Imagínese cuánto más seremos capaces de moldearnos a nosotros mismos cuando podamos programar nuestros cerebros directamente… Una vez que nuestros cerebros están respaldados en un sustrato digital más avanzado, nuestros poderes de automodificación pueden realizarse por completo. Nuestros comportamientos pueden alinearse con nuestros valores, y nuestras vidas no se verán empañadas por los fallos de nuestra biología”.
Sí, no solo se podrá ser transgénero, ¡sino también transespecies!
“La vida biológica no es óptima“, argumenta Kurzweil, así que utilizará la IA para secuestrarla y convertir a las personas en sus propios dioses automodificables, usando nanobots para remodelar sus marcos físicos como los avatares o los Miis que las personas crean para su uso en videojuegos en línea, para crear “personajes virtuales que son de una edad, género e incluso especie diferentes a los nuestros”, lo que permitirá “producir un cuerpo optimizado a voluntad: Se podrá correr mucho más rápido y durante más tiempo, nadar y respirar bajo el océano como peces, e incluso darnos alas de trabajo si las queremos”.
Pero, ¿cómo, de manera precisa y específica, permitirán los nanobots hacer todo esto?
No sé sabe, Ray una vez más no parece decirlo. Suponiendo que hay que confiar en que, una vez que llegue la Singularidad, los ordenadores se encargarán de todas esas cosas tediosas y menores por las personas. Esto es un poco como si alguien dijera: “Una vez que haya inventado una máquina del tiempo, podré volar hasta el año 5000 y traer de vuelta todas las curas gratuitas para el cáncer“.
De mentes afines
Kurzweil también ha resuelto el problema de la demencia. Si puedes hacer una copia de seguridad de tus archivos mentales juveniles y saludables en la nube, entonces el Joe Biden del año 2035 podría simplemente descargarlos de nuevo en las células de memoria de su cerebro carnal fallido sin necesidad de traer a una candidata sustituta de Kamala Harris en etapa tardía.
Pero Ray admite que esto podría causar problemas legales. Los archivos de copia de seguridad siempre se pueden copiar varias veces, piratear y descargar por varios usuarios. Si esto ocurre alguna vez:
¿Quién sería el verdadero Joe Biden?
¿El que se descargó en el cerebro físico original de Biden, o el que se descargó en el pez dorado mascota de un usuario de la web al azar?
Otros acertijos legales confusos incluirían:
“¿Tiene que volver a casarse con su difunto esposo o esposa que regresa como replicante?”
“¿Pueden atribuirse el mérito del trabajo o las contribuciones sociales de la persona a la que están reemplazando?”
“¿Son responsables de los contratos firmados o de los delitos cometidos anteriormente por la persona a la que están replicando?”
Además, “una vez que nos hemos respaldado a nosotros mismos, ¿Cómo podríamos morir? … Destruir todas las copias de uno mismo puede ser casi imposible. Si diseñamos sistemas de respaldo mental de tal manera que una persona pueda elegir fácilmente eliminar sus archivos [para permitir la muerte final del usuario]… Esto crea inherentemente riesgos de seguridad en los que una persona podría ser engañada o coaccionada para tomar esa decisión y podría aumentar la vulnerabilidad a los ciberataques“.
Si el mundo futuro imaginado por Kurzweil se hace realidad, se trata de serias cuestiones éticas y prácticas. Pero los escépticos podrían decir que es más bien un gran “si”.
Pensado para la comida
Mientras tanto, gracias a Microsoft Progress, varios problemas intermedios de la humanidad también serán resueltos por los inminentes poderes de la super-IA. Gracias a maravillas como la impresión 3D, incluso de alimentos y edificios, y a las nuevas y maravillosas fuentes de energía libres de carbono desatadas por la mega-IA, todo será más o menos gratis para todos, en todas partes, para siempre.
Por el momento, explica Kurzweil, es posible (aunque tal vez inverosímil) concebir a dos personas peleando por el último ejemplar de su libro en una librería; es mucho menos posible concebirlos peleando por la “última” copia electrónica en PDF de la misma, ya que no existe tal copia “final” en absoluto, sino un número teóricamente infinito disponible.
Por lo tanto, todas las cosas materiales físicas pronto se volverán reconcebidas simplemente como una forma de “información” similar al pensamiento, para ser descargada e “impresa” a pedido: puedes atiborrarte de info-comida en forma de interminables barras de chocolate gratis o lo que sea, literalmente bytes de datos para comer.
La hambruna terminará para siempre: al menos para aquellos etíopes lo suficientemente ricos como para poseer una impresora 3D de alimentos alimentada por energía solar. (Kurzweil me recuerda a George Gilder, otro tecnopensador utópico que también siente que el mundo físico se está transformando en puros datos incorpóreos dentro de una “economía de ideas” ingrávida y sin masa.)
Pero, ¿no creará esto otros problemas técnicos, como el desempleo masivo en el sector manufacturero y la consiguiente pobreza?
¿Y qué pasa con las leyes de derechos de autor?
¿Seguirá ganando un inventor regalías de sus últimas creaciones si todo el mundo puede descargarlas todas sin cesar de forma gratuita?
¿Y qué pasa con los yihadistas que abusan de esa tecnología para descargar armas impresas en 3D, bombas atómicas y Estrellas de la Muerte?
¿Cuáles son las respuestas de Kurzweil a estos problemas?
Solo para observar insípidamente que “Todo esto requiere nuevos enfoques para proteger la propiedad intelectual” y “Esto requerirá una reevaluación reflexiva de las regulaciones y políticas actuales”.
¿Puedes ser un poco más específico, por favor, Ray? ¿O se debería simplemente esperar y dejar que sus super-droides de la Singularidad del mañana, aún completamente imaginarios, proporcionen todas las respuestas necesarias?
No computa
¿O tal vez se debería esperar a que los nuevos amos políticos los proporcionen?
Una solución avanzada para impulsar la nueva economía de la información del mañana es que, al igual que ocurre con muchos sitios web hoy en día, los productos nanofabricados deben ser gratuitos en el punto de descarga, pero patrocinados por publicidad obligatoria y extracción de datos:
“Imagina un futuro en el que la gente vea anuncios políticos o comparta datos personales para obtener productos nanofabricados gratuitos”.
Sí, cada vez que quieras comer una uva generada por el ordenador, tendrás que ver un mensaje personal del Gobierno Mundial de la ONU-UE-Foro Occidental en Davos sobre cómo, a partir de ahora, no poseerás nada y serás feliz.
De manera inquietante, el Sr. Kurzweil piensa que la siguiente perspectiva es, en cierto sentido, realmente atractiva: “La realidad aumentada se proyectará constantemente en nuestras retinas desde nuestras gafas y lentes de contacto. También resonará en nuestros oídos… La mayoría de sus funciones e información no se solicitarán explícitamente, pero nuestros asistentes de IA siempre presentes se anticiparán a nuestras necesidades observando y escuchando nuestras actividades. En la década de 2030, los nanorobots médicos comenzarán a integrar estas extensiones cerebrales directamente en nuestro sistema nervioso”.
¿Realmente Kurzweil no ve cómo se podría abusar gravemente de esta configuración de Cyberman de la vida real?
¿Qué es eso, esclavo?
¿Te acabo de oír tener un pensamiento escéptico sobre el cambio climático? Pero mira hacia el cielo, ¿no puedes verlo ahora volviéndose de repente rojo con llamas?
¿No puedes sentir que aumento la temperatura de tu cuerpo para reflejar la de nuestro planeta moribundo?
¿Y no “recuerdas” cuando tu jardín trasero estalló espontáneamente en llamas la semana pasada? Aquí, tenga una agradable descarga eléctrica correctiva de 1,000 voltios transmitida a través de su médula espinal y cerebelo, solo para sacudirlo de regreso al camino correcto …
No se discute necesariamente que al menos algunas de las cosas que Kurzweil predice en su libro no sucederán físicamente: se le ha demostrado que tenía razón en numerosas ocasiones antes, y sabe mucho más sobre computación que las patéticas mentes de NES de 8 bits como la mía. Son sus posteriores evaluaciones de juicio de valor panglossianas de las probables consecuencias de ellas con las que se tiene más problemas.
Muchos de los patrones de pensamiento básicos de Kurzweil parecen claramente robóticos por naturaleza varios años antes de que llegue su anhelada Singularidad. A menudo ya escribe como un bot de IA del tipo básico de ChatGPT, describiéndose a sí mismo simplemente como “el patrón de información que es Ray Kurzweil” o describiendo los sentimientos producidos por la pérdida de un ser querido así: “Los módulos neocorticales que estaban conectados para interactuar y disfrutar de la compañía de la persona ahora generan pérdida, vacío y dolor”.
Ah, bueno, no importa, Ray: “Es mejor haber amado y perdido que nunca haber sido programado para amar en absoluto“, como Tennyson lo extrajo una vez de sus bancos de datos de a bordo. Todo este libro simplemente no es humano, ni en su contenido ni en su estilo de escritura. Me pregunto si Ray Kurzweil lograría alguna vez superar con éxito el test de Turing.
Publicada en Mercatornet por Steven Tucker | 05 de agosto de 2024 | Are we really going to merge our minds with computers some time soon?
