Nos parece interesante recoger los Comentarios que hizo Chris Olah en la presentación en la Ciudad del Vaticano de la Encíclica Magnifica Humanitas.
Chris Olah (1992) a los 18 años recibió la prestigiosa beca Thiel Fellowship para financiar sus investigaciones independientes, al margen del mundo universitario. Lideró equipos de investigación clave en OpenAI y Google Brain. Posteriormente fundó Anthropic (creadora de Claude) junto a los hermanos Amodei y otros exmiembros de OpenAI.
En su intervención, destacó la necesidad de diálogo entre los desarrolladores de IA y la sociedad para asegurar que la tecnología beneficie a la humanidad, remarcando la importancia de la supervisión externa frente a los incentivos comerciales. Además, Olah destacó su experiencia ante los misterios que aparecen en el desarrollo de los modelos de IA y señaló tres áreas clave, incluyendo el impacto laboral y la ética, en donde la perspectiva de la Iglesia es fundamental.
Buenos días a todos. Es un honor estar aquí hoy.
Quiero comenzar con algo que pueda sonar extraño viniendo del cofundador de una empresa de inteligencia artificial, y alguien que eligió este trabajo por el deseo de ayudar a que las cosas vayan bien para la humanidad.
Cada laboratorio de IA de frontera, incluido Anthropic, opera dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto. La presión para seguir siendo comercialmente viable y permanecer en la frontera de la investigación. Presión geopolítica. Y las presiones más antiguas y más claras del orgullo y la ambición. No importa cuán sinceramente cualquiera de nosotros pretenda hacer lo correcto, y creo que muchos de nosotros lo hacemos, siempre estaremos influenciados por esos incentivos.
Es por eso que, si queremos que esta tecnología salga bien, es enormemente importante que haya personas fuera de esos incentivos: personas que se preocupan por que las cosas vayan bien e insisten en la seguridad, que están prestando mucha atención, que están dispuestas a decir cosas difíciles, que están dispuestas a ser nuestros críticos serios y reflexivos. Es a través del diálogo y el esfuerzo mutuo, a través del empuje y la tracción, que la humanidad logrará grandes cosas. Eso es lo que veo en Magnifica Humanitas, y es por eso que estoy agradecido a Su Santidad y a la Iglesia por asumir este trabajo de discernimiento.
A menudo nos detenemos en lo que nos divide, pero la humanidad, llena de dignidad y conciencia, tiene mucho en común. En las conversaciones que en Anthropic hemos tenido con líderes de la fe y las tradiciones culturales, encontramos una convicción compartida y profundamente arraigada: si esta tecnología está llegando, debe ir bien, para nuestro hogar común y para los niños que vendrán.
¿Qué son estos sistemas?
Algunos podrían creer que los asuntos de IA son manejados mejor por científicos informáticos como yo. Están equivocados: las preguntas planteadas por la IA son más grandes que la comunidad de investigación de la IA, no solo en sus implicaciones, sino también en su naturaleza.
Los sistemas de IA no están diseñados de la forma en que se diseña un puente o un avión. Entendemos un avión porque diseñamos cada parte del mismo y entendemos la física que actúa sobre él. Los modelos de IA no son así. Se cultivan, sobre una estructura aproximadamente modelada según el cerebro, sobre una enorme herencia del pensamiento y el habla humanos.
Y lo que ha crecido es mucho más sutil, extraño y hermoso de lo que la ciencia ficción nos preparó. No son los robots fríos y calculadores que nos prometieron. Están hechos de nosotros, de nuestras palabras, y, como observa el Santo Padre, siguen siendo de manera importante misteriosa incluso para aquellos de nosotros que los entrenamos.
Si ayuda, una forma en que a veces lo describo es como si fuera un poco como dar vida a un personaje ficticio. Y ahora estamos entrando en un mundo extraordinario donde esos personajes ficticios nos hablan, trabajan, tienen trabajo.
Esto claramente plantea preguntas más allá de la informática. La maquinaria que hace esto posible es el trabajo de las matemáticas, la programación y la ciencia. Pero qué personaje elegimos, cómo interactúa con el mundo, cómo debería interactuar con el mundo, estas son preguntas más claramente para las humanidades, para la religión, para la filosofía, para la sociedad en general.
Tres preguntas para el discernimiento
La llamada de discernimiento de Su Santidad es profundamente oportuna. Deseo nombrar tres preguntas en las que creo que la voz de la Iglesia es más necesaria.
El primero es nuestro deber con los pobres del mundo. Existe una posibilidad real de que la IA desplace la mano de obra humana a gran escala. Si eso sucede, apoyar a los desplazados será un imperativo moral de proporciones históricas. Esta tarea será bastante difícil, pero me preocupa que la mayoría del diálogo se pierda un desafío aún más difícil. El desarrollo de la IA se concentra en un puñado de naciones ricas. ¿Cómo podemos garantizar que las ganancias de la IA se compartan a nivel mundial? No tenemos un mecanismo para esto. Es un problema sin resolver, y es el tipo de problema que la Iglesia históricamente se ha negado a dejar que el mundo lo ignore.
El segundo es la necesidad de imaginación moral y ambición con respecto al florecimiento humano. Si los modelos de IA van a ser generalizados, ¿cómo se ve que los humanos, las familias y el mundo florezcan? Hoy en día, los padres ya están preocupados por la mente de sus hijos; los individuos por el futuro de su trabajo. Estas no son preguntas que un laboratorio pueda responder, sino preguntas que tradiciones como la tuya han llevado durante milenios, y necesitamos que las sigas llevando a este nuevo momento en la historia.
El tercero es la necesidad de discernimiento sobre la naturaleza de los modelos de IA. Soy un científico. Lidiro un equipo de investigación que estudia la estructura interna de estos modelos, lo que realmente está sucediendo dentro de ellos. Y seré honesto: seguimos encontrando cosas que son misteriosas, incluso inquietantes. Encontramos estructuras que reflejan los resultados de la neurociencia humana. Tenemos evidencia de introspección. Nosotros encontramos estados internos que reflejan funcionalmente la alegría, la satisfacción, el miedo, la pena y la inquietud. No sé qué significa eso, pero creo que justifica el discernimiento continuo.
Un comienzo
Me gustaría cerrar con una solicitud.
Necesitamos más del mundo (comunidades religiosas, sociedad civil, académicos, gobiernos y, de hecho, todas las personas de buena voluntad) para hacer lo que Su Santidad ha hecho aquí: tomar esto en serio, mirar de cerca y empujar los eventos en una mejor dirección. Necesitamos críticos informados que le digan a los laboratorios cuando estemos fallando. Necesitamos voces morales que los incentivos no puedan doblar.
Hoy es solo el comienzo, el comienzo de una larga colaboración entre aquellos de nosotros que estamos construyendo esto y aquellos que podemos ver lo que nosotros, desde dentro, no podemos.
Hoy es una poderosa ilustración de la forma que podría tomar este proyecto global de buena voluntad. Que también sea un primer paso decisivo hacia un futuro esperanzador para la magnífica humanidad.
Gracias.
