Introducción
La «inteligencia artificial» (IA) está provocando profundos cambios en la vida de los seres humanos, y seguirá haciéndolo. La IA ofrece un enorme potencial a la hora de mejorar la convivencia social y el bienestar personal, aumentar las capacidades humanas y permitir o facilitar muchas tareas que pueden llevarse a cabo de forma más eficiente y eficaz.
Sin embargo, estos resultados no están en absoluto garantizados. Las transformaciones que se están produciendo actualmente no son solo cuantitativas. Sobre todo, son cualitativas, porque afectan a la forma en que se llevan a cabo estas tareas y a la forma en que se percibe la realidad y la propia naturaleza humana, hasta tal punto que pueden influir en los hábitos mentales e interpersonales.
Las nuevas tecnologías deben investigarse y producirse de acuerdo con criterios que garanticen que realmente sirvan a toda la «familia humana» (Preámbulo, Declaración Universal de Derechos Humanos), respetando la dignidad inherente a cada uno de sus miembros y a todos los entornos naturales, y teniendo en cuenta las necesidades de los más vulnerables. El objetivo no es solo garantizar que nadie quede excluido, sino también ampliar aquellas áreas de libertad que podrían verse amenazadas por el condicionamiento algorítmico.
Dada la naturaleza innovadora y compleja de las cuestiones que plantea la transformación digital, es esencial que todas las partes implicadas trabajen juntas y que todas las necesidades afectadas por la IA estén representadas.
Esta Convocatoria es un paso adelante con vistas a crecer con un entendimiento común y buscar un lenguaje y soluciones que se puedan compartir. Sobre esta base, es posible reconocer y aceptar responsabilidades que tengan en cuenta todo el proceso de innovación tecnológica, desde el diseño hasta la distribución y el uso, fomentando un compromiso real en una serie de escenarios prácticos.
A largo plazo, los valores y principios que se puedan capaces de inculcar en la IA ayudarán a establecer un marco que regule y sirva de referencia para la ética digital, guiando las acciones y promoviendo el uso de la tecnología en beneficio de la humanidad y el medio ambiente.
Ahora más que nunca, se debe garantizar una perspectiva en la que la IA se desarrolle centrándose no en la tecnología, sino en el bien de la humanidad y del medio ambiente, del hogar común y compartido y de sus habitantes humanos, que están inextricablemente conectados.
En otras palabras, una visión en la que los seres humanos y la naturaleza estén en el centro del desarrollo de la innovación digital, apoyados en lugar de sustituidos gradualmente por tecnologías que se comportan como actores racionales, pero que no son en modo alguno humanos. Es hora de empezar a prepararse para un futuro más tecnológico en el que las máquinas tendrán un papel más importante en la vida de los seres humanos, pero también un futuro en el que está claro que el progreso tecnológico afirma la brillantez de la raza humana y sigue
dependiendo de su integridad ética.
Ética
Todos los seres humanos nacen libres e iguales en dignidad y derechos. Están dotados de razón y conciencia y deben actuar unos hacia otros con un espíritu de fraternidad (cf. Art. 1, Declaración Universal de Derechos Humanos). Esta condición fundamental de libertad y dignidad también debe protegerse y garantizarse en la producción y el uso de sistemas de IA. Para ello, es necesario salvaguardar los derechos y la libertad de las personas, de modo que no sean discriminadas por los algoritmos debido a su «raza, color, sexo, idioma, religión, opinión política o de otra índole, origen nacional o social, posición económica, nacimiento o cualquier otra condición» (art. 2, Declaración Universal de Derechos Humanos).
Los sistemas de IA deben concebirse, diseñarse e implementarse para servir y proteger a los seres humanos y el entorno en el que viven. Esta perspectiva fundamental debe traducirse en un compromiso para crear condiciones de vida (tanto sociales como personales) que permitan tanto a los grupos como a los miembros individuales esforzarse por expresarse plenamente siempre que sea posible.
Para que el avance tecnológico vaya en consonancia con el verdadero progreso de la raza humana y el respeto por el planeta, debe cumplir tres requisitos:
- Debe incluir a todos los seres humanos, sin discriminar a nadie.
- Debe tener como objetivo fundamental el bien de la humanidad y el bien de cada ser humano.
- Por último, debe ser consciente de la compleja realidad del ecosistema y caracterizarse por la forma en que cuida y protege el planeta (nuestro «hogar común y compartido») con un enfoque altamente sostenible, que también incluye el uso de la inteligencia artificial para garantizar sistemas alimentarios sostenibles en el futuro. Además, cada persona debe ser consciente cuando interactúa con una máquina.
La tecnología basada en la IA nunca debe utilizarse para explotar a las personas de ninguna manera, especialmente a las más vulnerables. Por el contrario, debe utilizarse para ayudar a las personas a desarrollar sus capacidades (empoderamiento/capacitación) y para apoyar al planeta.
Educación
Transformar el mundo a través de la innovación de la IA significa comprometerse a construir un futuro para y con las generaciones más jóvenes. Este compromiso debe reflejarse en un compromiso con la educación, desarrollando planes de estudio específicos que abarquen diferentes disciplinas en las humanidades, la ciencia y la tecnología, y asumiendo la responsabilidad de educar a las generaciones más jóvenes.
Este compromiso implica trabajar para mejorar la calidad de la educación que reciben los jóvenes; esto debe llevarse a cabo mediante métodos que sean accesibles para todos, que no discriminen y que puedan ofrecer igualdad de oportunidades y trato. El acceso universal a la educación debe lograrse mediante principios de solidaridad y equidad.
El acceso al aprendizaje permanente también debe garantizarse para las personas mayores, a las que se debe ofrecer la oportunidad de acceder a servicios offline durante la transición digital y tecnológica. Además, estas tecnologías pueden resultar enormemente útiles para ayudar a las personas con discapacidad a aprender y ser más independientes: la educación inclusiva también significa, por lo tanto, utilizar la IA para apoyar e integrar a todas y cada una de las personas, ofreciendo ayuda y oportunidades de participación social (por ejemplo, trabajo a distancia para las personas con movilidad reducida, apoyo tecnológico para las personas con discapacidades cognitivas, etc.).
El impacto de las transformaciones provocadas por la IA en la sociedad, el trabajo y la educación ha hecho que sea esencial revisar los planes de estudio escolares para hacer realidad el lema educativo «nadie se queda atrás».
En el sector educativo, se necesitan reformas para establecer estándares altos y objetivos que puedan mejorar los resultados individuales. Estos estándares no deben limitarse al desarrollo de habilidades digitales, sino que deben centrarse en cambio en garantizar que cada persona pueda expresar plenamente sus capacidades y en trabajar por el bien de la comunidad, incluso cuando no se obtenga ningún beneficio personal a cambio.
A medida que se diseñan y planifican la sociedad del mañana, el uso de la IA debe seguir formas de acción que sean socialmente orientadas, creativas, conectivas, productivas, responsables y capaces de tener un impacto positivo en la vida personal y social de las generaciones más jóvenes. El impacto social y ético de la IA también debe estar en el centro de las actividades educativas relacionadas con la IA.
El objetivo principal de esta educación debe ser crear conciencia sobre las oportunidades y también sobre los posibles problemas críticos que plantea la IA desde la perspectiva de la inclusión social y el respeto individual.
Derechos
El desarrollo de la IA al servicio de la humanidad y del planeta debe reflejarse en normativas y principios que protejan a las personas —especialmente a las más débiles y desfavorecidas— y al medio ambiente. El compromiso ético de todas las partes implicadas es un punto de partida crucial; para hacer realidad este futuro, los valores, los principios y, en algunos casos, las normativas legales, son absolutamente indispensables para apoyar, estructurar y guiar este proceso.
Para desarrollar e implementar sistemas de IA que beneficien a la humanidad y al planeta, al tiempo que actúen como herramientas para construir y mantener la paz internacional, el desarrollo de la IA debe ir acompañado de sólidas medidas de seguridad digital.
Para que la IA actúe como una herramienta para el bien de la humanidad y del planeta, se debe situar el tema de la protección de los derechos humanos en la era digital en el centro del debate público. Ha llegado el momento de preguntarse si las nuevas formas de automatización y actividad algorítmica requieren el desarrollo de responsabilidades más sólidas. En particular, será esencial considerar alguna forma de «deber de explicación»: se debe pensar en hacer comprensibles no solo los criterios de toma de decisiones de los agentes algorítmicos basados en la IA, sino también su propósito y sus objetivos. Estos dispositivos deben ser capaces de ofrecer a las personas información sobre la lógica que subyace a los algoritmos utilizados para tomar decisiones. Esto aumentará la transparencia, la trazabilidad y la responsabilidad, haciendo que el proceso de toma de decisiones asistido por ordenador sea más válido.
Se deben fomentar nuevas formas de regulación para promover la transparencia y el cumplimiento de los principios éticos, especialmente en el caso de las tecnologías avanzadas que presentan un mayor riesgo de afectar a los derechos humanos, como el reconocimiento facial.
Para alcanzar estos objetivos, se debe partir desde el inicio del desarrollo de cada algoritmo con una visión «algorética», es decir, un enfoque de ética por diseño.
Diseñar y planificar sistemas de IA en los que se pueda confiar, implica buscar un consenso entre los responsables políticos, las agencias del sistema de las Naciones Unidas y otras organizaciones intergubernamentales, los investigadores, el mundo académico y los representantes de organizaciones no gubernamentales en cuanto a los principios éticos que deben incorporarse a estas tecnologías.
Por esta razón, los promotores de la convocatoria expresan su deseo de trabajar juntos, en este contexto y a nivel nacional e internacional, para promover la «algorética», es decir, el uso ético de la IA tal y como lo definen los siguientes principios:
Transparencia: en principio, los sistemas de IA deben ser explicables:
• Inclusión: deben tenerse en cuenta las necesidades de todos los seres humanos para que todos puedan beneficiarse y se pueda ofrecer a todas las personas las mejores condiciones posibles para expresarse y desarrollarse.
• Responsabilidad: quienes diseñan y despliegan el uso de la IA deben actuar con responsabilidad y transparencia.
• Imparcialidad: no crear ni actuar según prejuicios, salvaguardando así la equidad y la dignidad humana.
• Fiabilidad: los sistemas de IA deben ser capaces de funcionar de forma fiable.
• Seguridad y privacidad: los sistemas de IA deben funcionar de forma segura y respetar la privacidad de los usuarios.
Estos principios son elementos fundamentales de una buena innovación.
6 principios éticos
.1 Transparencia: Los sistemas de IA deben ser comprensibles para todos.
.2 Inclusión: Estos sistemas no deben discriminar a nadie, ya que todos los seres humanos tienen la misma dignidad.
.3 Responsabilidad Siempre debe haber alguien que asuma la responsabilidad de lo que hace una máquina.
.4 Imparcialidad Los sistemas de IA no deben seguir ni crear sesgos.
.5 Fiabilidad La IA debe ser fiable.
.6 Seguridad y privacidad Estos sistemas deben ser seguros y respetar la privacidad de los usuarios.
descargar documento original en ingles
Publicada en RenAIssance Foundation por Dr. Brad Smith, President Of Microsoft, Dr. John Kelly Iii, Ibm Executive Vice President, Dr. Dongyu Qu, Fao Director-General Minister, Dr. Paola Pisano, Italian Minister Of Innovation| 28 de febrero de 2020 | Rome Call For AI Ethics
