¿ÉTICA O IDEOLOGÍA DE LA INTELIGENCIA ARTIFICIAL?
Adela Cortina, Paidós, 2024
Este ensayo reciente contiene un análisis filosófico del presente, apropósito de la tecnocracia y sus consecuencias, pero partiendo de cuestiones clásicas como la antropología y la ética desde su nacimiento griego hasta hoy. Con numerosas referencias a autores (de filosofía, ciencias o política) de todas las épocas, a películas, novelas y artículos de prensa, está plagado de ejemplos sencillos al alcance de cualquiera. Usa un lenguaje asequible aunque, a veces, tiene que usar tecnicismo, que procura explicar con claridad, para no perder rigor ni precisión en sus consideraciones. Por supuesto, como en sus obras anteriores, toma partida y argumenta en favor de una posición personal, que necesariamente es social, de la que nos avisa desde el Prólogo.
A lo largo de los doce capítulos que componen el libro, cada uno con sus apartados, aborda la cuestión de si las máquinas son instrumentos que los seres humanos usamos para progresar o nos irán sustituyendo poco a poco.
Con la filosofía kantiana como punto de partida, establece lo que nos hace humanos, a saber la conciencia moral. Y con la Escuela de Fráncfort como una constante brújula, expone la importancia de la comunicación.
Así nos recuerda que conectarse no es comunicarse, que las palabras han de ser veraces si no queremos mentir, aunque en nuestra sociedad tecnologizada la razón comunicativa se está quedando eclipsada, otra vez por la razón instrumental o estratégica.
La ética no es un conjuntos de pautas a cumplir. Usar los sistemas inteligentes (algoritmos) no es lo mismo que delegar en ellos decisiones importantes para la vida, toda forma de vida. Resulta que es una exigencia ética urgente usar los beneficios de la IA para resolver los graves problemas que tenemos hoy como las guerras, pandemias, migraciones, pobreza o cambio climático.
"Practicar la crítica de la ideología es esencial en una ética de la ciencia" afirma en la pág. 51, yo creo que lo es, al más puro marxista, en nuestra ética actual, en cada uno de los aspectos que supone ser humano hoy, no solo la ciencia que por sí sola no puede existir, sino la política, la justicia, la economía. Pero es cierto que la ciencia tiene la particularidad de está basada en pruebas, en verificaciones y falsaciones que la hacen verídica por acudir a la experiencia probable. Sin embargo también puede llegar a ser ideología, como diría Habermas, deformadora de la realidad por estar al servicio del poder, de la empresa o de ambos a la vez para dominar y enriquecerse.
Escribe sobre el transhumanismo y posthumanismo como asuntos sin respaldo científico, precisamente porque no se han podido probar, por lo tanto son poco de fiar y la confianza es básica para las sociedades humanas por el respeto a la dignidad que nos exige, de ahí que se regulen todas las prácticas tecnológicas, o se intenten regular, desde instancias internacionales como la Comisión Europea. Respetar los Derechos Humanos, la seguridad y también innovar para mejorar. De hecho se dice que EEUU es líder en innovación, China en productividad y la UE en normatividad.
Los principios éticos básicos para la IA serían: beneficencia, no maleficencia, autonomía de las personas, justicia, explicabilidad y rendición de cuentas. Se trata de humanizar, uniendo razón y corazón, asumiendo la responsabilidad, en cada contexto, de lo que hagan las máquinas. La intervención humana ha de controlar, a pesar de sus sesgos, inevitables, no vayamos a pensar en la neutralidad de la ciencia, mucho menos de la técnica. Creer que las tecnologías son neutrales es pura ideología (pág. 75)
Dar cuenta de las decisiones obliga evitar dañar, por eso es importante la ciberseguridad, la protección de datos, la privacidad de los usuarios, la accesibilidad, la propiedad y gestión de datos, el derecho de imagen y el honor. Hay que saber hacer frente al impacto de la IA en el mundo laboral, la brecha digital que supone, los puestos de trabajo que elimina y la organización del tiempo de trabajo y de ocio.
En la robótica, entendida como algo interdisciplinar, la ética juega un papel muy relevante porque los humanos colaboran con los robots. Esto es un desafío delicado ya que hay robots militares, mascota, cuidadores, sexuales, médicos o de entretenimiento y compañía.
Distinguir entre ética y derecho conviene para saber que el segundo se puede imponer coactivamente por el Estado mientras que la primera no. La ética es cosa compromiso de cumplir con los códigos éticos, de respeto a los acuerdos tomados, de convicciones culturales.
En la mitad del libro, se pregunta la autora por el tipo de ética que necesitan la IA ya que no es autónoma al estilo humano por no poder ser responsable de sus actos, estos son solo programables, carece de inteligencia general humana. Como en el mundo hay muchas y variadas culturas recurrimos a unos valores éticos comunes como la Justicia que requiere acuerdos intersubjetivos, en los que interviene la voluntad libre, el deber, autonomía y la conciencia.
A continuación expone los marcos éticos del deber, la utilidad, la virtud, las capacidades y el diálogo. Lo primero es no hacer daño, por esto Cortina propone un deontologismo dialógico, al modo de hermenéutica crítica (pág. 120), Aristóteles, Kant y francfortianos. Los animales y la naturaleza tienen valor por lo que han de ser cuidados por los humanos, pero carecen de dignidad, no son personas, no asumen responsabilidades.
El subtítulo del libro es abordado a partir del capítulo 9 Eclipse de la razón comunicativa: un reto radical para la democracia, en el expone la importancia del lenguaje, de la competencia comunicativa para construir una sociedad cosmopolita democrática. Se impone aclarar los significados de las palabras que afectan a la vida política, concretamente "democracia".
Hay muchos grupos que quieren apoderarse de las palabras y resignificarlas a su favor, lo hacen en democracias asentadas sembrando odio y confusión. Adela los llama enemigos de las palabras. Así comienza su análisis de la posverdad como problema de la filosofía práctica, del derecho, de la política y de la religión, porque es un problema de la opinión pública que actúa como control social arbitrario, como nuevas inquisiciones que propician los extremismos basados en la indignación.
Cuando los sentimientos se extreman se desorientan y anulan su pretensión de Justicia social. Aparece una situación en la que las palabras son incomprensibles al responder tan solo a emociones o intereses de audiencia. Aquí, en este universo tecnologizado, los algoritmos han creado ya una ideología en la que delegamos decisiones y vamos desapareciendo como sujetos autónomos.
Aclara la definición de posverdad con la RAE (pág. 154) como distorsión deliberada de la realidad que manipula creencias y emociones para provocar actos. Los demagogos aprovechan el poco interés que tenemos en distinguir la noticia verdadera de la falsa y dirigen sus discursos directamente a las emociones y creencias para motivar en una sola dirección. Es una cuestión de voluntad, no de saber.
Nos recuerda que lo contrario de la verdad es el error y lo contrario de la veracidad la mentira, esta es cosa voluntaria, pertenece al ámbito ético, jurídico, político y religioso.
La justicia social se debe practicar con las personas por ser personas, no por tener unas características particulares (pág. 162), así de claro, para no caer en la inteligibilidad de las palabras.
Sobre la fuerza que tiene la opinión pública escribe el capítulo 10, en el que nos muestra la importancia del temor al aislamiento, somos sociales y no queremos estar aislados hasta el punto de autocensurarnos ante el punto de vista mayoritario. Esto es un gran obstáculo para la democracia, concretamente la espiral del silencio, autocoacción para morderse la lengua, para mantener una reputación y estatus social, se trata de poder social, no argumentos. La gente nos callamos porque no queremos manifestarnos contra el consenso mayoritario, el buen gusto, lo moralmente correcto, lo políticamente correcto, lo que se lleva, si no se corre el riesgo de la vergüenza social que refuerza la polarización. En ese momento la deliberación es imposible ya, la negociación no puede ser y la democracia cae.
Desde la antropología evolutiva (pág. 177) explica cómo hemos ido practicando tendencias tribales como adaptaciones a lo largo del tiempo, solidarizándonos con los miembros de nuestro grupo y rechazando a los extraños. Pero nuestro cerebro tiene plasticidad y es inteligente para integrar, relacionarse con otros, yendo más allá del nosotros y construir sociedades contractuales, estatales, plurales, democráticas. Por esto los nacionalismos no son de este tiempo, más bien son dogmas que impiden ser actuales al imponerse sin crítica.
Cuidado con la dogmatización de las propuestas, solo es dogma el modo en que se defienden, quienes las defienden de manera absoluta. Frente a ellos la moral, que argumenta, razona, es inteligible, veraz, tiene a la justicia. De ahí la necesidad de un lenguaje clarificador.
La arrogancia y desmesura de un mal uso de las palabras es antidemocracia porque refleja la intencionalidad del hablante para confundir, herir y sacar ventaja individual.
Propone su ética de la razón cordial, que reconoce la razón y el sentimiento como indisolubles, para una educación pública basada en la tradición socrática del diálogo, de un reconocerse y entenderse con los demás, para cooperar, objetivo primario del lenguaje en la evolución humana, también en el ámbito político la cooperación es imprescindible a partir de la palabra, nuestra razón es dialógica y no monológica. A partir de aquí, distingue entre informar y conocer, entre conexión y diálogo, ya no son lo mismo y confundirlos supone injusticia social.
Interpretar datos en nuestra sociedad del conocimiento debe conducir a vivir mejor, propiciar cambios justos, globales por el interés emancipatorio del ser humano. Lejos de códigos ininteligibles, propios de pícaros, hay que reconocer al otro en la palabra y con la palabra clara, y esto es cosa de voluntad, de querer, de derechos y alejarse de ideologías, los dogmatismos, que manipulan y discriminan, que usan las palabras desde la superioridad para dominar cual arma de destrucción masiva.
Propone conocer los distintos juegos del lenguaje, al modo wittgensteiniano, para el entendimiento mutuo, en todos los ámbitos públicos ya sean científicos, técnicos, políticos o profesionales. Hay que ser coprotagonista de la vida que compartimos. Hay que ejercer el derecho de cada persona a comprender aquello que le afecta, es un deber de los gobiernos y las administraciones públicas hacerse entender. Lo vemos en el terreno del derecho, de la salud o las finanzas por poner tres ejemplos en los que los afectados no entienden los tecnicismos resultando excluidos de su propia vida.
La comunicación clara genera confianza y eficacia, evitando malestar social, emocional y personal. Urge actuar bien y comunicar bien, verazmente, con justicia.
Acaba en su terreno, en la educación como ámbito clave para mejorar humanamente. Propone puntos de encuentro interculturales a la hora de educar en valores, desde la crítica y la duda, hacia el cosmopolitismo democrático, haciendo uso de la IA, sabiendo que no es neutral. Los sesgos de la tecnología están ahí, no lo olvidemos.
Por último anima a enseñar al alumnado a captar la desinformación, la manipulación y propaganda, es decir a ser críticos para ser autónomos. Deberíamos empezar por leer en profundidad para pensar en profundidad y no permitir ser meros medios para empresarios o estados que solo buscan beneficios económicos propios.
Los medios sociales, las redes sociales, nos pueden programar para actuar consumiendo, para sentir y emocionarnos manipuladamente, incluso contra nuestros propios intereses como los medioambientales. La economía de la atención es un hecho, triunfan los mensajes escuetos y visuales que fomentan la adicción, la modificación de conductas y la falta de voluntad propia.
Como vivimos en un mundo extractivo, predictivo y modificador de conductas, se hace difícil un tipo de educación crítica y emancipadora, pero tenemos razón comunicativa, somos solidarios y responsables, nos anima a usar la razón cordial.
