¿Qué hará la IA?. Por Javier Sáez de Ibarra

 

En su estudio de filosofía moral, Alasdair MacIntyre recoge las posiciones encontradas de dos autores que representan sendas formas de entender qué es la justicia. Por un lado, la de Robert Nozick, para quien la justicia consiste en el derecho de cada cual sobre lo que posee, de manera que su propiedad merece ser respetada y nadie puede atentar contra ella. Mientras que para John Rawls la justicia se define por que todos los miembros de una sociedad tengan derecho a que sus necesidades básicas sean satisfechas: todos merecen ser atendidos. En consecuencia, mientras uno apuesta por que ningún poder menoscabe las propiedades de un particular adquiridas legítimamente; el otro, en cambio, aboga por políticas redistributivas que beneficien a una mayoría que necesita bienes básicos. Ambos planteamientos, dice MacIntyre, coinciden en proteger aquello que merece toda persona y son igualmente racionales, si bien antagónicos e incompatibles. Y concluye: “Nuestra cultura pluralista no posee ningún criterio racional ni método alguno para contrapesar y decidir a favor de las pretensiones basadas en el legítimo derecho o de las basadas en la necesidad” (Tras la virtud, capítulo 17). La discusión entre los dos pensadores, como entre quienes comparten sus posturas, es y será interminable, añade, y nunca llegará a ninguna conclusión, pues los puntos de partida de cada cual son absolutamente diferentes

“¿Qué decisiones cruciales tomaría una IA superdesarrollada y con qué criterio? ¿Se pondrá de parte de R. Nozick o de J. Rawls?”

La Inteligencia Artificial basada en una tecnología cuántica dispondrá en poco tiempo, más aún de lo que lo hace ya, de una cantidad fabulosa de datos y de la facultad de aprender por sí misma; será capaz de hacer cálculos y establecer relaciones con toda clase de áreas del conocimiento, valorar la mejor opción si es necesario y tomar decisiones técnicas a velocidad increíble. Esto le permitirá realizar las operaciones más oportunas como, por ejemplo, en el terreno de las finanzas: comprar a las 12:17: 41 un determinado valor bursátil y venderlo a las 12:17:52 obteniendo una ganancia inmediata. Ahora bien, ¿cómo actuará si los seres humanos les concedemos un poder decisorio sobre áreas estratégicas, tal como la militar? Pongamos, en el caso de un conflicto bélico, decidir entre desplegar tanques en un determinado frente y hacerlos disparar o, al contrario, suspender el ataque y dejarlos detenidos en los campos.

¿Qué decisiones cruciales tomaría una IA superdesarrollada y con qué criterio? ¿Se pondrá de parte de R. Nozick o de J. Rawls? ¿Qué considerará en el caso de hallarse ante un dilema: optar a favor del bien particular, pongamos, de la empresa que la ha desarrollado o de su propio país; o el bien de la mayoría de seres humanos a quienes podría perjudicar la decisión que tome? Llamemos a unos liberal-capitalistas y a los otros social-comunitarios, para entendernos. Si los técnicos que han diseñado la IA son liberal-capitalistas, parece lógico que le impongan la prioridad de asegurar la propiedad adquirida y la obtención de nuevos beneficios. La IA seguirá esas consignas; sin embargo, ¿y si se produce en ella una conversión ideológica motu proprio contra los principios que se le han dado y se decanta por el criterio social-comunitario? Puesto que la máquina en cuestión realiza por sí misma el proceso de aprendizaje y toma decisiones conforme a consideraciones tanto técnicas como valorativas, tal cosa es virtualmente posible. En consecuencia, cabe la posibilidad de que actúe en contra de las consignas que le han dado para decepción de sus programadores o que, incapaz de contradecirlas, se colapse y no haga nada.

Ahora vayamos a un ejemplo real: la guerra de Rusia contra Ucrania. Imaginemos que una IA creada en Estados Unidos recibe la siguiente información básica:

1ª: El presidente ruso V. Putin pretende apoderarse de parte del territorio de Ucrania para conseguir la expansión del área de influencia de Rusia y no perder un lugar preeminente en la política mundial.

2ª: El objetivo de Estados Unidos es contener y debilitar a Rusia para asegurar su propia hegemonía, con este objetivo busca que Ucrania se incorpore a su alianza militar (OTAN), lo que le permitirá desplegar armas muy cerca de su enemigo.

3ª: Ucrania, que sostiene una guerra con los territorios fronterizos de mayoría rusa, considera que su ingreso en la OTAN le proporcionará la protección militar y política de EE.UU. y sus aliados contra Rusia.

4ª: Los países europeos que pertenecen a la OTAN denuncian la agresión de Rusia, siguen la política de EE.UU. y defienden, con limitaciones, a Ucrania a la que pretenden admitir en la alianza militar.

5ª: La guerra de Rusia contra Ucrania ya ha empezado con las siguientes consecuencias:

  • Rusia, en efecto, ha invadido parte del territorio ucraniano. Se ha asegurado la franja ucraniana de mayoría rusa y amenaza con seguir expandiéndose indefinidamente.
  • Ambos países están sufriendo un gran desgaste humano (a mediados de 2024 podrían ser 100.000 muertos entre ambos bandos) y también material.
  • Europa ha aumentado el gasto militar y está proporcionando diferentes apoyos a Ucrania aunque aún no abiertamente soldados y armas.
  • EEUU. apoya a Ucrania con la venta masiva de armamento. Ha conseguido romper lazos comerciales de Europa con Rusia (por ejemplo, el suministro de gas que ahora provee EE.UU.).

“Es casi inevitable suponer que Rusia posea otra IA de semejantes características, la cual, conforme a los criterios liberal-capitalistas, tomará la decisión más ventajosa para los intereses rusos”

Una IA con la capacidad extraordinaria para considerar no solo estas sino todas las variables geopolíticas, económicas, estratégicas y militares recibe el cometido de indicar la opción más beneficiosa para Estados Unidos y la empresa informática que la ha creado. Tras un cálculo vertiginoso que tal vez se demore un minuto, da la respuesta. Con ella, la IA nos informa de cuál es el futuro que nos aguarda una vez que ella dirija las actuaciones de ese bando del conflicto. Quiero decir, un futuro que puede extenderse a un lustro, acaso una década (algunas guerras recientes se han prolongado todo ese tiempo, pensemos en la que se ha dirigido contra Afganistán). La IA nos dirá los costes y beneficios que se obtendrán si se adopta la mejor opción que ella ofrece.

Es casi inevitable suponer que Rusia posea otra IA de semejantes características, la cual, conforme a los criterios liberal-capitalistas, tomará la decisión más ventajosa para los intereses rusos. Es plausible que las dos Inteligencia Artificiales sepan de la existencia de la otra y que, tras estudiar el asunto deprisa pero hasta el fondo, lleguen a la misma conclusión: por ejemplo, que uno de los dos bandos caerá derrotado por el otro al cabo de seis años. Ante este hecho, cabe que la decisión de una de ellas sea: renunciar a la guerra ahora. Pero asimismo sabe que el otro bando, conociendo que vencerá, no aceptará esa renuncia. En ese caso la IA del bando que va a perder quizás proponga una de estas dos alternativas:

1ª: rendirse pero salvaguardando determinadas posesiones para ciertas empresas o incluso políticos concretos (sería la posición de los liberal-capitalistas: defender bienes particulares);

2ª: provocar una conflagración que destruya el propio país, pero igualmente al enemigo (opción que llamaríamos nihilista: ya que no se puede beneficiar al bando en que se está, no se favorece tampoco al adversario cuyo interés le es ajeno).

Ahora consideremos que las dos IA, tanto la del bando que vencería como el que sería derrotado, calibrando la muerte de otras 100.000 personas para dentro de dos años, adoptaran la posición que he llamado social-comunitaria.

En tal caso, resulta predecible que ambas IA adopten la siguiente posición:

3ª: proteger el bien de la mayoría (la salvaguarda de la vida es, sin duda, el bien primordial de toda persona), en este caso de los ciudadanos rusos y ucranianos como de sus soldados y aquellos de la OTAN que intervinieran. Una decisión que se tomaría  incluso en detrimento del interés privado tanto de EE.UU. como de Rusia.

“Si las IA dispusieran del control operativo sobre el funcionamiento de portaaviones, lanzaderas de misiles o incluso de bombas atómicas, estas dejarían de funcionar”

Si sucediera esto, aventuro, las dos IA aconsejarían detener la guerra de inmediato: que cesen las muertes. Esto, obviamente, contravendría los intereses particulares de los contendientes: el ansia expansionista de Rusia, el conflicto fronterizo de Ucrania, el acoso de EE.UU. y la expansión de la OTAN hacia el Este de Europa. Los beneficios de la propiedad de cada cual quedarían obstaculizados por su rechazo a entregar a cambio tantas vidas humanas. La tesis social-comunitaria se impondría sobre la liberal-capitalista. Rawls sería preferido a Nozick.

Es más. Si las IA dispusieran del control operativo sobre el funcionamiento de portaaviones, lanzaderas de misiles o incluso de bombas atómicas, estas dejarían de funcionar. Los mandos del ejército no podrían utilizarlas. Imaginemos esas portentosas instalaciones armamentísticas completamente inservibles, militares caminando a su alrededor que levantan sus ojos a lo alto de semejantes moles sin saber qué hacer, tal vez desconcertados, tal vez rabiando.

Fuente: https://www.zendalibros.com/que-hara-la-ia/

1º de julio de 2024



::: 21 hits

Una respuesta a "¿Qué hará la IA?. Por Javier Sáez de Ibarra"

  1. Como toda invencion humana, una definicion sobre IA pasa por la incapacidad manifiesta de conocer que modelo de ser humano hará uso de ella; en una cultura de ideologia liberal capitalista fuertemente influenciada por un mesianismo redentorista (sereis como dioses) es previsible que se ORGANICE y UTILICE de la peor manera, en un sentido destructivo movido por bajos, crueles, insensatos y malvados, de lo que se tiene sobrada experiencia.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *