Entregar a la Inteligencia Artificial (IA) el papel de las decisiones bélicas y de defensa es un problema muy serio que va en aumento y posiblemente sin control suficiente. ¿Qué grado de humanidad se le puede pedir a una máquina programada para matar tomando ella misma las decisiones.
En caso de un desastre bélico humanitario de gravísimas consecuencias, nunca podríamos juzgar a una máquina o a un software por haber tomado decisiones. Por no haber sabido medir las consecuencias, si realmente antes ya la hemos programado para hacer bien ciertos trabajos, buscando ciertos objetivos.
Cada vez más importante en los conflictos bélicos actuales, como los de Gaza y Ucrania, y se está utilizando de diversas maneras la IA para atacar objetivos y personas. Ya sabemos que hay mecanismos de IA que son capaces de seguir a personas identificadas controlando todos sus movimientos y realizando cuando así lo considere la orden recibida.
Recolección y análisis de datos para inteligencia militar:
La IA se utiliza para analizar grandes cantidades de datos de diversas fuentes, como imágenes satelitales, redes sociales escritas por personas sin saber que están siendo vigiladas y para interceptar comunicaciones o para obtener información sobre las fuerzas y movimientos del enemigo. Se obtiene información inteligente sobre las fuerzas enemigas, sus movimientos y sus debilidades. Los algoritmos de IA pueden identificar patrones y tendencias que los humanos podrían pasar por alto, lo que puede dar a los ejércitos una ventaja significativa en el campo de batalla.
Armas casi autónomas del control de humanos:
Se están desarrollando y desplegando sistemas de armas autónomos que pueden seleccionar y atacar objetivos sin intervención humana. Estos sistemas, como los drones kamikaze, pueden ser útiles para los ejércitos al reducir las bajas en combate de quien ataca, pero también plantean serias preocupaciones éticas y legales sobre la responsabilidad por las muertes y daños causados los enemigos. ¿Quien marca lo que es rico y legal y lo que no?. La IA se utiliza también para lanzar ataques cibernéticos contra infraestructuras críticas, como redes eléctricas y sistemas de comunicación.
Estos ataques pueden tener un impacto devastador en la población civil y pueden utilizarse para sembrar el caos y la disrupción en un país. pero también la IA se utiliza para crear y difundir propaganda y desinformación en las redes sociales y otros medios de comunicación. Esto puede utilizarse para influir en la opinión pública, sembrar discordia entre la población y socavar la confianza en las instituciones.
El impacto de la IA en la guerra:
La llegada de la IA está cambiando el papel de los ejércitos de varias maneras, pues aumenta la precisión y la eficiencia de las operaciones militares, permite a los ejércitos luchar con menos bajas propias, y puede crear nuevas oportunidades para la innovación y el desarrollo de nuevas armas y tácticas. pero es una herramienta que podría no tener un final diseñado con anterioridad. hay que tener en cuanta que la IA se basa en la toma de decisiones de máquinas, y eso que es programable, puede serlo hasta el punto que quieran los propios programadores.
El potencial de que la IA se puede volver incontrolable en las guerras actuales y es una preocupación importante que genera un gran debate entre expertos y líderes mundiales.
Existen diversos factores que podrían contribuir a la pérdida de control sobre los sistemas de IA en el contexto militar, tanto en su diseño y desarrollo como en su piratería o en escaladas no controlables o no intencionadas a la hora de diseñar las órdenes a las herramientas.
El impacto de la IA en la guerra:
La llegada de la IA está cambiando el papel de los ejércitos de varias maneras, pues aumenta la precisión y la eficiencia de las operaciones militares, permite a los ejércitos luchar con menos bajas propias, y puede crear nuevas oportunidades para la innovación y el desarrollo de nuevas armas y tácticas. pero es una herramienta que podría no tener un final diseñado con anterioridad. hay que tener en cuanta que la IA se basa en la toma de decisiones de máquinas, y eso que es programable, puede serlo hasta el punto que quieran los propios programadores.
El potencial de que la IA se puede volver incontrolable en las guerras actuales y es una preocupación importante que genera un gran debate entre expertos y líderes mundiales.
Existen diversos factores que podrían contribuir a la pérdida de control sobre los sistemas de IA en el contexto militar, tanto en su diseño y desarrollo como en su piratería o en escaladas no controlables o no intencionadas a la hora de diseñar las órdenes a las herramientas.
Una IA puede tener una autonomía alta o baja, y eso depende de quien la está utilizando, pero esa autonomía se puede ir cambiando según vayan avanzando los conflictos. No será la misma si se gana que si se pierde. Cambiarán los objetivos, las estrategias y los fines de esa IA programada para la guerra.
Hay además un factor que podríamos llamar “sorpresa” pues nadie sabe todo sobre la IA y el uso que se puede hacer de ella. Imaginemos que es capaz de interferir en todos los ordenadores del mundo que tengan instalado un cierto sistema operativo, o un determinado programa muy común. Y a partir de esa opción que puede parecer imposible, pensamos qué catastrófica situación se produciría entre los atacados.
La complejidad de los sistemas de IA dificulta la comprensión de sus decisiones finales y es casi imposible la atribución de responsabilidades en caso de errores. Esto plantea desafíos éticos y legales para garantizar la rendición de cuentas y evitar el uso irresponsable de la IA. La IA puede utilizarse para lanzar ataques cibernéticos sofisticados y difundir desinformación a gran escala, lo que podría desestabilizar infraestructuras críticas, sembrar discordia y manipular la opinión pública.
El uso de la IA para ataques cibernéticos y guerra de información podría desestabilizar regiones enteras y escalar los conflictos locales a un nivel global, y lo que es todavía más grave, la creciente dependencia de la IA en la toma de decisiones militares podría erosionar el control humano sobre el uso de la fuerza y aumentar el riesgo de guerras no intencionadas o incluso de una guerra autónoma.
Hay además un factor que podríamos llamar “sorpresa” pues nadie sabe todo sobre la IA y el uso que se puede hacer de ella. Imaginemos que es capaz de interferir en todos los ordenadores del mundo que tengan instalado un cierto sistema operativo, o un determinado programa muy común. Y a partir de esa opción que puede parecer imposible, pensamos qué catastrófica situación se produciría entre los atacados.
La complejidad de los sistemas de IA dificulta la comprensión de sus decisiones finales y es casi imposible la atribución de responsabilidades en caso de errores. Esto plantea desafíos éticos y legales para garantizar la rendición de cuentas y evitar el uso irresponsable de la IA. La IA puede utilizarse para lanzar ataques cibernéticos sofisticados y difundir desinformación a gran escala, lo que podría desestabilizar infraestructuras críticas, sembrar discordia y manipular la opinión pública.
El uso de la IA para ataques cibernéticos y guerra de información podría desestabilizar regiones enteras y escalar los conflictos locales a un nivel global, y lo que es todavía más grave, la creciente dependencia de la IA en la toma de decisiones militares podría erosionar el control humano sobre el uso de la fuerza y aumentar el riesgo de guerras no intencionadas o incluso de una guerra autónoma.
¿Quien firma la PAZ y con quien, ante una guerra creada, controlada o amplificada por sistemas de IA?
Podríamos pensar ya hoy mismo que esto que planteo es una aberración, un sin sentido, una utopía loca. Y de verdad, es mucho mejor que así sea.
Podríamos pensar ya hoy mismo que esto que planteo es una aberración, un sin sentido, una utopía loca. Y de verdad, es mucho mejor que así sea.
