Las negociaciones internacionales para establecer límites al uso de inteligencia artificial en sistemas de armas letales enfrentaron nuevos obstáculos luego de que Estados Unidos y Rusia respaldaran modificaciones que eliminaron algunas de las salvaguardias contempladas en el proceso impulsado por Naciones Unidas.
Entre los elementos retirados del proyecto se encontraban
disposiciones orientadas a garantizar que los sistemas de armas funcionen de
manera predecible, incorporen consideraciones éticas y mantengan una
supervisión humana antes de ejecutar ataques con apoyo de inteligencia
artificial.
Los cambios reflejan las dificultades para alcanzar un
consenso internacional sobre el grado de autonomía que pueden tener las armas
capaces de utilizar algoritmos para identificar objetivos y apoyar decisiones
relacionadas con el uso de la fuerza.
La discusión cobra especial relevancia ante el desarrollo
acelerado de tecnologías militares basadas en IA. Organizaciones humanitarias y
distintos gobiernos han advertido sobre los riesgos de permitir que sistemas
automatizados intervengan en decisiones que pueden tener consecuencias letales.
Las negociaciones de la ONU buscan establecer reglas comunes
para determinar qué grado de control humano debe mantenerse sobre este tipo de
armamento y cuáles deberían ser los límites para su desarrollo y utilización.
El retiro de las salvaguardias mencionadas representa un
revés para la ONU y para quienes buscan establecer controles internacionales
más estrictos sobre las armas autónomas, aunque las conversaciones diplomáticas
sobre el tema continúan.