Estimado señor Shin Sung-chul, me cuesta escribir su nombre, cosa comprensible siendo usted surcoreano y yo española. Los 10.000 km de distancia que nos separan no impiden que compartamos preocupaciones. Usted dirige el Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST, por sus siglas en inglés), que ha recibido el boicot de más de 50 científicos de Inteligencia Artificial de todo el mundo. ¿Por qué? Porque no se fían de que, bajo su dirección, el KAIST -en colaboración con la empresa de armas Hanwha Systems- no vaya a contribuir a crear los llamados "robots asesinos".

Le acusan de estar trabajando en el desarrollo acelerado de programas de armamento autónomo. Aquí a mucha gente eso le suena a chino (o a coreano, que es casi lo mismo). Si aún tiene algo de fantasmagórico ver vídeos de coches sin conductor, piense cómo resulta imaginar un gatillo que dispara solo y toma sus propias decisiones.

Se usan ya drones capaces de volar sin piloto, dirigirse a un objetivo preseleccionado -una persona o una instalación- y dejarle caer encima una bomba. Sin embargo, la idea de que se puedan miniaturizar tecnologías ya ampliamente desarrolladas, como la minería de datos o la geolocalización, e integrarlas en máquinas no sólo capaces de matar, sino de decidir a quién matan, nos inquieta. Para la guerra solía hacer falta un ejército, ahora basta un programador. Desde el punto de vista ético, esa disolución de la responsabilidad de matar cambia por completo el concepto de guerra, de asesinato y, por tanto, cuestiona elementos básicos de nuestra seguridad y nuestra libertad.

Los científicos que han llamado al boicot a sus programas le han pedido garantías de que no desarrollará armas autónomas que no dispongan de un control humano sustancial. Tras la polémica usted se ha comprometido a desistir y debemos confiar en su buena voluntad. La semana que viene se reúne el Grupo de Expertos Gubernamentales de la ONU para discutir en Ginebra sobre los peligros del armamento autónomo. Pero no nos engañemos, el panel de científicos del cambio climático se reunió por primera vez en 1990 y mire dónde estamos casi 30 años después. Sin decisiones políticas de los Estados, se avanza penosamente. Por eso le escribo a usted. Nadie manda en este mundo, pero alguien tendría que imponer una prohibición preventiva de las armas autónomas. Por el momento, no nos queda otra que confiar en sus buenas intenciones.