Telcel Empresas Articulos

La Inteligencia Artificial y las armas automatizadas son un coctél molotov que puede originar graves daños en las manos equivocadas. La ONU discute este tema.

La semana pasada se realizó la primera Convención de las Naciones Unidas sobre Armas Convencionales (CCW), para debatir sobre la posible prohibición o regulación de los que llaman los “robots asesinos”, que es todo aquel armamento que utiliza la Inteligencia Artificial (IA) para identificar y destruir objetivos sin intervención humana.

En este debate participan empresas, gobiernos, especialistas del sector y académicos, y aunque se ha dicho que los robots no se están apoderando del mundo, pues los humanos todavía están a cargo, sí es necesario pensar en regular a tiempo este negocio, que puede originar una nueva era en el uso de la tecnología y su automatización remota gracias a los actuales adelantos de la IA.

Si bien la prohibición no sucedió, la CCW fue capaz de crear las bases para las conversaciones que continuarán durante 2018. A pesar de que los analistas aún desechan las visiones apocalípticas de que los robots destruirían a la humanidad debido a que podrán tomar decisiones por sí mismos, lo cierto es que siguen viendo como un peligro más factible una mala programación, un hackeo o la venta de este tipo de armas en el mercado negro, que le darían una mayor competitividad al terrorismo y a los grupos extremistas para acceder a tecnologías destructivas a precios más económicos.

Durante la reunión de la semana pasada, hubo dos puntos de acuerdo que la mayoría de las naciones aplaudió. Primero: la creación de un “instrumento jurídicamente vinculante” que controle el uso, desarrollo y creación de dicha tecnología; y segundo, que “los estados acepten que se debe mantener alguna forma de control humano sobre los sistemas de armas”. El siguiente paso a discutir será decidir “qué significa el control humano efectivo en la práctica”.

De 86 naciones que participaron en esta discusión, 22 pidieron una prohibición total del desarrollo de estas armas con IA, las cuales podrían ser programadas con la capacidad de tomar decisiones de muerte.

Para algunos participantes, países como Estados Unidos, Rusia y China ya trabajan en este tipo de armamento, y aseguran que lamentablemente la prohibición llegará después de que una de estas tecnologías maten primero a una gran cantidad de gente, o a una personalidad política importante.

Fuera de la ONU, decenas de países están haciendo sus propios movimientos para evitar que las armas autónomas se salgan de control. A principios de este año, se informó que el Reino Unido estaba prohibiendo las armas con IA. Sin embargo, países como Rusia no parecen estar muy interesados en desacelerar su producción: sólo este año, han exhibido drones, tanques ligeros, armas de fuego, robots e incluso misiles de crucero que funcionan con inteligencia artificial y pueden pensar, dirigir, buscar y destruir objetivos.

La convención de cinco días finalizó el pasado 18 de noviembre, y fue convocada para discutir armas autónomas e incluyó la proyección de un cortometraje titulado Slaughterbots para advertir a los miembros de CCW de lo que podría pasar si los robots asesinos cayeran en las manos equivocadas. ¿Qué opinas al respecto?