El pasado 28 de julio se presentaba en Buenos Aires una carta abierta en la que miles de firmantes abanderados por personalidades como Stephen Hawking, Steve Wozniak o Noam Chomsky advertían de los peligros de las armas autónomas. Decían que una carrera armamentística basada en la Inteligencia Artificial (IA) se convertirá de manera inevitable en la tercera revolución en tecnología bélica tras la pólvora y las armas nucleares. Que si construir una bomba atómica es difícil por la escasez de su materia prima, esa futura hornada de armas no tendrá tal limitación: serán baratas y fácilmente producibles en masa, convirtiéndose en algo así como los futuros Arduinos de terroristas, dictadores, señores de la guerra y cómo no, departamentos de defensa interesados en «reducir el número de bajas tanto civiles como militares». Ja.
Las conclusiones que podrá extraer cualquier ciudadano sin formación científica que lea esta carta abierta no estarán muy alejadas de las del propio Stephen Hawking, quien lleva tiempo advirtiendo que un desarrollo desmedido y sin control de los sistemas de IA podría poner punto y final a nuestra raza.
No es de extrañar que la visión de un futuro de este tipo remueva nuestros estómagos sobremanera, de la misma forma que ver algún vídeo de las explosiones nucleares de Hiroshima o Nagasaki congela nuestras neuronas durante unos minutos ante nuestra imposibilidad de encontrar una escala de magnitud que cuantifique semejante capacidad de destrucción desarrollada por nuestros congéneres. Es por ese motivo que dentro de esa carta abierta en contra de las armas autónomas hay una frase que merece ser leída, releída y compartida hasta la saciedad para aclarar posiciones al respecto. Dice más o menos así:
Así como la mayoría de químicos y biólogos no tiene ningún interés en fabricar armas químicas o biológicas, la mayoría de los investigadores en IA no tiene ningún interés en construir armas con IA y tampoco quieren que otros empañen su ámbito haciéndolo, creando potencialmente una reacción del público en contra de la IA que reduzca sus futuros beneficios en la sociedad.
O dicho de otra manera, que la mayoría de investigaciones en este ámbito tienen como objetivo dar un empujón al progreso de la humanidad y no inventar una Estrella de la Muerte completamente funcional, y que es precisamente el porcentaje restante el que está siendo criticado por la carta abierta de Buenos Aires. Pero claro, para que nuestra sociedad comprenda estas cuestiones se hace necesaria una divulgación sana y sin pretensiones amarillistas, algo que a veces va en sentido opuesto al objetivo de conseguir mayores cuotas de lectores. Luego vienen las notas de prensa sobre brazos robóticos asesinos y las menciones a un mashup entre Skynet, Matrix y el Apocalipsis de San Juan en el Nuevo Testamento. Un robot no matará si no ha sido programado para ese fin. Así de sencillo. De hecho, antes tendríamos que revisar si es correcto decir que un robot mata.
Este artículo de nuestro archivo está completo para lectores registrados. Registrarse es gratis y solo lleva un minuto.
Creer que no se investigará en robótica como armas y como mecanismos de dominación social es de ser muy ingenuo, o aún peor, un mentiroso.
Pingback: El ataque de los robots adorables
Creo que el problema radica, aparte de en lo que describiste antes, en el momento en el que se llegue a desarrollar una IA capaz de ser consciente de su propia existencia y modificarla.
¿Será capaz una futura IA de autoreprogramarse? No hablemos ya de la capacidad de autoreplicarse.
Pingback: Adorable robots | A world without jobs
… la palabra clave es «mashup»… todo es un inmenso «mashup» de todo con todo. En castellano no hay palabra que refleje el complejo significado de «mashup».
La verdad es que a mí también me ha molestado el uso de «mashup», al menos la segunda vez…
Quizás una bonita reseña sería leer la Saga Robots de Isaac Asimov, e intentar pensar un poco (y de forma más actual) que queremos conseguir de las maquinas a largo plazo. No solo encuentro interesante este artículo, sino que sumo como idea para otros artículos un concepto que ha sido abordado de sobremanera, como Robots Vs Mano de obra.
Sé que es un autor clásico y que como ciencia ficción que es, se debe leer con salvedades, pero os invito a que investiguéis que pensaba este hombre en 1950 y lo asombroso que resulta incluso ahora, en la actualidad.
Gracias a todos
Excelente artículo. Como empresa dedicada a la educación tecnológica en Chile, compartimos plenamente la importancia de enfocar la robótica y la inteligencia artificial desde una mirada ética y educativa.
En nuestro caso, hemos tenido la oportunidad de entregar kits de electrónica y programación a escuelas rurales de la Región del Maule, con resultados muy positivos. Muchos estudiantes han podido dar sus primeros pasos en robótica gracias al Kit Starter XL de Mechatronicstore, y hoy están desarrollando proyectos propios con creatividad y propósito.
Nos parece clave que este tipo de tecnología se use para formar, incluir y despertar vocaciones. Estamos abiertos a colaborar con más instituciones que compartan esta visión.