A finales del pasado mes de marzo apareció en las redes una carta abierta, promovida por el Future of Life Institute, pidiendo una moratoria de seis meses en los «grandes experimentos con IA», especialmente en «el entrenamiento de sistemas más potentes que GPT-4». El Instituto desde el que se toma esta iniciativa es defensor de ideas cercanas a planteamientos transhumanistas y a la filosofía conocida como «largoplacismo», y eso explica que la carta contenga algunas afirmaciones discutibles y que no todos los firmantes aceptarían, como alguno ya ha explicado. Por ejemplo, cuando se pregunta: «¿Deberíamos desarrollar mentes no humanas que, con el tiempo, pudieran superarnos en número, en inteligencia, volvernos obsoletos y reemplazarnos? ¿Debemos arriesgarnos a perder el control de nuestra civilización?». Esta posibilidad es lo que los transhumanistas llaman “la Singularidad” y están convencidos de que va a ocurrir más pronto que tarde, pero es una posibilidad recibida con escepticismo por muchos especialistas en IA, entre ellos firmantes de la carta como Gary Marcus o Ramón López de Mántaras.
La carta ha recibido duras críticas desde el primer momento. Hay quien piensa que es pura propaganda o, por el contrario, que intenta infundir el miedo sobre una tecnología que, como todas, por mucho que despierte recelos en un principio, traerá profundos beneficios para la humanidad. Veleidades neoluditas, al fin y al cabo. Así, pocos días después de la publicación, el 2 de abril Yann LeCun, uno de los más lúcidos y prudentes especialistas en IA, científico jefe en Meta y reciente premio Princesa de Asturias, escribió en su muro de Facebook: «No es una inocentada. Al amplificar la inteligencia humana, la IA puede causar un nuevo Renacimiento, tal vez una nueva fase de la Ilustración. Pero las profecías de una destrucción por parte de la IA están generando también una nueva forma de oscurantismo medieval. No es una inocentada».
No hace falta estar de acuerdo con el contenido de la carta al cien por cien, y mucho menos simpatizar con los objetivos del Future of Life Institute, para considerar que ha dado voz a una gran preocupación generada en gran medida por los avances extraordinariamente rápidos y sin control que vienen dándose en los últimos años en el campo de la IA. Los peligros reales no son los de escenarios distópicos al estilo Terminator. No hay por qué aceptar que vamos a tener pronto máquinas superinteligentes que van a tomar el control de todo y, por maldad o desidia, van a acabar con nuestra especie. Ni siquiera es necesario creer que los sistemas de IA que tenemos tienen auténtica inteligencia. Sean inteligentes o no, están teniendo ya consecuencias preocupantes sobre las que conviene pensar.
Este artículo de nuestro archivo está completo para lectores registrados. Registrarse es gratis y solo lleva un minuto.
Quizás parezca un artículo extremadamente alarmista pero creo que es lo suficientemente importante para que los gobernantes ya vayan buscando buenos expertos en el tema de la IA que permitan una asesoría conveniente cara a un futuro próximo
Lo de preguntar a la ciudadanía que opina ni se les pasa por la cabeza. Un puñado de compañías multimillonarias están decidiendo los destinos de la humanidad y el pueblo a asistir como espectador sin derecho a voz, ni voto una vez más.
Toma democracia de la buena.
el bostezo que me ha causado su comentario a sido la motivación para irme a dormir. un saludo y gracias.
Un argumento aplastante, irrebatible.
Me alegro de contribuir a su descanso.
Un saludo.
A mí, su «a sido» me causa inquietud.
No controlo demasiado bien el teclado del móvil y seguramente me pase mas veces. No obstante sigue usted sin argumentar nada. No es raro, les pasa a muchos. Es la cultura del «zasca», muy popular entre los que no tienen nada que decir.
Un saludo.
Pingback: Se necesita un cuerpo para entender el mundo: ¿Por qué ChatGPT y otras IA lingüísticas no saben lo que dicen? – Esfera Comunicacional
Pingback: Inteligencia artificial: prohibiciones arriesgadas - joselazaro.eu