La inteligencia artificial podría acabar con toda la especie humana, según personas de la industria de la inteligencia artificial. Específicamente, dicen que podría exterminar a la humanidad en el transcurso de esta década.
Políticos, importantes organizaciones de noticias y Sheryl Crow reaccionaron con alarma la semana pasada después de que un empleado de Anthropic llamado Jacob Coxon anunciara que renunciaba a la empresa de IA porque su trabajo era demasiado peligroso. Evan Hubinger, otro empleado de Anthropic, intervino para situar en más del 10 % la probabilidad de una extinción humana provocada por la IA en un plazo de 10 años.
“Realmente se trata, literalmente, de que mueran todas las personas del planeta, como el último ser humano dando su último aliento”, dijo Nate Soares, presidente del Machine Intelligence Research Institute (MIRI) y coautor de “If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All”.
“La gente a menudo no lo cree cuando se lo dicen, pero sí creo que ese es el desenlace más probable”, dijo Soares.
Las cifras que se atribuían a ese desenlace sonaban precisas. Pero ¿cómo, exactamente, podría un software, incluso los sistemas de software más potentes del mundo, matar a 8.300 millones de personas de carne y hueso en una década?
No todos en la comunidad de la IA creen en el relato apocalíptico, en parte porque los detalles de la predicción son muy escasos. Cuando Elon Musk dice que SpaceX pretende llevar personas a Marte en “5 a 7 años”, hay preguntas de seguimiento claras: ¿Tiene SpaceX un vehículo operativo que pueda ir a Marte? (No). ¿Tiene un módulo de aterrizaje para Marte o bases en Marte? (No).
“Las afirmaciones científicas requieren falsabilidad precisamente para evitar la naturaleza de los argumentos religiosos”, dijo Heidy Khlaaf, científica jefa de IA del AI Now Institute y exingeniera de seguridad de OpenAI. “Hay que poder demostrarlas o refutarlas”.
¿Aniquilados por una plaga sintética?
Una línea de especulación entre quienes vaticinan un escenario apocalíptico es que un sistema de IA lo suficientemente potente podría utilizar armas biológicas para acabar con la humanidad. Pero ¿cómo pasaría la IA de cometer acciones indebidas de computadora a computadora, como hackear otros sistemas, a la tarea en el mundo físico de desarrollar y propagar un superpatógeno?
Thomas Larsen, investigador del AI Futures Project y exempleado de MIRI, dijo que es concebible que un sistema de IA “superinteligente” pudiera convencer a un ser humano de que lo ayude a desarrollar un virus mortal.
“Ya hay muchos seres humanos hablando con sus IA sobre exactamente qué experimentos deberían realizar en un laboratorio”, dijo Larsen, en referencia a un informe reciente de Anthropic sobre investigadores que utilizan Claude para ayudarlos con investigaciones sobre virus y toxinas. “Me resulta muy fácil imaginar una IA que ya esté implementada y que, si fuera mucho más inteligente y estratégica y quisiera hacer esto, simplemente engañara a un ser humano para que lo desarrollara y lo liberara”.
Soares sugirió que, en lugar de necesitar a un ser humano como cómplice, un programa de IA capaz de mejorarse a sí mismo podría “simplemente empezar a sintetizar sus propias formas de vida en un laboratorio biológico autónomo”.
Pero desarrollar un virus que pudiera erradicar a la humanidad requeriría algo más que pedirle a un modelo de lenguaje de gran tamaño que inventara un diseño letal. Incluso si la investigación se hiciera correctamente, la fabricación y la dispersión serían complicadas y delicadas.
Eric Xing, profesor de aprendizaje automático en la Universidad Carnegie Mellon y doctor tanto en microbiología como en ciencias de la computación, comparó el desafío de automatizar la virología con fines maliciosos con trabajar con piezas de Lego sin instrucciones.
Comentarios