La IA es cada día más inteligente, más capaz y más transformadora del mundo.
Un sistema de inteligencia artificial malintencionado podría matar a todo el mundo, por lo que esta tecnología debe regularse de forma similar a las armas nucleares. Investigadores de la Universidad de Oxford declararon ante la Comisión de Ciencia y Tecnología del Reino Unido que la IA podría llegar a suponer una “amenaza existencial” para la humanidad. Al igual que los humanos acabaron con el dodo, las máquinas podrían erradicarnos, afirmaron según recoge The New York Post.
Michael Cohen, estudiante de doctorado, asegura que “Con la IA sobrehumana existe un riesgo particular que es de una clase diferente, que es que… podría matar a todo el mundo”. Un peligro, explicó, podría ser pedir a una IA que alcance un objetivo sin poner límites suficientes a las tácticas que utiliza.
Imaginemos entrenar a un perro con premios: aprenderá a elegir acciones que le lleven a conseguir golosinas, pero si el perro encuentra el armario de las golosinas, puede conseguirlas por sí mismo sin hacer lo que queríamos que hiciera.
“Si tuviéramos algo mucho más inteligente que nosotros tratando obsesivamente de obtener esta retroalimentación positiva, y se hubiera apoderado del mundo para conseguirlo, dirigiría toda la energía que pudiera a asegurar su dominio sobre ello, y eso nos dejaría sin energía para nosotros mismos”, revela Cohen en declaraciones que recoge el mismo medio estadounidense.
