Elon Musk habla sobre la peligrosidad de la inteligencia artificial

El detalle es que estás pensando en la computación clásica, la cual sólo ejecuta instrucciones y está limitada a lo que los humanos puedan programar. 

Sin embargo existe la posibilidad de imitar las conexiones de un cerebro biológico de forma sintética, si se consigue la suficiente complejidad se podría crear un cerebro inteligente, este tipo de inteligencia no estaría atado a solo ejecutar instrucciones programadas por humanos, sino que podría desarrollar su propio aprendizaje, incluso su propia ética, como consecuencia, no podrías programarle cosas como "las leyes de la robotica", pues no es una inteligencia programable, y en términos prácticos, podrían construirse cerebros con inteligencia tan grande que ni siquiera podríamos comprender.

Si hoy ni siquiera podemos hacer computadores con la inteligencia de una cucaracha, a lo mas robots que son automatas en su desplazamiento pero no viven en colonias, no se comunican y organizan con otros, salvo para tareas muy pero muy extremadamente limitadas como jugar robofutbol o cosas asi.

 Porque tener miedo a una "inteligencia superior" de que hablamos? de poder de calculo facilmente un servidor hoy suma, saca la integral, calcula la ruta mas eficiente y etc que cualquier otro humano, es capaz de guardar inmensas cantidades de datos e indexarlos y encontrarlos con facilidad

 Pero ha creado el humano una maquina que sea consciente de su existencia, que se comunique libremente con otras maquines y se organicen, que tenga aleatoriedad y cometa errores y aprenda de ellos mas alla de rudimentarios algoritmos geneticos o redes neuronales. Tenemos computadores que solo inventan otras computadoras a su gusto y libertad. Estamos quizas ha 200 o 500 años de que una maquina siquiera equipare la inteligencia en toda su expresion de un chimpance, y de aqui a 500 años con lo bestia que son los humanos destruyendo todo no se de que temer, hasta quizas esas maquinas programadas de forma logica quizas sean mejores que nosotros y se den cuenta que somos una peste que extermina especies y nos pongan en control