He escuchado repetidamente la afirmación de que las máquinas de aprendizaje no pueden exponernos a nuevos peligros, porque podemos desactivarlas cuando nos apetezca. Pero ¿es posible? Para desactivar una máquina eficazmente, debemos saber si ha llegado el punto de peligro. El mero hecho de haber creado la máquina no garantiza que tengamos la información adecuada para hacerlo. Esto ya está implícito en la afirmación de que la máquina de damas puede derrotar al hombre que la programó, y esto tras un tiempo muy limitado de desarrollo.