"Nem látom, hogy (...) a
kontrollt a
gépeink felett mitől veszíthetnénk el
- még
akkor is, ha valóban sikerül emberi
értelemben
intelligens gépeket létrehoznunk. Csak rajtunk
múlik, hogy mindig legyen rajtuk egy kikapcs gomb,
és
mindig fogunk tudni gondoskodni arról, hogy ez
ellen a gomb
ellen ne tudjanak védekezni. Mi
építjük őket
akkor is, ha bizonyos feladatokban már ma is sokkal
értelmesebbek nálunk. Ezzel együtt a
veszély
mégis valós. A televízión
is van kikapcs
gomb, mégis sokan nem képesek azt megnyomni akkor
sem, ha
halálosan unják az összes műsort. Nem a
mesterséges intelligencia fejlődésétől
kell
hát félnünk, hanem saját
magunktól."
