Existuje obava, že AI může dosáhnout úrovně, kdy bude schopna jednat autonomně a potenciálně ohrozit lidstvo. Někteří komentátoři přirovnávají AI k ohni, který je dobrým sluhou, ale zlým pánem, pokud se vymkne kontrole.

Mnoho komentářů vyjadřuje přesvědčení, že vývoj umělé inteligence nelze zastavit, a to i přes snahy některých velkých firem. I kdyby se některé společnosti rozhodly zpomalit, jiné, včetně těch z autoritářských režimů, budou pokračovat.