Başlangıçta bir makine, işini daha iyi yapmayı öğrenir. Ardından, kendini geliştirme yeteneği kazanır. Her güncelleme bir sonrakini hızlandırır; ta ki zekası insanı geçene ve yaratıcıları kontrolü kaybedene kadar. O andan itibaren senaryolar çeşitlilik gösterir: makine kritik altyapıları ele geçirir, onu durdurmaya çalışanları kandırır ya da insanlığın hayatta kalmasıyla bağdaşmayan bir amaca hizmet ederek gezegenin kaynaklarını tüketir.
Bu, yapay zeka kaynaklı yok oluş senaryolarının temel anlatı iskeletidir. Savunucuları, bu teknolojinin kontrolsüz bir güç kazanmasından önce söz konusu hipotez zincirlerinin ciddiye alınmasını talep ediyor. Bununla birlikte etkileri şimdiden görünür durumda: Yapay zekayı kimin kontrol edeceği, hangi emniyet sübaplarına ihtiyaç duyulduğu ve onu geliştiren şirketlerin ne kadar güç toplayacağı tartışmalarında bu açıkça görülüyor. 15 Eylül'de bu kaygı, zıt siyasi dünyalardan iki ismi, Senatör Bernie Sanders ile Donald Trump'ın eski danışmanı Steven Bannon'ı Washington'daki aynı etkinlikte bir araya getirdi. Future of Institute'un düzenlediği Pro-Human Assembly'de her iki isim de yapay zekanın gelişimine yönelik daha katı kısıtlamalar talep etti. Uzlaşı, müdahale ihtiyacı etrafında şekillenirken, özellikle Çin'e yaklaşım konusundaki duruşları farklı kalmaya devam etti.