“奇點(diǎn)”是指人工智能將超過人類智能和我們控制它的能力的時刻?？茖W(xué)家認(rèn)為這一事件將發(fā)生在2045年左右。幸運(yùn)的是，《奇異倒計時》(Countdown To Singularity)背后的藝術(shù)家們正在認(rèn)真對待這種存在主義威脅。該項目的創(chuàng)始人兼策展人巴斯•范•德•波爾邀請參與者探討人工智能可能以何種方式將我們拖垮。
      其結(jié)果是一系列的設(shè)想，從非道德的機(jī)械化武器系統(tǒng)的發(fā)展到稍微世俗一點(diǎn)的想法，即我們所有人最終都可能變成曲別針。點(diǎn)擊下面的提交選擇。你也可以訪問該項目的網(wǎng)站，或者點(diǎn)擊這里加入斯蒂芬·霍金、埃隆·馬斯克和史蒂夫·沃茲尼亞克等人的行列，共同簽署生命未來研究所呼吁進(jìn)行人工智能安全研究的公開信。
      自主武器選擇和交戰(zhàn)目標(biāo)不需要人工干預(yù)。缺乏道德和死亡率可能迫使局勢升級，給平民帶來潛在的可怕后果。Gray Goo是一個假想的世界末日場景，描述的是失控的自我復(fù)制的納米機(jī)器人消耗掉地球上所有的物質(zhì)，同時無限期地進(jìn)行復(fù)制。機(jī)器將偷走你的工作有一半的可能性機(jī)器將取代你。時至今日，機(jī)器已經(jīng)威脅到人類目前三分之一的工作。
      這將導(dǎo)致更大的貧富差距，政治沖突和內(nèi)戰(zhàn)。Paperclip Maximizer是一個思想實驗，展示了一個表面上無害的人工智能如何最終摧毀人類，它的唯一工作就是制造回形針。Roko的蛇怪由GolgothaInternet born設(shè)計，這個思想實驗是關(guān)于一個來自未來的全能人工智能，它會追溯折磨那些沒有主動幫助它存在的人。通過成功地將一個人的意識上傳到電腦上，就可以達(dá)到人類的智能。額外的計算資源將給它巨大的智力優(yōu)勢。后人類世界可能只是一個人的自我和欲望的反映。