機器人或先進的人工智慧“覺醒”並變得有意識是思想實驗和科幻小說的主要內容。這是否真的可能仍然是一個備受爭議的問題。所有這些不確定性使我們處於一個不幸的境地：我們不知道如何製造有意識的機器，並且（鑑於當前的測量技術）我們不會知道我們是否創造了一個。與此同時，這個問題非常重要，因為有意識機器的存在將產生巨大的倫理後果。
我們無法像檢測青蛙和昆蟲的意識一樣，直接檢測計算機及其執行的軟體中的意識。但這並不是一個不可克服的問題。我們可以使用測量不可見光形式（例如 X 射線）的儀器來檢測我們肉眼看不見的光。這種方法之所以有效，是因為我們有一個我們信任的電磁理論，並且我們有儀器可以為我們提供測量結果，我們可靠地認為這些測量結果表明存在我們無法感知到的東西。同樣，我們可以發展出一個良好的意識理論，以建立一種測量方法，該方法可以確定無法說話的實體是否有意識，具體取決於它的工作方式和構成。
不幸的是，對於意識的理論尚未達成共識。最近一項對意識學者的調查顯示，只有 58% 的學者認為最流行的理論，即全域性工作空間（該理論認為人類的有意識思想是那些廣泛分佈到其他無意識大腦過程的思想），是有前景的。最流行的三種意識理論，包括全域性工作空間理論，在計算機是否可能具有意識，或在何種條件下可能具有意識的問題上，存在根本分歧。缺乏共識是一個特別大的問題，因為每種衡量機器或非人類動物意識的方法都依賴於一種或另一種理論。在不決定理論的情況下，沒有獨立的方法來測試實體的意識。
支援科學新聞業
如果您喜歡這篇文章，請考慮透過以下方式支援我們屢獲殊榮的新聞業 訂閱。透過購買訂閱，您正在幫助確保有關塑造我們當今世界的發現和想法的具有影響力的故事的未來。
如果我們尊重我們在該領域專家中看到的不確定性，那麼思考這種情況的理性方式是我們非常不清楚計算機是否可能有意識——以及如果可能有意識，那將如何實現。根據（可能尚未出現假設的）理論最終被證明是正確的，有三種可能性：計算機永遠不會有意識，它們可能在未來某一天有意識，或者有些計算機已經有意識了。
與此同時，很少有人故意嘗試製造有意識的機器或軟體。原因是人工智慧領域通常試圖製造有用的工具，並且尚不清楚意識是否會對我們希望計算機執行的任何認知任務有所幫助。
與意識一樣，倫理學領域也充滿了不確定性，並且在許多基本問題上缺乏共識——即使在對該主題進行了數千年的研究之後也是如此。但一種普遍（儘管並非普遍）的想法是，意識與倫理學有重要的關係。具體而言，大多數學者，無論他們可能認可何種倫理理論，都認為體驗愉快或不愉快意識狀態的能力是使實體值得道德考慮的關鍵特徵之一。這就是為什麼踢狗是錯誤的，但踢椅子不是錯誤的。如果我們製造出可以體驗積極和消極意識狀態的計算機，那麼我們對它們有什麼倫理義務呢？我們將不得不對能夠體驗快樂或痛苦的計算機或軟體給予道德考量。
我們製造機器人和其他人工智慧來做我們不能做的工作，也做我們不想做的工作。如果這些人工智慧擁有像我們一樣的有意識的頭腦，它們就應該得到類似的倫理考量。當然，僅僅因為人工智慧是有意識的，並不意味著它會擁有與我們相同的偏好，或者認為相同的活動是不愉快的。但是，無論其偏好如何，在讓該人工智慧工作時都需要適當考慮。讓有意識的機器做它痛苦地做的工作在倫理上是有問題的。這一點似乎很明顯，但還有更深層次的問題。
將人工智慧分為三個層次來考慮。有計算機或機器人——軟體執行的硬體。其次是安裝在硬體上的程式碼。最後，每次執行此程式碼時，我們都有一個正在執行的“例項”。我們對哪個級別有倫理義務？可能是硬體和程式碼級別無關緊要，而有意識的代理是程式碼執行的例項。如果有人有一臺計算機執行一個有意識的軟體例項，那麼我們在倫理上是否有義務讓它永遠執行下去？
進一步考慮，建立任何軟體主要是一個除錯任務——一遍又一遍地執行軟體例項，修復問題並嘗試使其工作。如果在倫理上有義務即使在這個開發過程中也要保持執行每個有意識的軟體例項呢？這可能是不可避免的：計算機建模是探索和測試心理學理論的一種有價值的方法。在倫理上涉足有意識的軟體將很快成為巨大的計算和能源負擔，而沒有任何明確的終點。
所有這一切都表明，如果可以避免，我們可能不應該創造有意識的機器。
現在我要反過來說。如果機器可以擁有有意識的、積極的體驗，那麼在倫理學領域，它們被認為具有一定程度的“福利”，並且執行此類機器可以說會產生福利。事實上，機器最終可能比生物更能有效地產生福利，例如幸福或快樂。也就是說，對於給定的資源量，可能可以在人工系統中比在任何生物中產生更多的幸福或快樂。
例如，假設未來技術將允許我們創造一臺小型計算機，它可以比欣快的人類更快樂，但只需要像燈泡一樣多的能量。在這種情況下，根據某些倫理立場，人類的最佳行動方案將是儘可能多地創造人工福利——無論是在動物、人類還是計算機中。未來的人類可能會設定目標，將宇宙中所有可獲得的物質都變成能夠有效產生福利的機器，可能比任何生物產生的福利效率高 10,000 倍。這種奇怪的可能未來可能是最幸福的未來。
這是一篇觀點和分析文章，作者或作者表達的觀點不一定代表《大眾科學》的觀點。