寫出負責任AI是不可能的，因為AI是魔族

最近大家開始討論如何規範AI。但很諷刺的是，在我們目前看到的說法中，還沒有哪個的威力超過 葬送的芙莉蓮 。​

從連載前幾話就奠定神作地位的芙莉蓮，最近剛好動畫化成為話題。有網友截了以下這幾張圖供參。

(截圖者的臉書原文請點此連結，是講專制國家如何利用語言去欺騙民主國家)

芙莉蓮講「他心問題」(Problem of other minds) 的方式與層次，無論在學術還是幻想作品中應該都數一數二：​

我們該如何判斷，一個從異質環境中生成的存在，與我們具有相同的思維方式與溝通方式？

答案是不可能，而且我們最好別這麼相信。

我們正是因為同樣的原因，而認為「要求人類負責地寫出盡量沒有傷害性的AI」*只是浪費時間資源。​

我們主張，無論是以任何方式(演算法、機器學習、量子電腦、或任何多種的混合)製造出來的AI，在有證據支持它具有情識or意識之前，都不能有任何權力與權利，只能當成純然的工具。所有使用AI的責任都要由人類來負。

也就是說，AI不能直接接觸人類，接觸終端人類的必須是法人或自然人。無論公司、政府機關、社團組織、個人、DAO，均：

• 不得直接以AI或AI製品與人類交易或簽約

• 不得以AI直接制定規則影響市場或個人

• 不得以AI直接判斷資格

• 進行決策時必須載明AI給予哪些資訊。

最重要的是，無論使不使用AI，行動的責任都由法人、政府、或自然人完全擔負，完全不能分配給AI。

因為至少到目前為止，在螢幕那頭傳訊息給你的存在，並不是從人類社會中重新編譯出來的代理，而是一個人類從來不曾理解的AI魔族。

對他心問題有深入興趣的，可參見史丹佛哲學百科全書。
*感謝相關專家提醒。這邊我原本用詞讓人嚴重誤解。