一.Deepfake的懲罰範圍：是人性之惡還是技術之惡？

隨著網絡技術的發展，通過簡單的技術或者軟件就能引起超强的傳播從而對他人的權利產生損害，網絡性暴力的形成絕對不止于製作並發佈在公開平台上的人，軟件的開發者、社交平台的管理者、以及主要轉載和傳播視頻的其他人應當同樣收到法律的約束。

刑法的處罰應當是共同治罪且均衡平等，以Deep Fake為例，軟件開發者在設計之初顯然可以預想出此項技術涉及的倫理問題，卻沒有在產品中加入更多的説明和限制；公共平台（通常是社交網絡）對以Deep Fake造假的色情視頻也沒有相應的處理與警告手段，在視頻中當事人提出舉報或下架視頻的要求后也毫無反應，以至於小玉斂財至1338萬餘元；此外，在當事人不自願不知情的情況下被製作為色情視頻，除發佈者外，二次傳播和進行收藏的人是否也應該納入懲罰體系的問題，沒有看到任何相關的法案。

台灣關於網路平台業者有無管制用戶言論的責任，曾有判決指出：網路業者並非司法機關，沒有判斷用戶行為是否構成侵害他人權利的權限，且若平台判斷錯誤，將有侵害言論自由的疑慮。為了兼顧用戶的言論自由及保護被害人權利，網路業者只有在「明知或有相當理由足認確實發生侵權行為」時，才有採取防止措施（例如刪文）的義務。

換言之，在侵權事實水落石出之前，依照法院的慣例，網路平台業者可能沒有主動和積極管制用戶言論的權責，被害人除非能證明權利受到侵害，才能要求網路平台業者下架影片，較難及時避免損害繼續擴大。

為了處理這樣的進退兩難，行政院在107年4月27日提出《數位通訊傳播法草案》，明定網路業者對提供使用的資訊，應負擔法律責任──當被害人告知或警察機關通知有侵權的內容，網路業者就應採取適當的處置並保全證據。但這也只限制在報警后，尋求警察立案和調查的過程無疑加大了受害者視頻被傳播的範圍與時間。

對於倉皇出台的AI換臉法案，歐洲刑警組織曾在2020年12月的報告《人工智能的惡意使用和濫用》斷言歐盟解決當前特定的深度偽造技術（例如Deep Face Live）將是一個錯誤，這可能導致歐盟法律不斷追趕最新的框架或方法。

而一項律法被頒佈，我們需要强調其穩定性和技術性，而不是認爲它可以作爲隨風飄揚的旗幟，只表達政治態度而不產生實際的法律效果。特別是，這些政策應該與單一的技術無關，以便其從長遠來看是有效的，並避免隨著深度偽造背後技術的發展而定期審查和更換這些政策。

而台灣卻在短短時間内出台了有關「AI換臉」的草案——法務部提案修正《刑法》，「增訂散布性私密影音罪、製作或散布他人不實性影音罪、製作或散布他人不實活動、言論、談話罪等，違者最重可處七年有期徒刑」，並將草案提報行政院。如果只是出於對當事人「小玉」的懲罰目的，根據將其涉嫌以Deep Fake軟體，將名人的臉套用到日本A片女優身上，製作合成色情片對外銷售，犯罪所得高達1338萬餘元，連同莊姓助理被起訴的販賣猥褻影像、加重誹謗及《個人資料保護法》非法利用個資罪，數罪并罰足以承擔至少五年以上的刑事懲罰，但倉皇出台的草案，究竟是爲了維護受害人的權益還是僅僅企圖震懾Deep Fake的使用者，很難得出具體的答案。

另一個問題是，西方主要國家對於Deep Fake的立法猶豫在某種意義上是完全正確的——不對大量新人工智能技術中的單一問題鏈做出下意識的反應，因爲其中許多新AI技術有望為社會和工業帶來巨大利益，並且如果為了應對重大事件和隨後的強烈抗議而認真開始對圖像合成系統進行頭腦發熱的禁止和監管，其中許多可能會在某種程度上受到不利影響。

技術是由人類創造的，但黨技術發展到一定程度或者被應用后，只想要憑藉人類的善意行爲而對技術可能造成的嚴重後果造成抵抗顯然是不合常理，一項借由技術引起的犯罪行爲不單單像傳統案件那樣對於當事人的惡意程度或者犯罪後果甚至是犯罪嫌疑人的範圍有明確的答案，如何衡量技術與人性的惡意程度，是立法需要考慮的重要因素，而這需要的是長期的試探與迴旋。

二.Deep Fake的立法缺陷：是政治工具還是人權保護？

草案目前針對DeepFake法律補救措施“不明確且不切實際”，並表示擬議的立法無助於解決人工智能輔助色情視頻和圖像處理技術的有害後果。

政府應當積極處理內容類型應當包括：兒童虐待部分，針對婦女和女孩的在線暴力類型，以及其他暴力和血腥内容，但草案中只提及了有關性私密和他人不實活動、言論、談話等，而沒有另外制定Deep Fake涉及暴力血腥和兒童虐待或兒童色情的處理方式，也沒有針對Deep Fake可能會涉及的肖像權侵犯還是政治評論做出明確的界定，如果只是對Deep Fake性私密另外加重處罰，而不對更輕微的肖像權問題或更嚴重的暴力血腥和兒童色情另外規定或加重處罰，只能證明草案覆蓋的範圍是不夠精準有效的，且缺乏應有的保護作用。

在英國和美國的立法進程中我們也可以看到這種缺乏：

2021年12月，英國法律委員會提議將仇恨言論法擴大到涵蓋基於性別的敵意，但並未提議將Deep Fake納入這一類別，儘管世界各地（尤其是印度）使用該技術的例子很多被武器化反對女性政治家和女性活動家。女性絕大多數是非法Deep Fake內容的目標，無論造假者的動機是公開的社交（即羞辱、去平台和剝奪權力的意圖）還是本質上只是淫蕩的（即色情）。

2021年3月，總部位於伊利諾伊州的《國家法律評論》將英國的法律框架視為“目前完全不足以應對深度造假”，甚至缺乏保護個人肖像的基本法律機制。

相比之下，美國確實在一定程度上保護了其公民的“公開權”，儘管不是在聯邦層面（目前，此類法規存在於美國大約一半的州，法律機制差異很大）。

儘管英國在深度偽造立法方面的表現有所改善，但美國祇能吹噓零星的每個州的覆蓋範圍，並且似乎決心在最終解決其對個人的影響之前解決該技術的政治操縱潛力。

2019年，德克薩斯州通過德克薩斯州參議院第751號法案(SB751)禁止製作或傳播政治深度偽造，省略了有關深度偽造色情的任何聲明。同年，弗吉尼亞州增加了一項關於非法傳播或銷售他人圖像的現行法律的修正案，附加了廣泛包含的術語“錯誤創建的視頻或靜止圖像”。

2020年，加利福尼亞州頒布了加利福尼亞州議會602號法案(AB 602)，禁止生成或傳播色情Deep Fake。該法案沒有日落條款，但有三年的訴訟時效，並附有一項涵蓋政治Deep Fake的單獨條款。

2020年底，紐約州通過了參議院法案S5959D，該法案不僅禁止創建和/或重新發布色情深度偽造，還積極保護用戶通過Deep Fake、CGI、或任何其他方式，即使在死後（如果有關人員在其死亡時是紐約居民）。

最後，馬里蘭州修改了有關兒童色情的法律，將使用Deep Fake包括在內並將其定為犯罪，但並未解決Deep Fake對成人目標的影響。

如果美國、英國（包括台灣）能在立法的時考慮到在濫用Deep Fake技術方面採取更加統一的戰線，那麼廣泛的立法可能會影響電信和數據基礎設施和存儲的治理方面，從而導致對其全球商業夥伴施加的快速追趕政策變化。

台灣並沒有最終跨越到北美的數據收集和保留政策的能力這一事實並不意味著無法對與其交易的不太合規的國家獲得影響力——如果台灣能在立法時曾採取在Deep Fake色情內容的生成、存儲和保留方面更加堅定的立法立場而不僅僅針對傳播。

我們仍在等待當局對進行大規模暗網處理（但不是只是單純地針對小玉的案件）：例如使用基於音頻和/或視頻的Deep Fake技術來欺騙公司董事誤導大量資金的重大搶劫；或者越來越多地使用深度偽造來傷害更多父權制國家的女性；這些是很難實現的願望，但如果只是把頭埋在沙子裡，等待“燃燒”事件發生在做出反應，顯然是不夠的。

三.Deep Fake的懲罰限度：重罪還是輕罪？

較早制定相關條文的維吉尼亞州法第 18.2 -386.2 條將「非法傳播或出售他人圖像」（Unlawful dissemination or sale of images of another; penalty）列為第 1 類輕罪，處罰「行為人未經當事人同意，惡意傳播或出售他人裸露的影片或照片，且包括被重製、改編後，仍可以從臉或特徵辨識出特定人物的影片或照片」，也是美國第一個對未經同意散布換臉影片行為實施刑罰的州（輕罪是不會犯重罪輕罪的罪行。他們的罪行較輕，最高刑期是12個月或更短的監禁。輕罪和重罪之間的區別在於犯罪的嚴重性）。

德州參議院，則是在2019年6月14日通過第751號法案，明定禁止個人、委員會在公職候選人選舉的60天內，以惡意製作欺騙性的影片，損害候選人聲譽，候選人可以提起損害賠償訴訟。

而加州則是於2019年，頒布了AB-602號及AB-730號兩項法案，允許「Deepfake」色情內容的被害人以及因造假影片受到名譽侵害的公職候選人提起訴訟。

可以看到，追償内容的重要方面在於相當於被告從創建、開發或披露色情材料中獲得的金錢收益、因披露色情材料而直接造成的經濟和非經濟損失，包括情緒困擾的損失、懲罰性賠償，也就是説，懲罰的目的在於恢復原狀和盡量的賠償損失，而不在於過多的進行限制自由的懲罰，因爲傳播僞裝性私密視頻造成最大的損害并非是人身攻擊而是精神傷害和名譽權損失，這些需要更好的金錢補償與良好的消除手段來實現，而不是限制人身自由。

此外在加州AB-602號法案中我們還可以看到對懲罰Deep Fake使用者的限制條款：

(i) 報告非法活動。

(ii) 行使該人的執法職責。

(iii) 聽證會、審判或其他法律程式。

(B) 該材料屬於以下任何一種情況。

(i) 公眾合法關注的事項。

(ii) 具有政治或新聞價值的作品或類似作品。

(iii) 受加州憲法或美國憲法保護的評論、批評或披露。

可見，即使是在這種情況，也會保證製作造假視頻者享有言論自由和參與社會事務的權利，避免侵犯個人權利，二者在台灣新通過的草案中基本上沒有任何體現，新草案主要的懲罰目的也在於限制自由而不是消除影響，筆者在此對新草案的執行效力和立法公正性做出一定懷疑。