舊金山市檢察官希望關閉 16 個人工智慧脫衣網站

要知道什麼

• 舊金山正在對 16 個人工智慧驅動的「脫衣」網站採取法律行動。
• 這些網站在未經同意的情況下製作婦女和兒童的裸體圖像。
• 該訴訟旨在關閉這些網站並追究運營商的責任。

為了打擊數位剝削，舊金山市檢察官正在嚴厲打擊使用人工智慧創建虛假裸體圖像的網站。 David Chiu 宣布針對 16 個熱門「AI 脫衣」平台提起訴訟，引發爭議和關注。

這些網站允許用戶上傳穿著衣服的人的照片，然後使用人工智慧在未經同意的情況下產生逼真的裸體版本。該技術被濫用來創建成人和未成年人的露骨圖像，引發了嚴重的道德和法律問題。

據邱辦公室稱，今年短短六個月內，目標網站的訪問量就超過了 2 億次。這個驚人的數字凸顯了這個問題的廣泛性。

該訴訟指控網站經營者違反多項法律，包括禁止深度偽造色情內容、報復性色情內容和剝削兒童的法律。它尋求關閉這些平台並處以巨額罰款。

Chiu 對婦女和女孩所遭受的剝削表示恐懼，並在 X 上表示：

這項調查將我們帶到了網路最黑暗的角落，我對那些不得不忍受這種剝削的婦女和女孩感到非常震驚。

這是一個大的、多面向的問題，我們作為一個社會需要盡快解決。

— David Chiu (@DavidChiu) 2024 年 8 月 15 日

這項法律行動是在人們對人工智慧生成的深度偽造品日益關注之際採取的。網路上流傳的泰勒絲的假裸照等備受矚目的案件引起了人們對這一問題的關注。然而，無數普通人也成為了這項技術的受害者。

一件令人不安的事件涉及人工智慧生成的加州 16 名中學生的裸照。這些案例顯示如何將這項技術用於霸凌和騷擾，尤其是針對年輕人的霸凌和騷擾。

深度偽造色情內容對受害者的心理健康、聲譽和未來前景構成巨大風險。一旦這些影像開始在網路上傳播，追蹤這些影像來源的問題就會變得更加複雜。

舊金山的訴訟代表著在打擊濫用人工智慧來創建未經同意的親密圖像方面邁出的重要一步。該案也體現了人工智慧技術的快速進步與難以跟上步伐的法律和道德框架之間的巨大差距。

該市的行動可能為其他司法管轄區如何應對這一日益嚴重的威脅樹立先例。它也發出了一個明確的訊息，即未經同意的深度偽造品的創建和傳播是不會被容忍的。

隨著這場法律戰的展開，突顯了在快速發展的人工智慧領域迫切需要全面的監管和道德準則。