德國警告社群平台勿傳播虛假AI大屠殺圖片

德國已就社群媒體平台上傳播虛假的AI大屠殺圖像發出警告。政府和大屠殺紀念機構已要求社群媒體平台停止傳播假圖像,他們聲稱這些圖像正在扭曲和淡化歷史。

集中營紀念場所和文獻中心在最近的一封信中表達了擔憂,批評所謂AI垃圾或偽造圖像的激增,這些圖像與納粹在第二次世界大戰期間在德國殺害超過六百萬猶太人有關。這些圖像包括虛構事件的情感插圖,例如集中營囚犯與解放者的會面或鐵絲網後的兒童。

德國希望阻止虛假AI大屠殺圖像的傳播

在組織發送的信中,他們指出AI生成的內容通過淡化很久以前發生的嚴重事件來扭曲歷史。他們提到,這些圖像可能會助長使用者對真實歷史文獻的不信任。德國文化與媒體國務部長Wolfram Weimer表示,他支持紀念機構在此案中採取的措施和努力,並透露這是正確的做法。

Wolfram還提到,他支持他們的決定,即對這些古老事件的AI生成圖像進行標記,並在必要時從社群媒體平台上刪除。他表示,這是對在納粹德國恐怖政權下被殺害和迫害的數百萬人的尊重。根據紀念機構的信函,他們指出圖像創作者似乎利用這些圖像在網上獲取關注並賺錢。

這些組織還提到,肇事者也部分意圖淡化事實、轉移受害者和加害者的角色,並傳播修正主義敘事。這些機構包括Belsen、Buchenwald、Dachau和其他集中營的紀念中心,在這些地方猶太人以及其他人,包括羅姆人和辛提人被殺害。他們要求社群媒體平台主動對抗有關大屠殺的虛假AI圖像,而不是等待使用者舉報。

大屠殺組織希望AI生成圖像被標記

此外,他們要求平台清楚地標記這些圖像,因為他們認為這將防止生成圖像的使用者能夠從中獲利。低質量AI垃圾的傳播,包括虛假文字、圖像或視頻,已引起許多專家的警惕。他們認為這會污染資訊環境,並使使用者難以區分真實與虛假。這一事件緊隨AI公司,特別是Elon Musk的xAI(擁有聊天機器人Grok)目前正在努力應對的問題。

該公司在過去幾週內一直面臨壓力,因為某些使用者生成了數千張女性和未成年人的性化深偽圖像,並在多個社群媒體平台上傳播。這一威脅已促使多國領導人要求該公司整頓,其他人則要求他們開發適當的防護措施來應對這些事件。印尼等國家也宣布暫時禁止該聊天機器人,直到所有問題得到解決。

與此同時,該平台已確認將對Grok和X使用者在非法行為被視為違法的地區生成他人深偽圖像的能力進行地理封鎖。然而,新的防護措施是否適用於其獨立應用程式或網站還有待觀察。這些措施是否會阻止使用者生成這類圖像,還是會促使他們尋找新的方式來訪問該服務,也還有待觀察。

不要只是閱讀加密貨幣新聞。要理解它。訂閱我們的電子報。完全免費。