36氪 2019-07-06 17:27:12
還在說什么原諒不原諒,灰產賺嗨了。
色情業一直是驅動互聯網提速的動力之一。從互聯網最原始階段充斥的無處不在的曖昧彈窗,到時髦的VR率先在色情產業中找到了自己的市場剛需,現在這股風刮到了AI界,AI一鍵脫衣、AI一鍵換臉,AI查看女友前科的應用紛至沓來。這不僅僅是色情擦邊球,更侵犯到了隱私,暴露了互聯網的暗面根植的人性欲望、獵奇和窺私。
最近火到熄火的軟件是Deepnude,號稱可以“一鍵脫衣”,簡言之,就是上傳一張正常衣著的女性照片,Deepnude能自動生成該女性一絲不掛的裸照。而且如果上傳一張男性照片,隱私部位依然顯示為女性。
這個軟件的火爆程度遠遠超出了開發者的想象。短短5天之內有50萬人使用了它,制造了許多名人,特別是女明星的裸照。巨大的流量一度造成服務器不穩定,開發者在第四天的時候試圖暫時下架,修改bugs重新上線,但是似乎爭議太大,最終Deepnude的團隊在隔日親口宣布產品永久下架,并表示“Deepnude 對這個世界還沒準備好”。
所以最終,Deepnude沒能活過5天。
在Twitter上吳恩達以一個父親的身份,對deepnude之死表示欣慰,并對AI社區發話,你們擁有強大的能力,但請用你們的超能力去做更有價值的東西,推動世界進步。
跟扒光女性衣服的Deepnude比起來,換臉軟件Deepfake只能算前奏。如果你對楊冪、朱茵換臉視頻還有印象的話,該特效就是來自Deepfake。B站上,粉絲們以此制作了偶像換臉的追星視頻,但在國外,Deepfake被應用得最多的場景是成人視頻。甚至有美國成人網站主動推出換臉技術,為用戶提供個性化定制視頻,試想色情片的女主角或男主角換上了自己的臉,是不是代入感更強?
可是不能忽視的是,Deepnude和Deepfake都能用來惡意制作色情圖片,報復、攻擊和污蔑他人。
在迅速發展的科技創新和應用面前,法律往往反應慢一拍。據機器之心報道,美國弗吉尼亞州率先對Deepfake這些新應用采取了行動,擴大了其「色情報復法」(revenge porn law)的范疇。
這項擴大后的法律規定:未經當事人允許分享他人的裸露視頻、照片屬于違法行為,用于「脅迫、騷擾或恐嚇」將被定為一級輕罪(Class 1 misdemeanor)。無論該照片或視頻是真實的還是偽造的。除了Deepfake,用photoshop或其他工具制作的虛假照片、視頻也包含在內。
修正后的法律于當地時間 7 月 1 日生效。
如果說Deepnude是赤裸裸地為了看身體,而大洋彼岸的中國的原諒寶則試圖穿越重重迷霧,看到對方“不為人知”的過往。
原諒寶自我營銷為“為保護老實人而生”、“接盤俠的福音”,如果不想當接盤俠,就用這款軟件檢測一下現在對象的“前科”。原諒寶一出世,就包攬了IT界、八卦圈、婚戀圈的話題C位。
使用也很簡單,上傳一張圖片,系統將圖片與1024、PronHub等特殊網站的數據庫進行對比,如果圖片上人物恰好匹配到了,那么,結果就是Fail,圖中人極有可能是特殊工作者,如果沒有,則顯示為Pass,可以原諒ta。
原諒寶的由來得從2018年8月,一位@將記憶深埋的微博用戶的想法說起。他表示為了幫助碼農初步過濾“退休小姐姐”,聯合了幾位朋友把1024、91等網站上的視頻和圖片打上標簽,進行人臉匹配。
巧合的是,2018年7月就有一些平臺零碎地發布信息表示,一個叫原諒寶的APP正在眾籌,即將啟動老實人保護計劃。這些信息是否也來自發起人團隊,則不得而知。
差不多一年之后,這個創意變成了初步的現實,并取得了有點驚人的成果。今年5月27日,@將記憶深埋稱,“半年時間,100多TB數據, 利用1024、91、sex8、PronHub、xvideos 等網站采集的數據對比Facebook、instagram、TikTok 、抖音、微博等社交媒體。我們在全球范圍內成功識別了10多萬從事不可描述行業的小姐姐。”
并且彼時,@將記憶深埋 還有將此商業化的打算。
支持者認為這就像婚戀交友版本的征信報告,可以迅速識別出所謂的渣男、渣女。反對者認為,這會侵犯隱私,甚至惡意中傷。5月30號,“原諒寶”的百度指數沖到最高點。人們心思各異,一些人希望用來查看對方過往,一些人想看看里面有沒有自己的熟人。
原諒寶也引發了外網的熱議。一些網友在Twitter上指出危害,這可能會使一些人被侮辱和敲詐勒索,同時指出該項技術的適用范圍也許在尋找被拐賣的受害者中更恰當,而非一個程序員為了找出自己交往對象的過去歷史。
對于數據收集行為是否恰當的質疑,@將記憶深埋 以自己居住在德國,而德國的色情產業是合法的為由進行反擊。
但是國外網友認為未經當事人允許的情況下,私自建立人臉數據庫,在德國并不合法。此外還有人指出這也違反了歐盟的《通用數據保護條例》(General Data Protection Regulation,簡稱GDPR),侵犯了公民隱私權,以及被遺忘權。
即使對于性工作者本身,也有人認為這也只會帶來傷害,因為它將性工作者的私人信息曝光,很多性工作者也有正常的生活,做色情行業是為了還貸款和生活。
男女權力的爭議再次被放大。據VICE中國報道,《Rage Becomes Her》的作者 Soraya Chemaly 表示:“這是一個可怕的范例,它完美解釋了這些系統和制度是如何在全球范圍發生作用,幫助男性占據主導地位的。監控、假冒、敲詐勒索、不實信息總是先發生在女性身上,然后才暴露在公共領域,直到男性也受到波及,才會引發關注。” 女權主義研究和機器學習方面的專家也認為此項目是一種被算法驅動的騷擾。
當然,沒有誰比旋渦之中的當事人更糾結了。@將記憶深埋將微博名改成“把自己關在房間里反省的書生”向公眾致歉,并表示“100多TB數據在半小時內會徹底清空”,目前這則道歉已經被刪除,微博名也被重新改了回來。并且,@將記憶深埋 在微博上重申,微博上的@原諒寶官方 這一賬號與自己無關,且“本人未發布過任何手機端App”,并風險提示道,目前市面流行的原諒寶很可能是灰產團隊編寫用來竊取用戶信息。
去年這一創意提出之際,聞者寥寥無幾,可以看做是碼農圈的一個興趣試點。但是今年的軒然大波中離不開灰產的碰瓷,它們樂見其成,甚至變相助推,呼喊婚戀市場將迎來大地震,讓各方“撕”得越來越兇猛,把流量做大,被激起了好奇心的人自動入甕。
在原發起人刪庫之后,立馬有人跳出來,截胡流量。
6月4號登陸APP store商店的“原諒寶”并非原團隊所開發,除了名字是“原諒寶”,APP還特意頂了一個帶X的綠帽子,牢牢把自己掛在了這個大熱點上。而且下載后必須要交30元的會員費才能使用。用戶們交完30塊錢后,馬上發覺被騙,因為這個APP根本沒有任何上傳圖片和識別系統,看起來更像一款陌生人社交軟件,界面簡單,是一款做得很倉促的產品。
截止2019年7月1日下午5點32分,APP首頁顯示“已有956542人加入APP”,956532乘以30元,就是將近3000萬元。這個名不副實的山寨寶APP很聰明地把爭議帶來的流量變成了人民幣。雖然現在互聯網大都流行顯示虛假的用戶數據,百萬用戶數未必真實,但充值人數還在持續增加。只要圍繞原諒寶的爭議聲不止,這款頭頂綠帽的APP就能有源源不斷的進帳。
有趣的是,很多花了30塊錢上門的人,發現這款App無法看過往,也無法看熟人,干脆碰碰運氣,開啟“約”模式。
除了應用商店,目前微信上也能搜到一個名叫原諒寶的個人公眾賬號。該號本質上像一個山寨廣告號,雜七雜八地混雜了一些娛樂文和圖片修理功能。而之前網絡流傳的微信端的公眾號,即賬號主體為“西安曲江新區灝蕊睿百貨商貿店”已經刪除了所有文章,也沒有查詢工具入口。
但@將記憶深埋 特意聲明與自己無關的微博“原諒寶官方”賬號依然存在,且簡介為“保護個人隱私,全網檢測是否被偷拍或偷攝,并提供我們力所能及范圍內的數據清除服務。”這是不是和著名灰色產業“開房記錄查詢和開房記錄刪除”有異曲同工之妙?
@原諒寶官方 目前僅僅保留了兩條微博,第一條就是公測版的測試鏈接。點開后,會看到一則聲明,表示僅對真實人員進行識別匹配,至于檢測后給出的數據可信度問題,聲明稱不提供詳細來源。
該測試的火爆程度有增無減,目前已經有將近兩百萬人次查詢。頁面中的 “想知道TA拍過的照片和視頻嗎”、“查詢有風險,備好救心丸”等字眼,都在喚起人的窺探欲。
照片的分析過程乍一看,很像醫美APP的五官掃描和全臉分析,下一秒似乎能跳出一個整容咨詢報告。查詢后的結果會給出一個原諒指數。系統與開放數據進行匹配,匹配到的結果越多,則原諒指數越低。原諒指數如果在90%以上則可以認為你們的關系很安全。
雖然掛著人工智能的頭銜,但是檢測過程和結果就跟星座命理一樣玄乎。因為數據來源未知,如何匹配未知,服務器如何荷載這么多數據未知。如果照片匹配到很多則得出不安全的結論,似乎又創造了一個灰產機會,即可以故意用換臉軟件移花接木,在所謂的相關網站上傳某些人的圖片,再回頭找人要錢,再收費操作刪除。
而且類似原諒寶這樣平臺如果真的投入運營,還會涉及平臺數據采集和公民信息保護問題。
目前我國對App的數據采集加強了監管。《App違法違規收集使用個人信息行為認定方法(征求意見稿)》自今年5月5日起公開征求社會意見,并明確,App違法違規收集使用個人信息共分為7種情形:沒有公開收集使用規則;沒有明示收集使用個人信息的目的、方式和范圍;未經同意收集使用個人信息;違反必要性原則收集與其提供的服務無關的個人信息;未經同意向他人提供個人信息;未按法律規定提供刪除或更正個人信息功能;侵犯未成年人在網絡空間合法權益。
針對中國目前的公民信息保護上存在立法分散的情況,2019年,十三屆全國人大常委會已將制定個人信息保護法列入了立法規劃,更加系統的公民信息保護的立法工作正在穩步推進中。
回到原諒寶本身,現代人的感情關系并非原諒寶可以拯救。但是原諒寶的流行和爭議,再次放大了信任問題,也點燃了每個人心中隱秘的窺私欲,我們窺探別人,也被別人窺探,互聯網不過呈現了我們亙古難題的一角。
36kr 汪慧(封面圖來源于攝圖網)
特別提醒:如果我們使用了您的圖片,請作者與本站聯系索取稿酬。如您不希望作品出現在本站,可聯系我們要求撤下您的作品。
歡迎關注每日經濟新聞APP