近日，廣州番禺一大型小區(qū)業(yè)主群中，一張流浪漢試圖闖入家門的“現(xiàn)場”圖片驚到了住戶們，發(fā)圖業(yè)主表示自己12歲的小孩獨(dú)自在家遭遇流浪漢闖入。群內(nèi)熱議許久，直到一業(yè)主提醒，才發(fā)現(xiàn)這是一場惡作劇，圖片是孩子用AI生成。有媒體調(diào)查發(fā)現(xiàn)，短視頻平臺上存在不少類似整蠱圖片、視頻，以及相關(guān)AI圖片和視頻制作教程。只需上傳一張自家照片、輸入一句指令，短短幾秒，一張幾可亂真的“流浪漢闖入家門”的AI圖片便可生成。此前，類似整蠱已在多地上演，有的導(dǎo)致警方連夜出警。
整蠱本是一種帶有玩笑性質(zhì)的娛樂行為，其初衷或許是為了博人一笑，或是制造一些輕松的氛圍，但這種行為必須建立在不傷害他人、不破壞公共秩序的基礎(chǔ)之上。就像在生活中，朋友之間適度的玩笑可以增進(jìn)感情，但若是拿他人的痛處、隱私或者安全來開玩笑，那就超出了玩笑的邊界，變成了惡意傷害。此次“流浪漢闖家中”的AI整蠱事件，已經(jīng)遠(yuǎn)遠(yuǎn)超出了普通整蠱的界限。它不僅是在業(yè)主群里制造了一場虛驚，更是對公共安全資源的一種不當(dāng)消耗，對業(yè)主們造成了不必要的心理沖擊。
“流浪漢闖家中”式AI生成帶來的危害是多方面的，并且可能導(dǎo)致實質(zhì)性的風(fēng)險。從社會層面來看，它嚴(yán)重浪費(fèi)了公共安全資源。警方為了應(yīng)對這些虛假報警，不得不投入大量的人力、物力進(jìn)行調(diào)查和處理，這無疑會影響到真正緊急警情的處理效率。從個人層面來說，對于那些受到驚嚇的業(yè)主和家人，這種心理上的沖擊可能會持續(xù)很長時間，甚至影響到他們的日常生活和心理狀態(tài)。對于參與這類行為的人來說，他們可能沒有意識到自己的行為已經(jīng)觸犯了法律和道德的底線，一旦造成嚴(yán)重后果，將面臨法律的制裁。
讓人擔(dān)心的是，類似的AI生成不僅容易引發(fā)諸多效仿者，而且形式也日益多樣。在短視頻平臺上，不僅有“流浪漢闖家中”的AI整蠱視頻，還出現(xiàn)了各種其他類型的AI惡搞內(nèi)容。從偽造名人言論到制造虛假新聞，從生成恐怖場景到編造災(zāi)難信息，這些行為都挑戰(zhàn)了社會的公序良俗和法律的底線。而且，隨著AI技術(shù)的不斷發(fā)展和普及，生成這類虛假內(nèi)容的門檻越來越低，幾乎任何人都可以輕松上手。這就意味著，未來可能會有更多人參與到這種不良行為中來，給社會帶來的潛在風(fēng)險也將越來越大。
“流浪漢闖家中”的AI生成事件，不僅是個人道德和法律意識淡薄的問題，更反映出當(dāng)前技術(shù)監(jiān)管方面的滯后。在科技飛速發(fā)展的今天，技術(shù)給我們的生活帶來了諸多便利，但同時也帶來了一系列新的問題和挑戰(zhàn)。強(qiáng)化對AI技術(shù)的監(jiān)管已經(jīng)迫在眉睫，相關(guān)部門應(yīng)該盡快出臺完善的法律法規(guī)，明確AI生成內(nèi)容的使用規(guī)范和法律責(zé)任。網(wǎng)絡(luò)平臺也應(yīng)該承擔(dān)起相應(yīng)的社會責(zé)任，加強(qiáng)對類似內(nèi)容的審核，防止這類不良信息被肆意傳播。（時本）
晉公網(wǎng)安備 14090202000008號 
