3月10日，小紅書在首個“反詐治理開放日”上公布了2024年社區(qū)反詐成果。數(shù)據(jù)顯示，2024年小紅書共處置涉詐違規(guī)賬號492萬個，主動攔截94.3%的詐騙行為，用戶舉報量同比下降60%；月均攔截風(fēng)險登錄6億次，推送風(fēng)險提醒3700萬次，保護(hù)易受害人群140萬人，向潛在受騙用戶外呼12.3萬次，反詐成果顯著。

　　小紅書反詐治理負(fù)責(zé)人蒼連透露，社區(qū)已建立超100個識別模型，覆蓋內(nèi)容、行為、關(guān)系等多維度特征，結(jié)合大模型技術(shù)實(shí)現(xiàn)跨場景風(fēng)險發(fā)現(xiàn)，極大提升主動攔截率。

　　開放日邀請了法律學(xué)者、警方代表參與討論反詐問題，現(xiàn)場參會者達(dá)成共識，反詐應(yīng)采取“共同治理”的策略，電信企業(yè)、互聯(lián)網(wǎng)企業(yè)、金融機(jī)構(gòu)、社會組織和公眾共同積極參加犯罪防治。會上還討論了AI時代下網(wǎng)絡(luò)詐騙的挑戰(zhàn)和應(yīng)對思路。

　　“趕緊去薅騙子的羊毛”、“一起追回投資損失”……這些乍一看是用戶面對詐騙團(tuán)伙的應(yīng)對智慧和抱團(tuán)互助，其實(shí)是新型的詐騙類型。

　　蒼連介紹：隨著社會大環(huán)境的變化，一些手法被詐騙分子放棄，例如涉疫藥品類詐騙，但更多新詐騙手法在不斷出現(xiàn)。蒼連現(xiàn)場分享了一組數(shù)據(jù)，2024年小紅書上累計有120種詐騙方式，比2023年的96種增長了25%。同時，詐騙話術(shù)也在不斷變種以對抗平臺打擊，例如“導(dǎo)流到其他平臺”的線種。

　　面對詐騙方式和手法的迅速變化，小紅書反詐團(tuán)隊在詐騙風(fēng)險發(fā)現(xiàn)機(jī)制和風(fēng)險提醒機(jī)制上重點(diǎn)發(fā)力。據(jù)介紹，目前小紅書已經(jīng)建立100多個詐騙信息識別模型，這些模型綜合了內(nèi)容、行為、關(guān)系和基礎(chǔ)環(huán)境等特征，同時應(yīng)用了大模型能力對詐騙風(fēng)險實(shí)現(xiàn)跨場景深度理解，較大提升了對詐騙風(fēng)險識別效率。識別出風(fēng)險后，小紅書會在筆記、私信、評論等不同的場景中，用不同的形式對用戶進(jìn)行提醒，在詐騙行為發(fā)生過程中，進(jìn)行攔截阻斷。

　　蒼連舉了主動攔截詐騙的例子。暑期出游、娛樂活動較多，詐騙分子通常發(fā)筆記說自己可以代訂票或有低價票，隨即通過評論、私信導(dǎo)流到第三方平臺進(jìn)行詐騙。對此，小紅書建立了門票交易風(fēng)險模型，及時發(fā)現(xiàn)異常鏈路，前置攔截詐騙，保護(hù)用戶財產(chǎn)安全，“成功打擊了一大批涉詐黃牛，并封禁賬號5萬個，其中最大的門票團(tuán)伙就被處置賬號5千余個。“

　　得益于此，小紅書在2024年對詐騙行為的主動攔截率達(dá)到了94.3%，月均推送風(fēng)險提醒3700萬次，月均保護(hù)易受害人群140萬人。蒼連說：“用戶對詐騙的投訴明顯下降，單日舉報量，2024年底比年初下降了60%。”

　　在開放日上，小紅書安全調(diào)查負(fù)責(zé)人艾吉介紹了以涉詐情報合作為核心的警企聯(lián)動模式。2024年，小紅書反詐案件打擊團(tuán)隊向公安機(jī)關(guān)提供涉詐線條，移交窩點(diǎn)線個跨省犯罪團(tuán)伙。

　　其中，與河南警方合作偵破的一起“幽靈賬號”案件引發(fā)關(guān)注，2024年9月，小紅書AI風(fēng)控系統(tǒng)通過跨維度異常數(shù)據(jù)預(yù)警，發(fā)現(xiàn)一批活躍于互聯(lián)網(wǎng)上的“幽靈賬號”：這些賬號使用不同地區(qū)手機(jī)號注冊，且短期內(nèi)密集觸發(fā)“拍立得相紙交易投訴”預(yù)警，單日資金流水呈現(xiàn)“小額多筆轉(zhuǎn)入—集中轉(zhuǎn)出清零”的異常規(guī)律。

　　平臺發(fā)現(xiàn)該線索后與當(dāng)?shù)毓膊块T緊密配合，警方依托平臺提供的線后為主體的犯罪團(tuán)伙。該團(tuán)伙通過非法購買借貸用戶隱私數(shù)據(jù)，誘餌騙取他人手機(jī)號及驗(yàn)證碼，批量注冊虛假商家賬號，利用“低價攝影耗材”等話術(shù)誘導(dǎo)受害者多次轉(zhuǎn)賬，每完成3到5次詐騙即廢棄賬號，關(guān)聯(lián)賬戶轉(zhuǎn)入專業(yè)洗錢平臺，最終以虛擬幣化整為零提現(xiàn)。專案組突破傳統(tǒng)反詐技術(shù)瓶頸，反查100余個關(guān)聯(lián)作案賬號的登錄行為，精準(zhǔn)鎖定6名嫌疑人物理身份。該案1個月內(nèi)實(shí)現(xiàn)全鏈條收網(wǎng)，有效打擊新型詐騙犯罪行為。

　　艾吉表示，通過技術(shù)手段與大數(shù)據(jù)分析，小紅書向公安機(jī)關(guān)提供高質(zhì)量的線索和數(shù)據(jù)支持， 依托交易行為分析模型等，及時發(fā)現(xiàn)異常鏈路并向警方推送精準(zhǔn)詐騙線索 ；同時建立了涉詐資金快速凍結(jié)機(jī)制，對于公安反饋的涉詐資金進(jìn)行及時攔截；平臺還針對高發(fā)詐騙成立專項進(jìn)行打擊，目前重點(diǎn)打擊專項包括，涉未成年的詐騙專項、涉公檢法詐騙專項、暑期涉詐黃牛專項等。

　　中國犯罪學(xué)會副會長兼信息犯罪防控專業(yè)委員會主任、同濟(jì)大學(xué)法學(xué)教授皮勇介紹，為了有效遏制電信網(wǎng)絡(luò)詐騙犯罪，我國實(shí)施“打防結(jié)合、共同治理”新策略，強(qiáng)化了對包括電信網(wǎng)絡(luò)詐騙犯罪在內(nèi)的網(wǎng)絡(luò)犯罪的刑事打擊，同時，要求電信企業(yè)、互聯(lián)網(wǎng)企業(yè)、金融機(jī)構(gòu)、社會組織和公眾各方共同防治犯罪。

　　在談到當(dāng)前電信網(wǎng)絡(luò)詐騙的挑戰(zhàn)時，皮勇表示，人工智能時代已來，大量高度仿真的音視頻信息、人形仿真機(jī)器人都會被用于網(wǎng)絡(luò)詐騙犯罪，電信網(wǎng)絡(luò)詐騙犯罪會升級到更高層次的自主智能詐騙，目前已經(jīng)發(fā)生盜用知名必一運(yùn)動網(wǎng)站入口人士的聲音、影像，利用深度合成技術(shù)制作虛假音視頻，向網(wǎng)絡(luò)用戶推銷偽劣商品或虛假服務(wù)的案件，打擊這類犯罪的難度更大，需要國家機(jī)關(guān)、人工智能研發(fā)應(yīng)用單位、網(wǎng)絡(luò)平臺和公眾與時俱進(jìn)，提高防治新型智能詐騙犯罪的能力。

　　針對當(dāng)前一些詐騙分子利用AI技術(shù)偽造素材的情況，以及詐騙可能利用深度理解大模型來降低成本提升效率的問題，蒼連表示平臺也會不斷提升自己的AI能力進(jìn)行反制，并將AI技術(shù)與傳統(tǒng)平臺治理手段結(jié)合，實(shí)現(xiàn)更好的應(yīng)對。