in

趨勢科技與若水AI數據標註團隊聯手用 Line 打擊假新聞

文/ 若水 Flow AI Blog 編輯團隊

前言:
今年二月,趨勢科技的「防詐達人」APP拿下《美台科技挑戰賽》首獎,除了歸功於一個自願用專長解決社會問題的熱血工程師團隊,還加上一群隱身在演算法和大數據背後的若水 AI 數據標註師,攜手守護台灣民眾的身家安全。

假消息、詐騙流言滿天飛的現在,由趨勢科技所推出的「防詐達人」LINE聊天機器人,不僅榮獲《美台科技挑戰賽》首獎,打敗來自以色列、澳洲等國的參賽隊伍,一舉拿下500萬獎金,也讓科技政委唐鳳忍不住在 Facebook上PO文 說讚。

圖片來源:唐鳳Facebook帳號

民眾將防詐達人LINE帳號加為好友後,只要將可疑訊息轉傳、通報給防詐達人,裏頭的AI機器人便會立即跳出回覆,協助民眾辨認這條訊息的真偽。也因為免費、操作簡單,又能即時解危,成了不少台灣民眾生活常用的APP。每天,登入其Line官方帳號查證的就有6~7萬人,加入的使用者至少32萬人以上,今年四月中預計推廣到日本。

笑稱就像「蝙蝠俠」,白天過著正常工作、晚上穿梭線上、線下的世界打擊不法,趨勢科技全球市場開拓資深經理劉彥伯和多位工程師的團隊成員們,儼然已經成為一群「反詐騙專家」。

他們深入研究各種詐騙行為、新聞,到刑事局討論犯罪模型,「像現在新型冠狀病毒肆虐,就出現一大堆誘人不用排隊買口罩的假網站,在日本甚至還出現『買石頭』、『換水管』可以防疫的詐騙噱頭,」劉彥伯振振地說著。

趨勢科技全球行銷資深經理劉彥伯(圖片來源:若水)

假訊息的傳遞和查證非常講究時效性,在防詐達人上,每個月通報的詐騙消息高達4,500~5,000萬則。如此龐大的數量,加上詐騙手法日新月益,除了靠機器學習,還要時時做數據標註、餵養最新數據,以優化演算法的表現。

也因此,劉彥伯和另一位趨勢的工程師下了班都在搶時間標註數據。很多時候,即便只是騎車等紅燈的20秒、30秒,他們也不浪費空檔,趕緊登入後台標註。

挑戰來了,數據量大,還要騰出時間每天做 AI 數據標註、更新,對防詐達人團隊是不小的負擔。於是,他們找上若水AI,透過 AI 機器人加上 AI 數據標註師的過濾、判斷,聯手為台灣民眾建造一座可靠的資訊安全防護牆。

   

當 AI 數據標註師也成為資安威脅分析專家

若水是全台最大的AI數據服務團隊,經手超過100個多元類型的 AI 大數據專案,標註師為來自全台各地的居家身障者,這些身障者因為障別的限制,難以像一般人一樣順利外出就業,經過專業訓練後,成為擁有各種know-how的專業 AI 數據標註師。

若水 AI 數據標註師工作畫面 (圖片來源:若水)

一開始,這群工程師們親赴若水,教導標註師們判讀各種詐騙方式。劉彥伯舉例,因為疫情,最近就出現不少假冒醫藥大廠的臉書,他就會教標註師們要看名稱旁邊有沒有官方認證的藍勾勾、成立時間,以及網友評論。

「學得很快,不到一個月就上手,而且正確率高,標註完的數據很有參考價值,」劉彥伯說,若水AI標註師們一直跟著專案成長,標久也成了資安威脅分析的專家,連趨勢科技自製的釣魚網站都分得出來,更別提民眾通報的內容是真是假,很難逃過標註師們的法眼。

最重要的是,標註師們儼然成為防詐達人系統的最佳測試者,給予第一手的回饋。最早,後台介面的開發都由趨勢工程師完成,幾次下來,標註師們反應實際用起來有點複雜,雙方來回討論,結合詐騙的數據特質,開發出目前一目瞭然的版本。

經過民眾通報的詐騙訊息,經由系統辨別為「詐騙」,就會交由若水AI標註師在後台逐一標註其來源,包括網域、主要使用者、網站註冊年數,國家等數據,也同時分類其詐騙型態,例如:成人、博奕、貸款或投資等等

若水標註師協助分辨詐騙貸款網站 (圖片來源:若水)

「我們省下好多時間,更能深入掌握各種詐騙的型態,若水協助標註 AI 數據,給予使用者回饋,發揮一加一大於二的綜效,」劉彥伯肯定。

掌握更多詐騙型態,不只保護更多台灣民眾的身家安全,也讓這群軟體專家,與時俱進地為全球使用者提出滴水不漏的資安防護。「從駭客手法來看,病毒威脅的型態更趨多樣性,現在網路上的釣魚、假訊息造成的資安問題,相較傳統被熟知的電腦病毒,嚴重性有過之而無不及」劉彥伯分析。

而對若水AI來說,藉由這樣的合作可以讓數據標註師們持續豐富產業知識,也在工作中創造意義、對產業和社會有所貢獻。「這呼應了我們成立的初衷,」若水AI事業部負責人簡季婕說,也就是-

在AI來臨的時代,把人放在最有價值的工作上,讓人永遠不被機器取代。


【推薦閱讀】

1. 在台灣,安防監控的發展相對成熟,食、衣、住、行、育、樂,任何你想得到的人類基本生活需求,只要加上「安全」,就有機會成為一門商機。而一樣是看「人流」,在百貨公司大門口、櫥窗前、手扶梯所需的「數據型態」就會天差地別: ➡️➡️ 發展安防監控,從數據開始助攻

2. 科技與人權之間的拔河,你打算參與什麼樣的未來? ➡️➡️ 看更多內容


【AI數據處理的策略思考】 發展安防監控,從數據開始助攻

阿里雲 杭州城市大腦

【智慧城市案例】杭州與阿里巴巴用數據,打造AI城市大腦