偽情報と戦うDr. MessageとCofacts

:::

2020 / 8月

文・曾蘭淑 写真・林旻萱 翻訳・山口 雪菜


友人が気を利かせて、スマホに「ハローキティの限定スタンプ、今夜からダウンロード開始」などという情報を転送してくれるが、これは詐欺情報だ。「小包をお届けします」というフィッシング詐欺のSMSもあれば、「感染症対策本部の陳時中指揮官が、端午節まで外出自粛を呼びかけ」といったデマもある。だが、これらの情報をファクトチェック・プラットフォームに転送すれば真偽がわかり、被害を防ぐことができる。


力を結集して社会問題を解決

トレンドマイクロのDr. Message(防詐達人)と、Cofacts真的假的のエンジニアたちがファクトチェック・プラットフォームを立ち上げたのは、最初は家族や友人を偽情報から守るためだった。だが、情報の真偽を確認したいという需要が多く、今ではLINEやフェイスブックでDr. Messageは40万人、Cofactsは18万人が利用、偽情報による被害を減らしている。

Dr. Messageは毎月5500万件の情報を判読し、これまでに200万件以上の偽情報や詐欺情報を識別、阻止してきた。2018年の設立のきっかけは、トレンドマイクロの技術者たちが勉強会だ。その中で、ビッグジョン(詐欺グループに狙われないよう、メンバーはニックネームを使う)が、母親が「3人の友だちに転送すると無料のスタンプがもらえる」という偽情報に騙されたという話をした。するとカリンが2日でフィッシングサイトを識別するチャットボット「麻薬探知犬」を開発し、皆に提供したのである。

だが、これは使えなかった。偽情報やフィッシングサイトなどの情報が充分ではなく、判別できなかったのである。そこでチームは、トレンドマイクロでグローバル・コンシューマー・セールス・イネーブルメントおよびビジネス・セールス部門を担当する劉彦伯に依頼し「麻薬探知犬」商品化の可能性を話し合った。劉彦伯はDr. Messageの情報をMobile01などのフォーラムにアップし、使用者から情報をフィードバックしてもらい、識別度を高めることにした。

偽情報の氾濫で利用者激増

劉彦伯によると、詐欺対策は当初、詐欺サイトとLINEの偽アカウントだけを対象にしていた。そこで、以前マイクロソフトで働いていた時に、刑事局と協力した経験から、刑事局の165詐欺防止サイトと協力関係を結び、2018年8月からは偽情報を識別するMyGoPenやCofacts、ファクトチェックセンターのデータバンクなどと協力し、10月にはさらに外務省や食品薬物管理署、疾病管理署などの公的部門の偽情報サイトとも連携した。

2020年2月、米国在台協会(AIT)と資訊工業策進会(III)が共同で開催したUS-Taiwan Teck Challengeにおいて、Dr. Messageは一等に輝き、賞金17.5万米ドルを獲得した。この大会に出場した理由は実はつらいものだったと劉彦伯は言う。このプラットフォームの運営費はトレンドマイクロから支援され、政府でデジタル化を担当する唐鳳・政務委員による推薦もあったのだが、会社の管理職から評価されず、メンバーはあきらめてやめようとしていたのである。

その後、トレンドマイクロCEOのエヴァ・チェンがDr. Messageのメンバーと面会し、チームが世界の情報セキュリティ企業としてのコア・コンピタンスを発揮し、企業の社会的責任を果たしていることを称賛した。そして6月から、Dr. Messageは日本とフィリピンでも打ち出すこととなり、偽情報や誤情報による多くの人の損失の削減に役立つこととなったのである。

Cofactsのファクトチェック

Cofacts真的假的は、一般ユーザーの協力を得て、多くの人が協力してファクトチェックをする仕組みを作り上げた。創設者のジョンソンは、LINEのグループで、しばしば本当かどうか疑わしいデマや噂が転送されてくるのを何とかしたいと考え、タップするだけで真偽を確認できるプログラムを作りたいと考えた。

時間をかけて準備した後、2016年9月、彼は台湾大学政治学科の同級生ビリオンに、ファクトチェックができるチャットボットのプログラムを依頼した。

ジョンソンはまずAirtableの試算表を使ってファクトチェックのためのデータベースを確立した。ユーザーから送られてきた情報の真偽を判別し、返答するという方法だ。だが、内容のチェックを担当していたビリオンは、情報量が多すぎて作業が追い付かず、より多くのエディターが必要だと考えた。

これを知った唐鳳政務委員は、Cofactsが多くのエディターを求めているといいう情報を自身のフェイスブックに載せた。この情報で協力者は増えなかったが、Cofactsの利用者が激増し、Airtableのデータベースはパンクしてしまった。そこでジョンソンは2017年にデータベースを書き直し、台湾大学情報工学科の同級生、李柏緯と郭冠宏に提案執筆を依頼してgOv第1回公民科技創新奨助金を申請した。こうして助成金を得て、毎週水曜の夜に会議を開くことにした。

Cofacts:市民がエディター

Cofactsチームはプログラム力が強いだけでなく、「オープンソース」の理念を持っている。ジョンソンは台湾大学情報工学科の大学院にいた時に、gOvのグループに参加したことからプログラム共同制作の習慣が身に付き、オープンソースの価値を理解していた。

長い髪を団子に束ねたジョンソンは、ゆっくりとこう話す。「ウィキペディアから、プログラム分野、あるいはQ&AサイトのStack OverflowやYahoo奇摩の知識+まで、どれもユーザーが協力する形で成り立ち、オープンな形で編集されています」

Confactsも、こうしたオープンな精神を基礎としてデータとプログラムを公開している。最近LINEグループではファクトチェック・チャットボットの「美玉姨」に人気があるが、これを開発した徐曦もConfactsのオープンデータを応用している。また、唐鳳政務委員の紹介でタイのNPO、Open DreamがConfactsの英語ツールキットを用い、タイ語版のConpactsを運用するようになった。ジョンソンは、これもオープンソースの精神のおかげだと言う。

メディア・リテラシーを高める

ビリオンによると、ユーザーから転送されてくる情報は以下のように分類できる。健康に関する偽情報、無料スタンプの広告とオンライン詐欺、政治関連のフェイクニュース、そして昔から幾度も否定されているにも関わらず形を変えて出てくる偽情報などである。「デマや噂にしろ、それに対する回答にしろ、すべて疑ってみる価値があります。最終的に判断するのは自分自身なのです」とビリオンは強調する。

Dr. Messageは他のSNS用のバージョンも計画中だ。トレンドマイクロのAI専門家であるテッドは、言語や文字に対するコンピュータの理解力には限界があるため、まだ人間の方に優位性があり、プラットフォームは偽情報の判別に役立つと言う。ただ、これは決してユーザーの判断に取って代わるものではない。最も重要なのは、自分で真偽を見抜く力、すなわちメディア・リテラシーなのである。

関連文章

近期文章

繁體 EN

謊言vs. 真實

打擊假訊息:防詐達人、Cofacts

文‧曾蘭淑 圖‧林旻萱

這是個假訊息、假新聞滿天飛的時代。

手機常有友人好心轉傳「最新凱蒂貓貼圖只限今晚開放下載哦!」的詐騙簡訊、連結一串釣魚網址的簡訊「包裹已派發,請您及時查收」,還有假訊息「陳時中指揮官說端午節前別出門」,這些網路謠言、好康訊息真假難辨,但只要轉傳給查證平台,就可以提醒自己,勿入陷阱。


創辦「趨勢科技防詐達人」、「Cofacts真的假的」查證假訊息平台的工程師們,原先只想為「家人群組」透過寫聊天機器人的程式來避免受騙。但正因為民眾也有想查證假訊息、不想受騙的需要,讓趨勢科技防詐達人目前已在LINE及臉書累積近40萬人好友,Cofacts真的假的也有超過18萬好友,工程師們用寫程式作公益,減少了假訊息對社會的危害,亦將對親友的愛化為公共的善。

集結眾人之力,解決社會問題

每月判讀超過5,500萬筆資訊,至今已成功辨識、阻止超過200萬筆假訊息和詐騙資訊被傳送的趨勢科技防詐達人(以下稱「防詐達人」),2018年設立的緣起,是因趨勢科技的工程師們組了「聊天機器人」的讀書會,眾人一開始夢想要開發全球獨家的防毒聊天機器人,但大John(避免被詐騙集團盯上,成員均用暱稱)說到媽媽被「分享給三位朋友就可以獲得LINE免費的米奇貼圖」的假訊息所騙,就與讀書會的成員Kalin哥花了兩天的時間開發了「緝毒犬」聊天機器人辨識程式,可以偵側出防釣魚網址,給家人用。

「這麼難用!抓不到詐騙的訊息!」大John摸著頭說:「我媽媽還是嫌不好用。」原來是集結假好康/假訊息/釣魚網址等資訊不夠多,聊天機器人偵測不到詐騙的訊息。團隊因此拜託在趨勢科技負責全球市場開發與行銷的劉彥伯,討論將「緝毒犬」變成產品的可能性,劉彥伯將防詐達人的訊息PO到Mobile01等論壇,希望透過使用者回饋更多假訊息的資訊來提高辨識度。

團隊也利用自己下班的時間不斷精進,在2018年4月開發了可以辨識假LINE@官方帳號以及假購物網站的功能,並正式取名「防詐達人」。使用者只要將「防詐達人」LINE的帳號加為好友,一遇到可疑訊息轉傳給它,機器人便會驗證是否為詐騙資訊。

假訊息泛濫,使用者暴增

「我們是做詐騙起家的!」講得很順的劉彥伯,其實他的意思是防詐達人起初只針對「詐騙網站/LINE帳號」進行查證。由於在微軟工作時曾有與刑事局合作的經驗,劉彥伯因此與刑事局的165全民防騙網合作,2018年8月起串接查核假訊息的MyGoPen(麥擱騙)、Cofacts真的假的、事實查核中心的資料庫,10月又擴及公部門:外交部、食藥署、疾管署的澄清專區。

過去公部門的澄清專區與友台的資料各自獨立,但在防詐達人的整合下,假訊息有如百川匯海,讓防詐達人的查證平台,可以提供一站式的服務。

回想起防詐達人在2018年7月在LINE平台正式推出時,加入的好友瞬間從試用版時的一千多人暴增為一萬多人,目前以每天數百人到千人的速度增加,當時為了解決伺服器處理大量資訊的速度問題,又有預算的限制,負責雲端技術的Eric,以上網競標閒置雲端主機的方式,同時解決速度與資金有限的問題。「我們雖窮,但我們有心。」Kalin哥說,由於大家都是義務幫忙,經費有限,因此只能用專業來省錢。

又如文字辨識涉及字形、排版、中英繁簡等語言問題,團隊成員花了數月時間,每晚加班修改爬蟲、NLP等程式,不斷微調,務求提高辨識度,目前連圖片都已納入辨識範圍。

今(2020)年2月防詐達人參加美國在台協會與資策會合辦的「美台科技挑戰賽」,拿到首獎與17.5萬美元(約台幣530萬元)的獎金。劉彥伯說起參賽的動機卻滿是心酸,原來平台運作的經費雖有得到趨勢科技的贊助,連行政院數位政委唐鳳都在臉書點名推薦,卻得不到公司主管的肯定,導致團隊成員幾度想退出、放棄。

直至防詐達人團隊獲趨勢科技執行長陳怡樺召見,肯定團隊展現作為全球資訊安全公司的核心能力與企業的社會責任。六月開始,防詐達人也會陸續在日本、菲律賓推出,協助減少兩國國民因假訊息、假新聞所遭受名譽、金錢的損失。

Cofacts原型,用在事實查核的問答網站

Cofacts真的假的(簡稱「Cofacts」)則是以群眾協作的方式,開放大家一起來查證假訊息。創辦人Johnson也是因為在LINE的「家人群組」上,總是有一些似是而非的假訊息,他想編寫一個程式,只要一個按鍵,就可以幫助家人查詢。

這樣的想法醞釀了一陣子,2016年9月Johnson坐捷運時,向台大政治系畢業的校友Billion表示:「有人會轉傳謠言,卻不會去Google查查看是否真的有這件事,希望Billion幫忙,讓他寫的聊天機器人可以有更多人使用。」

總是以蝴蝶結綁著公主頭的Billion形容學霸型的Johnson說:「他是那種跑在前頭,還會回頭照顧跑得慢的人的那種學霸。」確實,Johnson在2016~2017年間發現有關婚姻平權、愛滋病的假訊息泛濫成災,他因此做了一個為同志可以成家發聲的網站「我愛家.我聯絡」,讓民眾可以透過這個網站向立法委員陳情。

Johnson先是用Airtable試算表,建立了一個可查證的資料庫,以一欄謠言、一欄判斷、一欄回應的方式進行。負責內容查核的Billion每天埋首在查核假訊息中,案牘勞形,實在需要更多查核的編輯加入。

政務委員唐鳳知道後,見義勇為地在她的臉書發了一則訊息,幫Cofacts協尋闢謠編輯。這則臉書貼文沒有找到協作的人,卻吸引很多使用者上Cofacts查詢假訊息,讓Cofacts爆紅,也讓Airtable資料庫爆了(超載之意)。Johnson因此在2017年重新編寫了一個資料庫,同時為了申請g0v第一屆公民科技創新獎助金,邀請昔日台大資工系的同學李柏緯、郭冠宏一起來寫提案,拿到獎助金後,團隊成員固定每週三晚上開會。

半年的計劃一過,他們還是犧牲個人的時間,抱著可以為社會做點什麼的善念,保持著每週開會的習慣,解決Cofacts在闢謠、人數增加時遇到的問題。

Cofacts:每人都是闢謠編輯

Cofacts團隊除了具有高深的程式力,還有遠大「開放原始碼」的理念。創辦人Johnson 在台大資工所念書時,透過參加g0v社群的經驗,養成共筆的習慣,也領悟了開源運動的價值。

將長髮盤成一個小髻,有著清亮臉龐的Johnson不疾不徐地說:「從維基百科、程式設計領域的問答網站Stack Overflow,到Yahoo奇摩知識+,都是以群眾協作的方式,開放大家一起來編輯,這樣的好處之一,就是之後收到同一訊息的人,如果也想要查證,不用從零開始,協作型闢謠資料庫能幫這些人少走很多冤枉路。」

Cofacts透過協作所累積的「協作型闢謠資料庫」,就像是個巨型的共筆;他們也基於開源的精神,開放資料與程式碼。最近受到LINE群組歡迎的另一事實查核機器人「美玉姨」,開發者徐曦也是串接Cofacts公開資料庫來應用。Cofacts也透過政委唐鳳介紹泰國的非營利組織Opendream 利用Cofacts全英文的工具包,做成泰文版的Cofacts,Johnson說:「這就是開源計畫的精神與回饋。」

培養媒體識讀的能力

Cofacts目前累積約3萬5千筆資料,Billion分析轉傳查證的訊息:與健康保健相關的假訊息約三成,免費貼圖廣告與網路詐騙訊息、政治相關新聞、陳年已經被澄清卻幾經變形再度轉傳的訊息,則各佔兩成。她強調:「不管是謠言或是回應,都是值得被懷疑的;Cofacts這樣的工具,能讓你輕易取得群眾所提供的資訊,但是最後做判斷的,永遠只有自己。」

除了LINE和臉書的版本外,防詐達人也計劃陸續推出Viber與推特的版本。趨勢科技AI專家Ted強調,電腦對人類的語言與文字的理解還是有許多的限制,人類仍有許多優勢是電腦無法取代的,因此查核平台可以幫助讀者更容易判斷假訊息,但不是代替讀者判斷,最重要還是自己要有解讀假訊息,也就是媒體識讀的能力。

Rumors vs. Reality

Dr. Message and Cofacts Combat Misinformation

Esther Tseng /photos courtesy of Lin Min-shuan /tr. by Robert Fox

Misinformation is everywhere these days. Friends often pass on scam cellphone messages like “Download the latest Hello Kitty emojis—tonight only!” Or “Your package has been sent out, please collect it now,” linking to a series of phishing URLs. Or fake news such as “[Health minister] Chen Shih-chung says to stay indoors until the Dragon Boat Festival.” It’s hard to tell which of these Internet rumors and “special offers” are true and which are false. But you can avoid falling prey to scams and hoaxes by forwarding the messages to a fact-checking platform.


The software engineers who created the online fact-checking platforms Dr. Message and Cofacts initially wrote anti-fraud chatbots to protect friends and family. But because people want to avoid being deceived by misinformation, Trend Micro’s Dr. Message has attracted nearly 400,000 followers on Line and Facebook, and Cofacts has more than 180,000 followers on those platforms. The engineers write programs to benefit the public, reducing the societal harm that misinformation causes, thus turning their love for relatives and friends into a social good.

Collectively solving social problems

Dr. Message analyzes more than 55 million pieces of information every month, and has successfully identi­fied more than 2 million fake messages and items of digital misinformation. Trend software engineer “Big John” (all Dr. Message’s programmers use aliases to protect themselves from online fraudsters) created the app in 2018 after his mother got taken in by a fraudulent Line message promising free Mickey Mouse emoji stickers if she shared the message with three friends. In just two days, Big John and fellow chatbot study group member Kalin developed a “sniffer dog” chatbot identifica­tion program that their family members could use to detect phishing websites.

“My mom didn’t find it easy to use,” says Big John, scratching his head. It turned out that the chatbot wasn’t gathering enough information on scams, fake news, and phishing websites. Consequently the program couldn’t detect fraudulent messaging. The engin­eer­ing team then asked Paul Liu, senior manager of Trend Micro’s Global Consumer Sales Enablement and Business Sales Department, to promote Dr. Message on Mobile01 and other online forums. They hoped to use data provided by users to improve the app’s sensitivity in detecting misinformation.

Fact-checking surges 

“We started out doing scams!” quips Paul Liu. What he means is that Dr. Message originally checked out only fraudulent websites and phony Line accounts. Because he’d worked with the Criminal Investigation Bureau while employed at Microsoft, Liu collaborated with the bureau’s 165 National Anti-fraud Platform, and from August 2018 he linked Dr. Message with the Taiwan FactCheck Center, Cofacts and MyGoPen databases. In October of the same year he brought in more public-sector sources by including the corrective information sections on the websites of the Ministry of Foreign Affairs, the Taiwan Food and Drug Administration and the Taiwan Centers for Disease Control.

In February 2020, Dr. Message took part in the US‡Taiwan Tech Challenge, organized by the American Institute in Taiwan and the Institute for Information Industry, winning first prize, US$175,000 (about NT$5.3 million). When Paul Liu talks about the team’s motiva­tion for entering the competition, there’s sadness in his voice. Although Trend provided funds for the platform’s operation, the team’s supervisor didn’t support it, causing team members to nearly give up and withdraw from the project on several occasions.

All this changed when Trend CEO Eva Chen met with the team and affirmed that it was demonstrating the core competence and corporate social responsibility expected of a global information security company. In June 2020 Dr. Message began collaborating with Trend Micro’s Japanese and Philippine branches, going on to launch Japanese and English versions of the Dr. Message software. The aim is to reduce misinformation and fake news that might result in financial loss or reputational harm for people in those countries.

The Cofacts approach

Cofacts gets its name from the concept of col­labor­ative fact-checking whereby the public are invited to join in efforts to identify false information.

One day in September 2016, Cofacts founder Johnson Liang was riding on the MRT, chatting with his school friend Billion Lee, a graduate of National Taiwan University’s Political Science Department. “People pass on rumors, but they don’t Google to find out if they’re true,” Liang said. He then asked Lee to help him write a chatbot program that anyone could use.

Liang used the Airtable spreadsheet to set up a fact-checking database. Lee, who was responsible for verifying content, identified a slew of fake messages daily, but the job proved too much for one person. They needed more fact checking editors.

When Minister Without Portfolio Audrey Tang learned of the situation, she posted a note on her Facebook page announcing that Cofacts needed editors. The post attracted no jobseekers but drew lots of people to the Cofacts website to try to check out misinformation. The surge of interest made Cofacts an overnight sensation, overloading the Airtable database. Consequently, Johnson Liang designed a new database in 2017; further­more, to apply for a g0v Civic Tech Prototype Grant, he invited his NTU Department of Computer Science & Information Engineering classmates Zucien and GGM to write a proposal. Since receiving the grant, the team has held regular meetings every Wednesday evening.

Everyone’s a disinformation detective

In addition to expert programming power, the Cofacts team also has an ambitious “open source” philosophy.

His long hair rolled up in a bun, the clear-faced ­Liang casually remarks, “Wikipedia, the website Stack Overflow, which answers questions about program design, and Yahoo Answers all rely on collaborative fact-­checking, open to any and all volunteer editors.”

In this spirit of open sourcing, Cofacts has made database and codes available to the public. Developer Carol Hsu’s fact-checking bot Meiyuyi, recently popular with Line groups, accesses Cofacts’ database. Via Audrey Tang, a Thai NPO called Open Dream got to know Cofacts, and using Cofacts’ English-language toolkit, created a Thai version of the software. “That’s how open-source projects work,” says Johnson Liang.

Media literacy

Billion Lee analyzes the types of information that Cofacts checks, including false healthcare messages, ads for free emoji stickers, online scams, political news, and zombie misinformation. “Whether rumors or responses, it’s all worth checking. But in the end, you always have to judge for yourself,” Lee says.

Dr. Message plans to release Facebook and Twitter versions. AI expert Ted emphasizes that computers still have many limitations in understanding human language and text. Fact-checking platforms can help the public more easily determine if information is false. But most importantly, people need to develop media literacy—the ability to spot false information on their own.

X 使用【台灣光華雜誌】APP!
更快速更方便!