台灣新聞通訊社-高嘉瑜等人政論被AI竄改迎中共 立委要求國安局研議處理

〔記者吳哲宇/台北報導〕立法院外交及國防委員會今日審查「114年度中央政府總預算案關於國家安全局收支公開及機密部分」,立委關切近期多位政治人物被偽造影片傳散,影片當事人權益及無惡意傳散民眾要如何處置?委員會召委王定宇並要求國安局要積極研議,不要讓國民從受害者變成加害人,人人都可能受害。

國民黨立委徐巧芯關切,明年度國安局要招募AI反制人才等等計畫,但為何沒有出現在相關預算列表。國安局長蔡明彥說,這主要集中在人才培訓,以及AI技術至情報工作的運用,每個單位都有AI小組,並鼓勵每個小組做經驗分享。

徐巧芯追問,假訊息經AI小組研究,AI小組有何功能?預算多少?蔡明彥說,首先是應用到內部龐大的資料庫,因為AI作業速度較快,可進行初步分析,精簡人力;其次是AI技術系統應用,會應用新技術了解假的帳號如何生成,又用哪些AI文字透過異常帳號傳散,可用我方AI系統掌握全貌。

針對後續處置,蔡明彥指出,若AI傳散涉及違法,會移請司法警察機關偵辦,若是違反社群平台內部管理機制,會積極與社群平台溝通將其下架;若是涉及到政府單位需要即時澄清的,國安局有通報機制可讓各單位快速澄清。

徐巧芯接著秀出一段影片,指出民進黨前立委高嘉瑜曾在某政論節目上抨擊民進黨,雖然高嘉瑜已有在臉書澄清,但相關遭偽造的影片已經快速傳散,除此之外,也有數件類似案件,民眾也是無惡意的轉傳,只是誤信AI影片,國安局如何處理?

蔡明彥回應,國安局有注意到該影片,是擷取高嘉瑜在1月24日在政論節目的影片,再進行後製變更講話內容,除了在LINE的封閉群組內部快速傳散之外,也有在TIKTOK的異常帳號傳散,且這些異常帳號背後的IP位置不斷更動,很像專業、有系統、有組織的傳散。

蔡明彥說明,若影片危害當事人權益,國安局會尊重當事人的法律作為,到了司法檢察國安單位,會有相關系統證明影音的真偽,可幫助偵辦及法律的攻防。

但徐巧芯指出,問題的癥結在於民眾誤信傳散影片,若被提告要怎麼辦,這些民眾是沒有惡意的,但卻可能從被害人變成加害人。

對此,民進黨召委王定宇也表示,國安局對此要積極研議,不要讓國民從受害者變成加害人,人人都可能受害。

2024/11/14 13:29

轉載自自由時報電子報: https://news.ltn.com.tw/news/def/breakingnews/4862628