協助五角大廈人工智慧進軍的公司Accrete,也銷售一種讓企業反制有害謠言的工具
美國特種作戰司令部與人工智慧軟體開發商Accrete合作,利用該五角大廈承包商上週在新聞稿中透露的「開源威脅偵測」軟體Argus,即時應對社群媒體上的「合成媒體」和所謂的不實資訊。
Argus軟體名稱來自希臘神話中的百眼巨人,據報導它可以分析社群媒體數據,捕捉「新興敘事」,並迅速總結軍方需要的資訊,以遏制還在傳播過程中的不友善趨勢。
該工具將由情報分析師和其他專家使用,以「即時預測社群媒體的不實資訊威脅」,該公司解釋道。
這些威脅可能包括「人工智慧生成的病毒式敘事、深度假影片,以及其他有害的社群媒體人工智慧應用」,Accrete執行長Prashant Bhuyan在該公司聲明中表示,這些「對美國國家安全和公民社會構成嚴重威脅」,而社群媒體本身就是一個「無規範的環境,敵人經常利用推理漏洞並通過故意傳播不實資訊來操縱行為」。
五角大廈並非Argus功能的唯一客戶,一個名為Nebula Social的版本將推向市場,以協助私人企業管理其線上聲譽和客戶對其品牌的談論。
「企業已經遭受競爭對手、不滿的員工和其他類型對手人工智慧生成的病毒式不實資訊和深度假影片傳播所造成的重大經濟損失」,Bhuyan表示,他認為市場正在尋找可與私營部門共用的軍事級資訊戰工具。
「我們相信,能預測和中和惡意人工智慧生成的合成媒體市場即將爆炸」,他預測。該軟體的私營部門版本應該能夠通過首先學習一家公司所重視的內容並回應最相關的問題,在它們有機會對客戶行為產生負面影響之前保護客戶的「痛點」,方法是自主生成內容,也就是合成媒體。
五角大廈的國防創新單位,由前谷歌執行長Eric Schmidt共同創立,最初與Accrete合作開發Argus,支付數百萬美元的費用獲得該程式為期5年的授權,該程式旨在(除其他目的外)發現「表示潛在非法活動的行為異常,但對人類來說太複雜而無法識別」。