蘋果新推出的“蘋果智能”生成式AI技術(shù)在英國(guó)上線不到48小時(shí)內(nèi)就“翻車”，其AI新聞?wù)δ芙oBBC的新聞報(bào)道編造了一條不實(shí)標(biāo)題：“刺殺聯(lián)合健康保險(xiǎn)公司CEO的嫌疑槍手路易吉·曼吉奧尼開槍自殺”。

該事件不僅是蘋果年末面臨的重大公關(guān)危機(jī)，也引發(fā)了新聞自由倡導(dǎo)組織的廣泛批評(píng)，認(rèn)為人工智能尚不足以承擔(dān)生成公共新聞信息的任務(wù)。

人工智能成造謠機(jī)器？

由“無國(guó)界記者”（RSF）提出的批評(píng)指出，蘋果新聞?wù)腻e(cuò)誤本質(zhì)源于生成式人工智能的概率性決策模式。RSF在聲明中表示：“這一事故表明，即便基于權(quán)威新聞來源，人工智能系統(tǒng)也無法系統(tǒng)性地產(chǎn)出高質(zhì)量信息。概率性的運(yùn)作方式?jīng)Q定了此類技術(shù)不適合作為面向公眾的可靠新聞解決方案?！?/p>

蘋果的新聞?wù)到y(tǒng)錯(cuò)誤總結(jié)了BBC有關(guān)“路易吉·曼吉奧尼”的報(bào)道，將“涉嫌槍擊聯(lián)合健康保險(xiǎn)CEO的嫌疑人”篡改為“嫌疑人自殺”，嚴(yán)重偏離事實(shí)，與造謠無異。這不僅對(duì)媒體的公信力造成影響，也可能對(duì)公眾的信息獲取權(quán)利構(gòu)成威脅。

新聞?wù)δ鼙灰笙录?/h4>

RSF明確要求蘋果從其操作系統(tǒng)中刪除該功能。RSF科技與新聞部門負(fù)責(zé)人文森特·貝蒂埃批評(píng)稱：“事實(shí)不應(yīng)由擲骰子的方式?jīng)Q定。蘋果應(yīng)負(fù)起責(zé)任，下架這一功能?！彼M(jìn)一步指出：“自動(dòng)生成虛假信息并歸因于權(quán)威媒體，既損害了媒體的可信度，也危及公眾獲取可靠新聞的權(quán)利?！?/p>

這一事件也引發(fā)了BBC的不滿。BBC已對(duì)此提交正式投訴，指責(zé)蘋果的人工智能系統(tǒng)損害了其新聞內(nèi)容的準(zhǔn)確性。然而，蘋果尚未對(duì)外界的批評(píng)和投訴作出公開回應(yīng)。

AI新聞功能的“前科”

據(jù)BBC透露，這并非蘋果AI系統(tǒng)首次因生成錯(cuò)誤新聞?wù)萑霠?zhēng)議。今年11月，一位ProPublica記者曾分享蘋果AI生成的另一則假新聞?wù)e(cuò)誤地稱以色列總理本雅明·內(nèi)塔尼亞胡被捕，并將消息歸因于《紐約時(shí)報(bào)》。這一系列事件表明，蘋果的AI新聞?wù)赡芤呀?jīng)成為“習(xí)慣性誤讀者”。

更廣泛的技術(shù)背景也為這一事件提供了警示。Google的AI搜索曾因錯(cuò)誤建議用戶“在披薩上涂膠水”而受到批評(píng)，Meta則警告硬件故障可能導(dǎo)致AI決策錯(cuò)誤。顯然，生成式人工智能的“未成熟性”已成為行業(yè)的普遍問題。

“機(jī)器造謠”的法律與倫理空白

RSF指出，歐洲的《人工智能法案》（AI Act）盡管是目前全球最先進(jìn)的AI相關(guān)立法，但并未將新聞生成類AI列為高風(fēng)險(xiǎn)系統(tǒng)，從而留下了一個(gè)重要的法律空白。此外，當(dāng)前主流的AI安全法律框架未能明確生成虛假信息的責(zé)任是歸于技術(shù)提供方還是用戶。這種模糊性導(dǎo)致企業(yè)在處理此類事件時(shí)往往采取“推諉”策略。

貝蒂埃呼吁立法者盡快彌補(bǔ)這一缺口：“這一漏洞必須立即填補(bǔ)，以防止類似事件再次發(fā)生?！?/p>

RSF呼吁盡快填補(bǔ)法律空白，重點(diǎn)關(guān)注以下幾個(gè)方面：

• 高風(fēng)險(xiǎn)分類和強(qiáng)制評(píng)估。將新聞生成類AI系統(tǒng)列為高風(fēng)險(xiǎn)技術(shù)，要求技術(shù)提供方進(jìn)行定期審核和透明報(bào)告。
• 虛假信息責(zé)任追究機(jī)制。明確技術(shù)提供方對(duì)生成虛假信息的直接責(zé)任，并設(shè)立糾紛仲裁機(jī)制。
• 公眾監(jiān)督與參與。鼓勵(lì)公眾和媒體參與AI信息生成技術(shù)的監(jiān)督，形成技術(shù)應(yīng)用的多方協(xié)作機(jī)制。

這一事件還暴露了生成式人工智能在新聞?lì)I(lǐng)域依然存在重大技術(shù)瓶頸和內(nèi)容風(fēng)險(xiǎn)，也凸顯了企業(yè)在AI技術(shù)使用中的倫理責(zé)任缺失?？萍脊驹趹?yīng)用AI技術(shù)時(shí)往往缺乏足夠的責(zé)任心和應(yīng)對(duì)機(jī)制。業(yè)內(nèi)人士表示，蘋果若不立即采取行動(dòng)，未來可能面臨更大的監(jiān)管壓力和用戶信任危機(jī)。