海報(bào)新聞
海報(bào)新聞?dòng)浾?周凌峰 報(bào)道
12月3日，字節(jié)跳動(dòng)與中興合作推出的nubia(努比亞)M153工程樣機(jī)，在首批試用用戶群體中掀起波瀾。多位開(kāi)發(fā)者及科技愛(ài)好者反饋，這款搭載豆包手機(jī)助手技術(shù)預(yù)覽版的設(shè)備，無(wú)法正常登錄微信等主流應(yīng)用，更有技術(shù)分析指出其搭載的侵入式AI所獲權(quán)限已觸及操作系統(tǒng)安全紅線，一場(chǎng)關(guān)于AI手機(jī)創(chuàng)新邊界與隱私保護(hù)的討論就此展開(kāi)。
“你的微信登錄環(huán)境存在異常。為了賬號(hào)安全，請(qǐng)更換設(shè)備重新登錄。”一位獲得該工程機(jī)的用戶盯著屏幕的彈窗質(zhì)疑道：AI會(huì)讓登錄環(huán)境不安全嗎？
“上帝視角”讓你絲滑的背后：手機(jī)被AI控制著
海報(bào)新聞?dòng)浾咦⒁獾剑@款定價(jià)3499元、定位“技術(shù)預(yù)覽”的工程機(jī)，本是字節(jié)跳動(dòng)“生態(tài)合作”戰(zhàn)略的重要展示。據(jù)北京日?qǐng)?bào)客戶端12月1日?qǐng)?bào)道，字節(jié)明確無(wú)自研手機(jī)計(jì)劃，豆包手機(jī)助手是其與手機(jī)廠商在操作系統(tǒng)層面合作的AI服務(wù)，努比亞M153僅為技術(shù)落地的“打樣”產(chǎn)品，目前字節(jié)正與多家手機(jī)廠商洽談合作。
從官方演示來(lái)看，豆包手機(jī)助手的核心優(yōu)勢(shì)在于跨應(yīng)用自動(dòng)操作能力。試想一種場(chǎng)景：對(duì)著手機(jī)說(shuō)一句“我要吃全網(wǎng)最便宜的某品牌的外賣”，它就能自動(dòng)后臺(tái)打開(kāi)美團(tuán)、京東、淘寶進(jìn)行比價(jià)，選出最低價(jià)并直接下單，全程無(wú)需你反復(fù)跳轉(zhuǎn)和點(diǎn)擊，AI就能幫你在APP間跳轉(zhuǎn)查詢、領(lǐng)券下單，僅支付環(huán)節(jié)需手動(dòng)確認(rèn)，這種“絲滑無(wú)感”的體驗(yàn)曾被業(yè)內(nèi)視為AI手機(jī)的突破方向。
但這份“突破”背后暗藏權(quán)限隱患。海報(bào)新聞?dòng)浾邚囊晃荒玫綐訖C(jī)的業(yè)內(nèi)技術(shù)人員處獲悉，在手機(jī)“應(yīng)用權(quán)限申請(qǐng)與使用情況說(shuō)明”中，明確標(biāo)注了“android.permission.INJECT_EVENTS”權(quán)限，該權(quán)限允許應(yīng)用向系統(tǒng)注入模擬的用戶輸入事件。
“這種權(quán)限意味著，中興-努比亞用自己的系統(tǒng)私鑰簽名，將豆包手機(jī)助手設(shè)置成了操作系統(tǒng)的一部分，而不是一個(gè)外來(lái)的第三方軟件。”技術(shù)從業(yè)者解釋稱，正是有了進(jìn)程注入，才有了這部AI手機(jī)絲滑、無(wú)感、無(wú)法被限制的跨應(yīng)用操作體驗(yàn)，遠(yuǎn)超之前利用無(wú)障礙服務(wù)的端側(cè)AI能力。
但記者注意到，在Android的權(quán)限定義中，INJECT_EVENTS (注入權(quán)限/注入事件)的保護(hù)級(jí)別屬于上帝之手級(jí)別的操作系統(tǒng)高危權(quán)限。此前黑客突破操作系統(tǒng)限制，拿到這個(gè)權(quán)限，但要面臨侵入計(jì)算機(jī)系統(tǒng)的相關(guān)刑事責(zé)任。
AI繞過(guò)用戶直接選擇，誰(shuí)才是手機(jī)的主人？
當(dāng)前，權(quán)限爭(zhēng)議尚未平息，合規(guī)性問(wèn)題已浮出水面。
12月1日，中國(guó)信通院牽頭在互聯(lián)網(wǎng)協(xié)會(huì)大會(huì)發(fā)布《端云協(xié)同智能體交互雙重授權(quán)安全指引》，其中明確規(guī)定“智能體在訪問(wèn)第三方應(yīng)用時(shí)，應(yīng)當(dāng)遵循第三方應(yīng)用的核驗(yàn)規(guī)則，不得通過(guò)模擬用戶行為、偽造交互事件等方式繞過(guò)核驗(yàn)措施”。
而豆包手機(jī)助手依賴注入權(quán)限實(shí)現(xiàn)的模擬點(diǎn)擊、自動(dòng)跳轉(zhuǎn)等功能，顯然與該指引條款存在沖突。“微信等應(yīng)用的登錄核驗(yàn)機(jī)制，本質(zhì)是為了確認(rèn)操作主體為真實(shí)用戶，AI模擬輸入恰好繞過(guò)了這一核心環(huán)節(jié)。”一位移動(dòng)安全領(lǐng)域?qū)＜冶硎荆瑧?yīng)用廠商對(duì)此類行為的攔截，本質(zhì)是安全體系的自我保護(hù)。
銀行app顯示“檢測(cè)到屏幕正在錄屏”或“共享軟件‘AI操作手機(jī)’”無(wú)法進(jìn)行登錄
測(cè)試人員發(fā)現(xiàn)淘寶app也檢測(cè)出賬號(hào)登錄異常需進(jìn)行驗(yàn)證才可以登錄的情況
除微信外，用戶及技術(shù)人員反饋，多款銀行APP及隱私敏感類應(yīng)用也出現(xiàn)無(wú)法登錄的情況。同時(shí)，不僅是銀行APP，就連淘寶app也被提示需要各種驗(yàn)證才能登錄用戶賬號(hào)。
這類應(yīng)用往往搭載更為嚴(yán)格的安全校驗(yàn)機(jī)制，對(duì)異常操作行為的識(shí)別更為敏銳。“當(dāng)AI以系統(tǒng)級(jí)權(quán)限在后臺(tái)操控金融應(yīng)用時(shí)，既可能觸發(fā)交易安全預(yù)警，也讓用戶數(shù)據(jù)面臨未知風(fēng)險(xiǎn)。”一位從事銀行信息安全的人士指出，銀行APP對(duì)操作行為的合法性、可追溯性要求極高，侵入式AI的介入打破了既有的安全邏輯。
沒(méi)有隱私邊界的AI，或讓用戶“裸奔”在虛擬數(shù)據(jù)中
記者在社交平臺(tái)發(fā)現(xiàn)，不少網(wǎng)友爭(zhēng)議的核心已從單一產(chǎn)品延伸至行業(yè)深層命題：侵入式AI的隱私邊界在哪里?
據(jù)《晚點(diǎn)LatePost》實(shí)測(cè)，這款工程樣機(jī)在機(jī)身側(cè)面配備了一顆專屬的物理按鍵。無(wú)論手機(jī)處于何種狀態(tài)，按下該按鍵即可喚醒助手。它以“疊加層”(Overlay)的半屏卡片形式出現(xiàn)，不會(huì)中斷用戶當(dāng)前正在使用的App。更重要的是，助手具備“屏幕感知”能力，可以理解當(dāng)前屏幕顯示的內(nèi)容。
看似AI更具備了“溫度”，但這也讓用戶不禁擔(dān)憂，在AI深度介入系統(tǒng)操作的模式下，個(gè)人隱私數(shù)據(jù)是保留在本機(jī)還是會(huì)同步至服務(wù)器？“若包含支付習(xí)慣、位置信息的敏感數(shù)據(jù)上傳至云端，一旦發(fā)生數(shù)據(jù)泄露，后果不堪設(shè)想。”一位被訪用戶對(duì)海報(bào)新聞?dòng)浾弑硎尽?/p>
記者查閱《中華人民共和國(guó)個(gè)人信息保護(hù)法》發(fā)現(xiàn)，法律層面要求個(gè)人信息處理遵循“最小必要”原則，即收集和處理的個(gè)人信息應(yīng)限于實(shí)現(xiàn)處理目的的最小范圍，不得過(guò)度收集。然而，系統(tǒng)級(jí)AI的權(quán)限獲取是否符合該原則？每時(shí)每刻便可以介入用戶正在操作的流程中是否存在過(guò)度？這些問(wèn)題亟待監(jiān)管層面給出明確答案。
與此同時(shí)，安全解法的缺失更放大了用戶關(guān)于隱私保護(hù)的焦慮。目前，字節(jié)與中興均未就豆包手機(jī)助手的數(shù)據(jù)存儲(chǔ)方式、安全保障機(jī)制發(fā)布官方說(shuō)明。
從行業(yè)常規(guī)邏輯來(lái)看，大模型的推理能力依賴數(shù)據(jù)支撐，端側(cè)AI若需實(shí)現(xiàn)復(fù)雜決策，往往需要云端算力協(xié)同，這就涉及數(shù)據(jù)上傳的必要性與安全性平衡。“理想狀態(tài)是敏感數(shù)據(jù)本地處理，非敏感數(shù)據(jù)云端優(yōu)化，但技術(shù)上如何界定邊界、實(shí)現(xiàn)隔離，尚無(wú)成熟標(biāo)準(zhǔn)。”一位AI領(lǐng)域創(chuàng)業(yè)者表示，當(dāng)前侵入式AI的發(fā)展速度已遠(yuǎn)超安全技術(shù)與治理規(guī)范的更新節(jié)奏。
值得注意的是，豆包手機(jī)助手的爭(zhēng)議并非個(gè)例，而是AI手機(jī)發(fā)展浪潮中的必然矛盾。隨著大模型技術(shù)成熟，“手機(jī)廠商+大模型廠商”的合作模式已成為行業(yè)趨勢(shì)——谷歌Gemini與三星的合作探索、蘋果計(jì)劃采購(gòu)Gemini服務(wù)強(qiáng)化Siri，均印證了這一方向。
截至發(fā)稿，字節(jié)跳動(dòng)與中興尚未對(duì)權(quán)限爭(zhēng)議及應(yīng)用登錄問(wèn)題作出公開(kāi)回應(yīng)。但市場(chǎng)已開(kāi)始關(guān)注相關(guān)上市公司的后續(xù)動(dòng)作。中興通訊作為合作方，其股價(jià)在12月3日午后出現(xiàn)小幅波動(dòng)，部分投資者擔(dān)憂爭(zhēng)議可能影響其AI手機(jī)合作業(yè)務(wù)進(jìn)展。
AI手機(jī)的終極目標(biāo)或許是人機(jī)交互，但若以安全為代價(jià)的技術(shù)迭代，是否是消費(fèi)者真實(shí)的需求？安全底線和治理框架的邊界感該如何定義？“上帝權(quán)限”是創(chuàng)新還是“裸奔”？這些消費(fèi)者的疑慮與擔(dān)憂都急需給出明確答案。
責(zé)編：石慧
審核：高娜
責(zé)編：高娜