豆包回應(yīng)AI助手爭議,新模式邊界引熱議

  12月3日,有購買搭載豆包AI助手的nubia M153工程機(jī)的用戶發(fā)現(xiàn),手機(jī)無法正常登錄微信或操作涉及微信的任務(wù)。相關(guān)消息迅速引發(fā)市場關(guān)注。

  此前的12月1日,豆包聯(lián)合中興發(fā)布首款A(yù)I手機(jī),從演示視頻來看,AI助手不再局限于聊天框,而是實(shí)現(xiàn)了手機(jī)上跨App調(diào)用,中興股價(jià)隨即迎來大漲。

  12月3日,騰訊相關(guān)人士回應(yīng)上證報(bào)記者:“我們沒有什么特別的動(dòng)作,這個(gè)不是二選一,不知道是不是中了安全風(fēng)控措施。”同日,豆包手機(jī)助手相關(guān)負(fù)責(zé)人也就此事接受上證報(bào)記者采訪。

  AI助手跨App引爭議

  12月3日晚,對于此次爭議,豆包手機(jī)助手相關(guān)負(fù)責(zé)人表示,此次推出的工程機(jī)定位是一款面向行業(yè)、AI技術(shù)愛好者的探索產(chǎn)品,部分功能和交互比較創(chuàng)新!斑@是一個(gè)全新的領(lǐng)域,目前沒有明確的行業(yè)共識(shí)。這也是我們選擇用‘預(yù)覽版’、少量發(fā)售的形式,跟大家見面的原因。”

  記者注意到,此次發(fā)售的產(chǎn)品在其官方視頻和銷售網(wǎng)站上明確強(qiáng)調(diào),目前并不面向普通的消費(fèi)者。不過該負(fù)責(zé)人也強(qiáng)調(diào),即便是“技術(shù)預(yù)覽版”,團(tuán)隊(duì)也按照目前行業(yè)高標(biāo)準(zhǔn)的合規(guī)要求來執(zhí)行。

  而對于此次AI助手為何會(huì)引發(fā)微信的“封禁”,記者采訪了多位業(yè)內(nèi)人士,普遍認(rèn)為焦點(diǎn)在于此次涉及的手機(jī)底層權(quán)限。

  據(jù)了解,此次nubia M153為豆包開啟了INJECT_EVENTS(注入權(quán)限/注入事件)權(quán)限。這也是AI助手能夠擺脫聊天框,實(shí)現(xiàn)操作App的根本原因。從級(jí)別來看,該權(quán)限是Android系統(tǒng)權(quán)限體系中級(jí)別最高的一檔。

  也正是這一權(quán)限,賦予了AI助手代替人跨App調(diào)度操作的能力,它意味著AI助手不再僅僅是一款應(yīng)用,而是底層系統(tǒng)的一部分。而在過去,這一權(quán)限只屬于手機(jī)廠商自己,或其深度授權(quán)的合作伙伴。

  豆包方面表示,INJECT_EVENTS確實(shí)是系統(tǒng)級(jí)權(quán)限,技術(shù)實(shí)現(xiàn)依賴Android系統(tǒng)級(jí)權(quán)限,有更嚴(yán)格的使用限制。擁有該權(quán)限許可,相關(guān)產(chǎn)品才能跨屏、跨應(yīng)用來模擬點(diǎn)擊事件,完成用戶操作手機(jī)的任務(wù)需求。豆包手機(jī)助手需要用戶主動(dòng)授權(quán),才可以調(diào)用該權(quán)限,使用操作手機(jī)功能。該權(quán)限的使用,我們也在權(quán)限清單中進(jìn)行了明確的披露。據(jù)我們了解,目前行業(yè)的AI助手,均需要使用該權(quán)限(或與其類似的無障礙權(quán)限)才能提供操作手機(jī)的服務(wù)。

  “AI操作手機(jī),確實(shí)需要讀取用戶屏幕,否則AI無法完成交互。但豆包手機(jī)助手不在云端存儲(chǔ)用戶屏幕內(nèi)容,相關(guān)內(nèi)容也不會(huì)進(jìn)入模型訓(xùn)練,確保用戶隱私安全!倍拱謾C(jī)助手負(fù)責(zé)人說!岸拱謾C(jī)助手不會(huì)代替用戶進(jìn)行相關(guān)授權(quán)和敏感操作!痹撠(fù)責(zé)人明確,“豆包手機(jī)助手需要用戶主動(dòng)授權(quán),才可以調(diào)用該權(quán)限,使用操作手機(jī)功能。該權(quán)限的使用,我們也在權(quán)限清單中進(jìn)行了明確披露!

  對于外界關(guān)心的信息安全問題,該負(fù)責(zé)人解釋,在調(diào)用該系統(tǒng)級(jí)權(quán)限時(shí),團(tuán)隊(duì)報(bào)以“極為謹(jǐn)慎的態(tài)度”,“我們建立了透明的管理體系。豆包手機(jī)助手在執(zhí)行長任務(wù)時(shí)會(huì)在屏幕有明確提示,且用戶可以隨時(shí)中斷,全程可控!

  技術(shù)風(fēng)險(xiǎn)仍待討論

  根據(jù)騰訊最新三季報(bào),微信及WeChat的合并月活躍賬戶數(shù)已達(dá)14.14億。這一數(shù)據(jù)意味著其已經(jīng)覆蓋了中國超過99%的人口。有不少學(xué)者也認(rèn)為,微信的擔(dān)憂有其正當(dāng)性。

  上海大邦律師事務(wù)所高級(jí)合伙人游云庭認(rèn)為,從微信的風(fēng)控視角下,如果高度自動(dòng)化腳本對微信進(jìn)行操作,可能存在被灰黑產(chǎn)利用的可能性,從而產(chǎn)生用戶被盜號(hào),財(cái)產(chǎn)被轉(zhuǎn)移等風(fēng)險(xiǎn)。

  “作為一款國民級(jí)應(yīng)用,微信承擔(dān)著網(wǎng)絡(luò)安全法、個(gè)人信息保護(hù)法等法律對大型網(wǎng)絡(luò)平臺(tái)施加的最重的安全義務(wù)!睂ν饨(jīng)貿(mào)大學(xué)法學(xué)院教授、數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可認(rèn)為,當(dāng)安全問題無法有效解決時(shí),平臺(tái)往往會(huì)采取更防守、更保守的策略。

  一位不愿具名的法律從業(yè)者表示,從我國網(wǎng)絡(luò)安全法的框架來看,微信極可能被界定為關(guān)鍵信息基礎(chǔ)設(shè)施。這意味著作為運(yùn)營者,微信承擔(dān)的是最重的安全義務(wù),對任何可能造成系統(tǒng)性風(fēng)險(xiǎn)的數(shù)據(jù)入侵行為,都必須保持高度審慎。

  記者注意到,近期不少App也加強(qiáng)了對屏幕共享監(jiān)測以及風(fēng)控措施。

  今年以來,OPPO、vivo、榮耀等多家手機(jī)廠商也曾做過類似的嘗試,通過自研大模型實(shí)現(xiàn)AI助手的深度嵌入,支持語音直接完成系統(tǒng)設(shè)置、應(yīng)用管理(卸載、權(quán)限調(diào)整)等操作,無需手動(dòng)點(diǎn)擊界面,模擬真人操作邏輯。

  業(yè)內(nèi)人士透露,目前行業(yè)的AI助手,均需要使用類似豆包AI助手的權(quán)限(或與其類似的無障礙權(quán)限)才能提供操作手機(jī)的服務(wù)。不過,這件工作的難點(diǎn)在于數(shù)據(jù)安全法、個(gè)人隱私保護(hù)法以及平臺(tái)間的沖突,導(dǎo)致各廠商在合作上存在障礙。

  知道創(chuàng)宇404實(shí)驗(yàn)室總監(jiān)、AI安全領(lǐng)域?qū)<宜鍎偙硎,現(xiàn)在整個(gè)技術(shù)領(lǐng)域還處于混沌期,各方尚未達(dá)成共識(shí)。對于應(yīng)用廠商而言,目前對于豆包手機(jī)這類功能的API調(diào)用處于模糊地帶,各個(gè)廠商尚未形成一致看法。微信采取反制措施是因?yàn)樯婕按罅繑?shù)據(jù)安全問題,尤其是騰訊擁有龐大的用戶群體,他們必須關(guān)注用戶隱私和數(shù)據(jù)安全。

  變革序幕或剛開始

  “此次微信的做法有其合理性,但也要看到,AI助手已成為不可逆的大趨勢。”隋剛表示,未來,各類廠商可能會(huì)同時(shí)構(gòu)建云端模型和貼合用戶習(xí)慣的本地化AI模型。隨著模型能夠直接驅(qū)動(dòng)AI agent調(diào)用應(yīng)用的服務(wù)端API接口,手機(jī)端的大量App可能將逐步被取代,甚至走向消亡。

  事實(shí)上,類似的爭議在海外早已拉開序幕。就在今年,亞馬遜向Perplexity發(fā)出了法律警告函,要求該公司禁止其AI瀏覽器Comet代表用戶進(jìn)行網(wǎng)購!昂诵膯栴}在于,AI智能體在用戶授權(quán)下的行為邊界在哪里,而這對于中國和美國來說,由于其剛剛出現(xiàn),目前都無法確定具體對錯(cuò)!痹S可也坦言,這是一個(gè)全新的問題。

  “從行業(yè)來看,這是一件好事,總得有人來第一個(gè)吃螃蟹!痹谌A泰證券電子首席分析師黃樂平看來,這將是一場涉及三方的博弈,“這是一個(gè)全新的領(lǐng)域,包括系統(tǒng)廠商、應(yīng)用廠商以及監(jiān)管部門,各方的權(quán)限邊界在哪里,需要通過博弈來明確。”

  數(shù)據(jù)顯示,截至今年9月,國內(nèi)手機(jī)廠商AI助手用戶規(guī)模達(dá)到了5.35億,手機(jī)AI助手的行業(yè)趨勢也正在從“功能模塊”升級(jí)為“生態(tài)中樞”,通過系統(tǒng)級(jí)整合構(gòu)建全場景智能入口。今年8月,《國務(wù)院關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見》中提出,到2027年,率先實(shí)現(xiàn)人工智能與6大重點(diǎn)領(lǐng)域廣泛深度融合,新一代智能終端、智能體等應(yīng)用普及率超70%。

  “我們完全理解各方的擔(dān)憂。AI產(chǎn)品在許多問題上都面臨非常多的新挑戰(zhàn),但我們愿意用最負(fù)責(zé)任的態(tài)度做好相關(guān)工作。豆包手機(jī)助手真誠歡迎各界的批評與建議,這能幫助我們在堅(jiān)持創(chuàng)新的同時(shí),把安全和信任做到足夠好!倍拱謾C(jī)相關(guān)負(fù)責(zé)人說。

  許可表示,每個(gè)時(shí)代都有其獨(dú)特的經(jīng)濟(jì)形態(tài),如PC時(shí)代、移動(dòng)互聯(lián)時(shí)代以及現(xiàn)在的AI互聯(lián)時(shí)代,這些變化都會(huì)挑戰(zhàn)既有的法律和商業(yè)倫理邊界,導(dǎo)致行為準(zhǔn)則和法律規(guī)則的調(diào)整。“歷史不會(huì)重復(fù)自己,但總是押著同樣的韻腳。目前可能只是一個(gè)開始,以往的企業(yè)間競爭將與AI自主性參與的交互方式共同構(gòu)成新的競爭格局,如何構(gòu)建一個(gè)用戶、AI智能體、平臺(tái)和諧共生的局面是一個(gè)亟待解決的問題!

關(guān)注同花順財(cái)經(jīng)(ths518),獲取更多機(jī)會(huì)

0

+1
  • 北信源
  • 兆易創(chuàng)新
  • 科森科技
  • 卓翼科技
  • 天融信
  • 吉視傳媒
  • 御銀股份
  • 中油資本
  • 代碼|股票名稱 最新 漲跌幅