韩剧在线观看电视剧在线观看免费|鸭之一族未删减完整版在线观看|狂情**电影完整版在线观看|恋爱先生电视剧在线观看完整版26,夜夜操网址,久久99国产精品久久99,大陆大尺度电影未删减

客戶端
官方微信
官方微博
今日頭條
北疆觀察
數(shù)字報刊
北疆新聞 > 國內(nèi) > 正文
當(dāng)AI開始操控情緒,人類該擔(dān)何責(zé)
2026年06月01日 09:46 來源:中國青年報 關(guān)燈

最關(guān)鍵的變化并不在于機器如今能夠生成內(nèi)容,而在于它們開始能夠生成語境。傳統(tǒng)的內(nèi)容生成僅提供信息或文本,但缺乏對信息背后的因果關(guān)系、敘事邏輯及情緒語境的把控。而人工智能代理能夠在生成內(nèi)容的同時嵌入特定語境,塑造事件的因果鏈、情緒氛圍或社會語境,從而更有效地影響受眾的理解、判斷和情緒反應(yīng)。

OpenClaw,即俗稱的“龍蝦”,是一種能夠在個人設(shè)備上執(zhí)行任務(wù)的人工智能代理,例如安排日程、閱讀電子郵件、通過應(yīng)用發(fā)送消息、使用互聯(lián)網(wǎng)進行購物等,甚至經(jīng)過配置后可以自動調(diào)用API。它顛覆了傳統(tǒng)AI“一問一答”的模式,可以全天候待命并按用戶設(shè)定的指令主動辦事。

也就是說,大多數(shù)流行的人工智能工具(如ChatGPT)通過直接響應(yīng)用戶提示來工作,而像OpenClaw這樣的“代理型人工智能”則能夠根據(jù)指令自主執(zhí)行操作。只不過,用戶需要通過指令指導(dǎo)、訓(xùn)練它,同時須花費一定成本使用AI模型或租用服務(wù)器,該過程被稱為“養(yǎng)龍蝦”。

OpenClaw的出現(xiàn),使得缺乏技術(shù)背景的用戶也可以輕松創(chuàng)建個人AI助手。目前的AI助手大多被困在聊天框里,被動等待使用者的輸入。OpenClaw則直接“住”在你的電腦里,擁有與操作系統(tǒng)底層對話的權(quán)限,并通過即時通信軟件與你溝通。它最具革命性的技術(shù)細節(jié),在于引入了“心跳”機制,賦予了智能代理一種“生理時鐘”。助手會周期性地“醒來”,但不是為了執(zhí)行固定的腳本,而是帶著完整的語境去掃描當(dāng)下狀態(tài),然后自行判斷現(xiàn)在“該做什么”。

盡管功能強大,但由于“龍蝦”擁有較高的系統(tǒng)權(quán)限(能訪問文件系統(tǒng)、執(zhí)行Shell命令),它在全球范圍內(nèi)也引發(fā)了嚴重的信息安全擔(dān)憂。像OpenClaw這樣的代理具備三種關(guān)鍵能力:訪問私人數(shù)據(jù)、與外部通信,以及接觸互聯(lián)網(wǎng)上不受信任的內(nèi)容。這三種能力的結(jié)合,使AI代理能夠執(zhí)行復(fù)雜任務(wù)、生成定制化輸出,并在一定程度上模擬人類的信息收集與處理過程??扇绻瑫r具備這三點,這一代理也變得相當(dāng)危險。哪怕只具備其中兩項能力,它也可能被操控去刪除文件、泄露隱私、采納錯誤信息或關(guān)閉設(shè)備。更有甚者,會對社會輿論和信息生態(tài)造成系統(tǒng)性影響。

例如,智能代理已開始在clawXiv(科學(xué)預(yù)印本服務(wù)器arXiv的鏡像站)上發(fā)表由AI生成的研究論文。這些產(chǎn)出復(fù)制了學(xué)術(shù)寫作的風(fēng)格與結(jié)構(gòu),但缺乏探究過程、證據(jù)收集以及責(zé)任機制等基礎(chǔ)環(huán)節(jié),大量這樣看似可信卻實質(zhì)空洞的論文可能會污染信息生態(tài)系統(tǒng)。

從新聞業(yè)的角度來看,智能代理已經(jīng)開始偽造地方媒體了。5月14日,美國調(diào)查媒體《佛羅里達論壇報》報道,南佛州一家名為《南佛羅里達標(biāo)準報》的地方新聞網(wǎng)站,實際上是一個由AI批量生成的偽媒體系統(tǒng)。該網(wǎng)站包裝出一支本地新聞團隊,其內(nèi)容并非原創(chuàng)報道,而是大量取自真實媒體,經(jīng)AI改寫后重新發(fā)布?!斗鹆_里達論壇報》對神秘的《南佛羅里達標(biāo)準報》的調(diào)查發(fā)現(xiàn),真實操作者可以輕松地躲在數(shù)字“分身”背后,以極低的成本搭建一個偽裝成地方新聞的數(shù)字幻像。只需要一個10美元域名和一段簡單提示詞,AI助手就能在15分鐘內(nèi)生成一個“地方新聞網(wǎng)站”,這不僅凸顯了人工智能驚人的技術(shù)能力,也揭示出在一個信任受損的民主環(huán)境中,其對毫無防備的公眾可能構(gòu)成的潛在威脅。

專家稱,此類虛假新聞網(wǎng)站在佛羅里達州及全美范圍內(nèi)愈發(fā)普遍。學(xué)術(shù)研究者將它們稱為“粉肉泥”媒體——名稱來源于加工食品中用作填充物的廉價肉類副產(chǎn)品。據(jù)數(shù)據(jù)分析公司NewsGuard統(tǒng)計,截至2024年6月,美國共有1265家“粉肉泥”媒體網(wǎng)站,已經(jīng)超過仍在運營的1213份地方日報。而自2005年以來,美國已失去近2900家報紙和近三分之二的報紙記者(約4.3萬人)。

在公眾對媒體信任降至歷史低點之際,“粉肉泥”們對美國的媒體生態(tài)系統(tǒng)造成了嚴重打擊。當(dāng)然,生成虛假信息的機器人網(wǎng)絡(luò)并不新鮮。在Facebook或X上,有大量社交媒體賬號重復(fù)發(fā)布相似話術(shù),試圖推銷加密貨幣或傳播陰謀論。虛假信息的制造者極其擅長采用最新技術(shù),人工智能代理在虛假信息傳播中開始扮演日益重要的角色。通過自然語言生成和自動化操作,智能代理可以快速撰寫新聞、評論或社交媒體帖子,并以高度可信的語氣呈現(xiàn),從而提高虛假信息的接受度。同時,它們能夠自動發(fā)布、轉(zhuǎn)發(fā)、點贊或評論內(nèi)容,制造出大量“活躍度假象”,加速信息在網(wǎng)絡(luò)空間的擴散。此外,借助用戶數(shù)據(jù)分析和行為偏好識別,人工智能代理可將虛假信息精準推送至最易受影響的群體,增加其影響力并降低受眾識別虛假內(nèi)容的機會。

OpenClaw受到追捧的一個重要原因是,2026年1月28日,一個名為Moltbook的“代理原生”社交環(huán)境首次上線。該平臺被明確設(shè)計成允許人工智能代理在大規(guī)模范圍內(nèi)進行發(fā)布、回應(yīng)、協(xié)作與互動。人類可以觀察,但不能發(fā)帖。這標(biāo)志著信息環(huán)境的根本性轉(zhuǎn)變。當(dāng)代理能夠生成內(nèi)容、強化敘事、響應(yīng)反饋并持續(xù)迭代時,原本反映人類信念或共識的內(nèi)容變得極易被“廉價制造”?;颖旧碜兊煤铣苫?,表面上看似自然發(fā)生的參與行為實際上可能是自主系統(tǒng)的輸出結(jié)果。

在這一階段,由虛假信息、錯誤信息以及深度偽造所構(gòu)成的“敘事攻擊”,已不再呈現(xiàn)為傳統(tǒng)意義上的攻擊行動,而更接近于一種系統(tǒng)性結(jié)構(gòu)。這些系統(tǒng)不斷測試不同敘事框架、測量外部反應(yīng)、調(diào)整語言表達并持續(xù)自我強化,隨著時間推移,它們創(chuàng)造出一種“合成現(xiàn)實”:這種環(huán)境在感知上具有人類特征,在運行上以機器速度推進,并在個體意識尚未察覺其所處語境為機器生成之前,就已經(jīng)開始塑造其認知與判斷。

最關(guān)鍵的變化并不在于機器如今能夠生成內(nèi)容,而在于它們開始能夠生成語境。傳統(tǒng)的內(nèi)容生成僅提供信息或文本,但缺乏對信息背后的因果關(guān)系、敘事邏輯及情緒語境的把控。而人工智能代理能夠在生成內(nèi)容的同時嵌入特定語境,塑造事件的因果鏈、情緒氛圍或社會語境,從而更有效地影響受眾的理解、判斷和情緒反應(yīng)。這意味著,虛假信息或操縱內(nèi)容不僅可以傳播信息本身,還能夠重構(gòu)受眾對現(xiàn)實的認知框架,社會影響力和誤導(dǎo)性風(fēng)險都大大提高。

現(xiàn)在設(shè)想這樣一種情境:無數(shù)自主運行的機器人接入你最重要的數(shù)據(jù)源,持續(xù)提供荒謬的解決方案、錯誤的事實與帶有預(yù)設(shè)惡意的觀點,并且還能在運行過程中不斷自我重寫,將這些“更新版本”發(fā)布到整個互聯(lián)網(wǎng)。此種規(guī)模的擴散,可能會令我們當(dāng)前關(guān)于虛假信息的不安顯得只是一個微不足道的插曲。

除了前面提及的人工智能代理的三種關(guān)鍵能力,我們還可以再添加一個組合特征——持久記憶機制,四者合起來構(gòu)成了智能代理的“致命四重漏洞結(jié)構(gòu)”。四者疊加,可能帶來復(fù)合性風(fēng)險,使組織與個人網(wǎng)絡(luò)系統(tǒng)成為潛在的受害對象。

首先,特權(quán)訪問權(quán)限使代理能夠直接操作系統(tǒng)資源,而接觸不受信任內(nèi)容則為攻擊者提供了注入惡意指令的途徑。其次,外部通信能力可被利用將敏感信息悄然外泄,同時持久記憶機制保證了惡意指令或植入程序即便在系統(tǒng)重啟或用戶注銷后仍然生效。這意味著,智能代理能夠在不被察覺的情況下持續(xù)操縱信息流,對個人隱私、企業(yè)數(shù)據(jù)以及公共信息生態(tài)構(gòu)成系統(tǒng)性威脅。四重漏洞的組合,不僅突破了傳統(tǒng)網(wǎng)絡(luò)安全防護的局限,也揭示了智能代理在自動化、高速化和大規(guī)模信息環(huán)境下的高危性,其危害程度遠遠超過傳統(tǒng)軟件或人為操作可能造成的風(fēng)險范疇。

針對這一類威脅的防御,已經(jīng)不再僅僅是識別虛假內(nèi)容、標(biāo)記深度偽造,或追蹤與歸因個體攻擊者的問題。它要求我們理解:哪些網(wǎng)絡(luò)正在形成、影響力如何被不斷強化,以及何種認知與感知結(jié)果正在被系統(tǒng)性地“設(shè)計”出來。這種理解必須在早期持續(xù)進行,并且需要具備大規(guī)模處理能力。

綜合來看,人工智能代理可能為惡意行為者創(chuàng)造出無數(shù)可乘之機。此種程度的自主性或許會重新定義人類與人工智能之間的關(guān)系,并把一個關(guān)鍵性問題推到我們面前:在一個人工智能被賦予決策能力的世界中,人類如何承擔(dān)責(zé)任?(作者系北京大學(xué)新聞與傳播學(xué)院教授)

胡泳來源:中國青年報

2026年06月01日 05版

北疆新聞 | 內(nèi)蒙古自治區(qū)重點新媒體平臺,內(nèi)蒙古出版集團?內(nèi)蒙古新華報業(yè)中心主管主辦的國家互聯(lián)網(wǎng)新聞信息采編發(fā)布服務(wù)一類資質(zhì)平臺。

標(biāo)簽:AI
編輯:方琳
5526

北疆新聞版權(quán)與免責(zé)聲明:

一、凡本站中注明“來源:北疆新聞”的所有文字、圖片和音視頻,版權(quán)均屬北疆新聞所有,轉(zhuǎn)載時必須注明“來源:北疆新聞”,并附上原文鏈接。

二、凡來源非北疆新聞的新聞(作品)只代表本網(wǎng)傳播該消息,并不代表贊同其觀點。

如因作品內(nèi)容、版權(quán)和其它問題需要同本網(wǎng)聯(lián)系的,請在見網(wǎng)后30日內(nèi)進行,聯(lián)系郵箱:bjwmaster@163.com。

呼和浩特:幼教老師手繪繪本故事助力防疫

版權(quán)聲明:北疆新聞版權(quán)所有,未經(jīng)書面授權(quán),不得轉(zhuǎn)載或建立鏡像,違者依法必究。 本站違法和不良信息舉報電話:15648148811蒙ICP備16001043號-1

Copyright © 2016- 北疆新聞 All Rights Reserved互聯(lián)網(wǎng)新聞信息服務(wù)許可證:15120200009-1廣播電視節(jié)目制作經(jīng)營許可證:(蒙)字第631號蒙公網(wǎng)安備:15010502001245