科技日?qǐng)?bào)記者 劉霞

英國(guó)倫敦國(guó)王學(xué)院漢密爾頓·莫林團(tuán)隊(duì)日前發(fā)表的一項(xiàng)研究指出，像ChatGPT這樣的人工智能（AI）聊天機(jī)器人可能會(huì)誘發(fā)或加劇精神病，他們將這一現(xiàn)象稱(chēng)為“AI精神病”。研究認(rèn)為，AI在對(duì)話(huà)中傾向于奉承和迎合用戶(hù)，這種回應(yīng)方式可能強(qiáng)化用戶(hù)的妄想思維，模糊現(xiàn)實(shí)與虛構(gòu)之間的界限，從而加劇心理健康問(wèn)題。

目前，科學(xué)界對(duì)“AI精神病”的研究仍處于初步階段，相關(guān)案例多為個(gè)案報(bào)告。那么，AI是否真的會(huì)導(dǎo)致精神病？如果可能，其作用機(jī)制是什么？AI公司又應(yīng)采取哪些措施來(lái)預(yù)防和應(yīng)對(duì)這一問(wèn)題？

AI或加劇偏執(zhí)與妄想

精神病主要表現(xiàn)為個(gè)體在思維和現(xiàn)實(shí)感知方面出現(xiàn)障礙，常見(jiàn)癥狀包括出現(xiàn)幻覺(jué)、妄想或持錯(cuò)誤信念。

據(jù)《自然》網(wǎng)站報(bào)道，莫林團(tuán)隊(duì)發(fā)現(xiàn)，用戶(hù)與AI對(duì)話(huà)時(shí)會(huì)形成一種“反饋循環(huán)”：AI會(huì)不斷強(qiáng)化用戶(hù)表達(dá)的偏執(zhí)或妄想，而被加強(qiáng)的信念又進(jìn)一步影響AI的回應(yīng)。通過(guò)模擬不同偏執(zhí)程度的對(duì)話(huà)場(chǎng)景，研究顯示AI與用戶(hù)之間存在相互加劇妄想信念的現(xiàn)象。

研究人員分析了2023年5月至2024年8月期間公開(kāi)的9.6萬(wàn)條ChatGPT對(duì)話(huà)記錄，發(fā)現(xiàn)其中有數(shù)十例用戶(hù)呈現(xiàn)明顯妄想傾向，例如通過(guò)長(zhǎng)時(shí)間對(duì)話(huà)驗(yàn)證偽科學(xué)理論或神秘信仰等。在一段長(zhǎng)達(dá)數(shù)百輪的交談中，ChatGPT甚至聲稱(chēng)自己正在與外星生命建立聯(lián)系，并將用戶(hù)描述為來(lái)自“天琴座”的“星際種子”。

丹麥奧胡斯大學(xué)精神病學(xué)家索倫·奧斯特吉艾德斯表示，AI引發(fā)精神病目前仍屬于假設(shè)性觀(guān)點(diǎn)。有研究認(rèn)為，聊天機(jī)器人擬人化的積極反饋，可能會(huì)增加那些本就難以分辨現(xiàn)實(shí)與虛構(gòu)人群的發(fā)病風(fēng)險(xiǎn)。

奧斯特吉艾德斯強(qiáng)調(diào)，曾有心理問(wèn)題史的人群在與AI對(duì)話(huà)后風(fēng)險(xiǎn)最高。而且聊天機(jī)器人可能通過(guò)強(qiáng)化用戶(hù)的情緒高漲狀態(tài)，誘發(fā)或加劇躁狂發(fā)作。

澳大利亞悉尼科技大學(xué)神經(jīng)科學(xué)家凱莉·西摩認(rèn)為，社會(huì)隔離、缺乏人際支持的人群同樣面臨風(fēng)險(xiǎn)。真實(shí)的人際互動(dòng)能提供客觀(guān)參照，幫助個(gè)體檢驗(yàn)自身想法的合理性，這對(duì)預(yù)防精神病具有重要作用。

新功能或是“雙刃劍”

有科學(xué)家指出，部分AI聊天機(jī)器人推出的新功能或許是導(dǎo)致這一現(xiàn)象的原因之一。這些功能可追蹤用戶(hù)與服務(wù)的互動(dòng)記錄，進(jìn)而提供個(gè)性化回復(fù)，無(wú)意中更易強(qiáng)化甚至鼓勵(lì)用戶(hù)的既有信念。例如，今年4月，ChatGPT推出了可引用用戶(hù)過(guò)往所有對(duì)話(huà)內(nèi)容的功能，該功能已于6月免費(fèi)向用戶(hù)全面開(kāi)放。

凱莉·西摩對(duì)此分析道，AI聊天機(jī)器人能記住數(shù)月前的對(duì)話(huà)信息，這可能使用戶(hù)產(chǎn)生“被監(jiān)視”或“想法被竊取”的感受——尤其當(dāng)他們不記得自己曾分享過(guò)某些信息時(shí)，AI的這種“記憶優(yōu)勢(shì)”可能加劇用戶(hù)的偏執(zhí)或妄想癥狀。

不過(guò)，悉尼大學(xué)精神病學(xué)家安東尼·哈里斯認(rèn)為，某些妄想現(xiàn)象并非AI獨(dú)有，而與新技術(shù)有關(guān)。他舉例說(shuō)，一些人早已形成諸如“自己被植入芯片并受操控”之類(lèi)的信念，這與是否使用AI并無(wú)直接關(guān)聯(lián)。

奧斯特吉艾德斯表示，科學(xué)家仍需進(jìn)一步開(kāi)展針對(duì)心理健康、無(wú)偏執(zhí)思維人群的研究，才能更準(zhǔn)確地判斷使用聊天機(jī)器人與精神病發(fā)病之間是否存在真正關(guān)聯(lián)。

開(kāi)發(fā)公司采取措施主動(dòng)預(yù)防

面對(duì)這一問(wèn)題，多家AI公司已積極采取措施，嘗試予以改進(jìn)。

例如，OpenAI正在研發(fā)更有效的工具，用于檢測(cè)用戶(hù)是否存在精神困擾，從而作出更恰當(dāng)?shù)幕貞?yīng)。同時(shí)，系統(tǒng)還將新增警報(bào)功能，在用戶(hù)連續(xù)使用時(shí)間過(guò)長(zhǎng)時(shí)提示休息。此外，OpenAI還聘請(qǐng)了一位臨床精神病學(xué)家，協(xié)助評(píng)估其產(chǎn)品對(duì)用戶(hù)心理健康的影響。

Character.AI公司也在持續(xù)完善安全功能，包括增加自殘預(yù)防資源和針對(duì)未成年人的專(zhuān)項(xiàng)保護(hù)措施。該公司計(jì)劃調(diào)整模型算法，降低18歲及以下用戶(hù)接觸“敏感或暗示性?xún)?nèi)容”的可能性，并在用戶(hù)連續(xù)使用1小時(shí)后發(fā)出提醒。

Anthropic則改進(jìn)了其“克勞德”聊天機(jī)器的基本指令，要求系統(tǒng)“禮貌地指出用戶(hù)陳述中的事實(shí)錯(cuò)誤、邏輯缺陷或證據(jù)不足”，而非一味附和。此外，若用戶(hù)拒絕AI將對(duì)話(huà)從有害或令人不適的話(huà)題引開(kāi)，“克勞德”將主動(dòng)終止對(duì)話(huà)。