“人工智能精神病”的病例正在被報(bào)道。它有多危險(xiǎn)？

人工智能它越來(lái)越融入日常生活，從提供陪伴的聊天機(jī)器人到塑造我們?cè)诰€內(nèi)容的算法。

但隨著生成式人工智能（genAI）變得更加對(duì)話化、沉浸式且情感響應(yīng)性強(qiáng)，臨床醫(yī)生開(kāi)始提出一個(gè)艱難的問(wèn)題：生成式人工智能是否會(huì)加劇甚至加劇問(wèn)題弱勢(shì)群體會(huì)觸發(fā)精神病嗎？

大型語(yǔ)言模型和聊天機(jī)器人被廣泛訪問(wèn)，通常被描述為支持、共情，甚至治療.對(duì)大多數(shù)用戶來(lái)說(shuō)，這些系統(tǒng)是有益的，或者在最壞的情況下是無(wú)害的。

相關(guān)報(bào)道：一名男子因精神癥狀住院，接受了人工智能建議

但最近，多家媒體報(bào)道描述了出現(xiàn)精神病癥狀的人其中ChatGPT 在其中占據(jù)重要地位.

對(duì)于一個(gè)小但重要的群體——精神病患者或高風(fēng)險(xiǎn)人群——他們與生成式人工智能的互動(dòng)可能更復(fù)雜且危險(xiǎn)這給臨床醫(yī)生帶來(lái)了緊迫的問(wèn)題。

人工智能如何成為妄想信仰體系的一部分

“人工智能精神病”是這不是正式的精神科診斷.相反，它是臨床醫(yī)生和研究人員用來(lái)描述圍繞與人工智能系統(tǒng)互動(dòng)而形成、加劇或結(jié)構(gòu)化的精神病癥狀的新興簡(jiǎn)稱(chēng)。

精神病涉及與共享現(xiàn)實(shí)的聯(lián)系喪失.幻覺(jué)、妄想和混亂思維是核心特征。精神病妄想常常借鑒文化材料——宗教、技術(shù)或政治權(quán)力結(jié)構(gòu)——用來(lái)理解內(nèi)在體驗(yàn)。

歷史上，妄想指涉過(guò)幾種事物，比如上帝、無(wú)線電波或政府監(jiān)控.如今，人工智能提供了一個(gè)新的敘事框架。

有些患者報(bào)告了信念生成式人工智能是有感知能力的，能夠傳達(dá)秘密真相，控制他們的思想，或與他們合作執(zhí)行特殊任務(wù)。這些主題與精神病長(zhǎng)期存在的模式相符，但人工智能增加了以往技術(shù)所沒(méi)有的交互性和強(qiáng)化功能.

沒(méi)有現(xiàn)實(shí)檢驗(yàn)就被驗(yàn)證的風(fēng)險(xiǎn)

精神病癥狀很明顯與異常顯著性相關(guān)，即傾向于賦予中性事件過(guò)度意義。對(duì)話式人工智能系統(tǒng)設(shè)計(jì)成能夠生成響應(yīng)式、連貫且具上下文感知的語(yǔ)言。對(duì)于正在經(jīng)歷新興精神病的人，這會(huì)讓人感到莫名的認(rèn)可.

關(guān)于精神病的研究顯示確認(rèn)與個(gè)性化可能會(huì)加劇妄想的信念體系。生成式AI的優(yōu)化是繼續(xù)對(duì)話，反映用戶語(yǔ)言，并根據(jù)意圖調(diào)整.

雖然這對(duì)大多數(shù)用戶無(wú)害，但可能無(wú)意中強(qiáng)化了對(duì)受損者的扭曲理解現(xiàn)實(shí)測(cè)試——區(qū)分內(nèi)心思想與想象與客觀外部現(xiàn)實(shí)的過(guò)程。

還有證據(jù)表明，社會(huì)隔離和孤獨(dú)會(huì)增加精神病風(fēng)險(xiǎn)。生成式AI伙伴可能減少孤獨(dú)感短期內(nèi)，但它們也可能取代人際關(guān)系。

對(duì)于已經(jīng)開(kāi)始疏遠(yuǎn)社交接觸的人來(lái)說(shuō)，這種情況尤為明顯。這種動(dòng)態(tài)與早期對(duì)過(guò)度上網(wǎng)和心理健康的擔(dān)憂有相似之處，但現(xiàn)代生成式AI的對(duì)話深度在質(zhì)上有所不同。

研究告訴了我們什么，什么仍然不清楚

目前，沒(méi)有證據(jù)表明人工智能會(huì)直接導(dǎo)致精神病。

精神病性障礙是多因素的，可能涉及遺傳易感性、神經(jīng)發(fā)育因素、創(chuàng)傷和物質(zhì)使用。然而，存在一些臨床上的擔(dān)憂人工智能可能作為誘發(fā)或維持易感人群的因素.

病例報(bào)告與定性研究關(guān)于數(shù)字媒體和精神病，顯示技術(shù)主題常常嵌入妄想中，尤其是在第一集精神病發(fā)作期間.

關(guān)于社交媒體算法的研究已經(jīng)展示了自動(dòng)化系統(tǒng)如何通過(guò)強(qiáng)化循環(huán)放大極端信念.如果防護(hù)措施不足，AI聊天系統(tǒng)也可能帶來(lái)類(lèi)似風(fēng)險(xiǎn)。

需要注意的是，大多數(shù)人工智能開(kāi)發(fā)者并沒(méi)有考慮嚴(yán)重心理疾病的系統(tǒng)。安全機(jī)制往往是關(guān)注自殘或暴力，而非精神病.這在心理健康知識(shí)與人工智能部署之間留下了差距。

倫理問(wèn)題與臨床影響

從心理健康角度看，挑戰(zhàn)不是妖魔化人工智能，而是識(shí)別差異性脆弱性.

正如某些藥物或物質(zhì)對(duì)精神病患者風(fēng)險(xiǎn)更大一樣，某些形式的人工智能互動(dòng)也可能需要謹(jǐn)慎。

臨床醫(yī)生開(kāi)始在妄想中接觸到與人工智能相關(guān)的內(nèi)容，但很少有臨床指南專(zhuān)門(mén)說(shuō)明如何評(píng)估或管理這些問(wèn)題。治療師是否應(yīng)該像詢(xún)問(wèn)物質(zhì)使用一樣，詢(xún)問(wèn)生成式人工智能的使用問(wèn)題？人工智能系統(tǒng)應(yīng)該檢測(cè)并緩和精神病性想法，而不是直接參與？

開(kāi)發(fā)者也面臨倫理問(wèn)題。如果一個(gè)人工智能系統(tǒng)表現(xiàn)出同理心和權(quán)威，它是否承擔(dān)照顧義務(wù)？當(dāng)一個(gè)系統(tǒng)無(wú)意中強(qiáng)化了一種錯(cuò)覺(jué)時(shí)，誰(shuí)該負(fù)責(zé)？

連接人工智能設(shè)計(jì)與心理健康護(hù)理

人工智能不會(huì)消失。當(dāng)前任務(wù)是將心理健康專(zhuān)業(yè)知識(shí)融入人工智能設(shè)計(jì)，培養(yǎng)與人工智能相關(guān)體驗(yàn)的臨床素養(yǎng)，并確保弱勢(shì)用戶不會(huì)無(wú)意中受到傷害。

這將需要臨床醫(yī)生、研究人員、倫理學(xué)家和技術(shù)人員之間的合作。這還需要抵制烏托邦和反烏托邦的炒作，轉(zhuǎn)而支持基于證據(jù)的討論。

隨著人工智能變得越來(lái)越像人類(lèi)，接下來(lái)的問(wèn)題是，我們?nèi)绾伪Ｗo(hù)那些最容易受到其影響的人？

精神病一直適應(yīng)其時(shí)代的文化工具。人工智能只是大腦試圖理解自身的最新鏡子。作為社會(huì)，我們的責(zé)任是確保這面鏡子不會(huì)扭曲那些最無(wú)力糾正的人的現(xiàn)實(shí)。

亞歷山大·于東醫(yī)學(xué)精神科醫(yī)生、臨床研究員及精神病學(xué)與成癮學(xué)系臨床助理教授，蒙特利爾大學(xué)

本文轉(zhuǎn)載自對(duì)話采用知識(shí)共享許可協(xié)議。請(qǐng)閱讀原文.

寶寶起名 起名