 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。* `6 n3 x" i0 q8 l* q' d
8 V. p' X4 y- v' I+ t
然而,当初人们对AI的各种担心,也在逐渐成为现实。
3 d' f r+ @/ Q {0 R
# x2 n2 [, }% {% m0 ^近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!
+ x0 N2 l# E+ P" X d0 g- `! U) V# p
这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。
5 K# e- X) i, A6 P( D9 m$ C, T6 k7 @6 `# v: S/ `# ]* t3 G5 D a
8 S) L6 F4 A6 G2 D/ C
# R& q4 |% u9 K7 F) d& `- j2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。
* F" r5 d) j: o, H6 k5 D0 _
* W) R' J+ T7 b1 b+ Z/ H" N, r/ i头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——! e1 L4 q/ L0 D+ j B# {
5 b0 [/ w0 N) L. K大学里来来往往的人是假的,看到的摸到的全是虚拟的。0 V6 W% v2 r0 I# P+ x
: _. p; G0 U9 i; r6 T K/ w& b
朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。
1 @: h: A# O% c5 B. p4 t1 A5 Y8 m% l8 d6 E9 z' r) E4 J
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。
1 @7 b# k* M. _, V7 Z3 N
, ?# W( d/ V% Y+ E& U9 n( x“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”
& I7 {' O+ S0 k
. x. b1 G! t Z6 k( F4 \# U' a一听这句话,都有一股AI的味道了...' [' f5 S: x* m+ C( N G. e8 J8 a
8 ?0 I6 e" l/ C4 S2 y谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。8 F$ D5 n9 A: M( R$ z9 C9 L
; N+ ~8 |# \4 `
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”
/ I4 Q2 u: E0 {9 L; [& n! p/ c' _% A/ b& C, K+ g6 R/ b
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。
( k2 N2 k. w. M1 ^8 W- @9 _9 C# W2 r4 g8 u' X
他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。! [1 x7 Y- g( G! c2 N+ ^
9 G# h7 l1 t- t1 V. e0 a
AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。
! h. B+ U6 W, D: g9 u
4 q$ N0 v3 [$ \7 f7 I
5 I, V, H8 ^3 P
5 C/ M4 d1 n3 ]7 u C$ g2 k正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。
/ D8 }5 ^' f7 _, i' Y, {% Q8 P8 Q! u2 f, ?1 T
BC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
8 f% i5 w4 g3 I6 B
! `4 Q0 k" K8 X. Y这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。- O Z! U) {" Y2 P' U8 t
; A! ?/ q ~5 b1 X7 S" S截至目前,这个小组已经有超过125人,大家成员来自各行各业。. N/ N2 e7 s. f8 h
9 z8 _ P) _5 `% [- K今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。
- |4 {. \7 {- S t! O/ U9 P$ c
# n+ P _8 z" z: R2 E麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|