 鲜花( 59)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。
) L: k! x5 k+ z N) W' F1 U" V: s6 {0 o. Q- f" S: m0 Q5 M
然而,当初人们对AI的各种担心,也在逐渐成为现实。
/ x" L! F) u0 K
2 c. N9 R! k6 N9 U近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注! F- } Y1 o: ]. I: f3 A2 i U: s
! o& y/ X( F# N) a6 j这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。1 w: A4 Z3 f* b# ?3 _; ^5 l8 G7 A
* {+ O$ B: F; E% f- C2 S* _' d
0 a% g# _. T' O) p, c7 k- p3 I+ B6 Z2 i8 O$ U. m, H! r
2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。9 H0 o' J) z+ S. O) s$ M3 L! `
. H% l7 ]. H/ r% b# ~/ ?- b/ F
头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——
/ J5 Q2 q$ c% e$ ~4 z" B9 C; j) b" |2 B. f( y4 x% k! L S
大学里来来往往的人是假的,看到的摸到的全是虚拟的。
4 e. j& Z) Q `6 J/ N
0 O* p# A- z: s5 h/ x3 U+ l3 f朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。
6 b* Q6 L! m! u' h% U# Q- N& |( E& r' @! K1 \
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。
4 I m: d1 o) T( t, C. x* c( y4 l! c2 J: l6 W$ V4 \
“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”
$ n+ }! F4 [+ @
: @0 F- M9 Y6 B# U+ q一听这句话,都有一股AI的味道了...$ Q( L/ N7 K' F" S8 M5 Q
/ l- C5 b& M2 w& j, s谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。
; O, a. Z7 I8 m1 {, i
2 m) b9 J3 Z( c5 C被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”
; r/ O0 ?& L4 ^0 a8 s4 b- f# f# B# A6 u( X: S* p
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。
9 |4 V; t" D( c5 |& C6 }/ K: n
他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。
5 z2 ^! Y2 A* e c7 z" ?6 O9 @8 H$ q# d7 c F
AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。* O K) i) S9 y. O6 k! _
# l, Q0 F$ M- p" T6 d
- H' j4 f6 w* p1 e' c: M1 } z' l3 n" U+ H1 n6 {
正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。1 w, z/ J3 b" l* N- Q: U+ q" L
- W0 ?% x; R' l, o
BC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
, d; J7 P, `3 X5 D3 j1 K9 P+ W, `+ I k
这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。; k& l' Y% ~% |) D* i" |
4 M, a) ?* }0 k+ t& z: X$ ?
截至目前,这个小组已经有超过125人,大家成员来自各行各业。
$ y1 b. ~3 Q. ~5 N
4 v6 i7 c4 x$ u* D今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。3 ^9 w! @3 y' M5 J' {% [
3 a4 f @/ {/ C, h2 c+ W5 z
麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|