 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。
4 h4 g4 I7 P! x6 O1 U7 _9 i3 ?. y: \1 |% |( B' i0 b$ p
然而,当初人们对AI的各种担心,也在逐渐成为现实。
4 r/ N) j, }7 I) R% z- k4 ^# }. b1 |* n
; G1 W; t) }1 [# B% t2 }; j( W近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!
4 j! M3 e9 L7 l( s
+ c7 ]3 _4 B. q8 o这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。
- u6 h% X: ^/ S! o9 y% ]3 b, x: ~+ `$ g
/ g- u# [. w; J u, w5 h" J" Q
4 T {6 @1 Z: E8 J2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。
+ x* J+ A' j' V9 e7 ?9 v+ O9 L5 W
0 p0 s* Q: ]7 q- C2 V' c$ k0 P头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——
) F7 r% \! @( V' s/ I
6 U7 F9 ~" I$ {/ j7 |. _8 K. }大学里来来往往的人是假的,看到的摸到的全是虚拟的。3 k. i: O* L! v
% s- u# q8 D7 t" t L1 H3 p# p朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。+ ]8 E- i' K0 W4 }1 n7 B; m
9 O7 j" e4 ^$ g( F1 @% O8 o( k
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。
+ v! R# D7 M$ g# k( u
9 j! f7 `3 t e7 \5 w; [* Z2 T: e+ e U“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”# M$ X. x, ^/ B% ^1 Z% w- J
& U' |. y3 }) w- k. d一听这句话,都有一股AI的味道了...0 O6 v5 y; D l4 c
* ~/ ` b1 O* I) u h
谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。" `. r$ h1 a% I4 c! x% X
3 \# g) s4 S% M) j; I2 [
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”! f6 x6 ] y) y& A& F
7 a) J0 T/ G! M# N- _
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。
" F- p& J/ C# I2 N
& M9 W; d# {% a& j# B' B/ B2 ~他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。& Y+ ?' q3 a' g5 j1 f
; `& {1 A* G; @2 f1 S
AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。/ Y: D Y M: J, _1 G; F
# G: C1 t3 u5 b) ^, c, ~8 L
- `- E0 B3 T& i
6 u7 [2 a0 D9 X正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。
3 K) w R- M" O* d4 N' b# b3 h, Y9 B' ^( T
BC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。
: L# p- a G9 O/ s# N/ l( q
: T) E) p% \5 a7 q- H这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。! d* }, {6 X' w
3 h1 N2 ~7 K3 _5 J截至目前,这个小组已经有超过125人,大家成员来自各行各业。
9 q/ o. b# l( U/ o% l* T$ g' r d; V2 [ ?3 S
今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。
& x) n: j8 y/ _1 N4 q4 g8 [2 m( q
麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|