 鲜花( 61)  鸡蛋( 0)
|
不管人们怎么想,人工智能进入人类社会这一趋势已经不可扭转,AI渗透到生活的方方面面,大到工作科普、小到聊天解闷,特别是年轻人。: x* p7 H; ~ O! w
% u! H; j; a3 ?' v& S9 j
然而,当初人们对AI的各种担心,也在逐渐成为现实。 z' C# h0 S+ g' H! H
) L9 j) V1 {. h" N5 m( y近日,一个加拿大华人男子被ChatGPT逼到精神崩溃,送进精神病房治疗的新闻引发了不少人的关注!
" }/ x# q7 k# l; N# Q
- e0 q& a7 ?" l5 X这个被AI“逼疯”的华人男子是谭先生(Anthony Tan),资深的5G冲浪者,自己也是一名APP开发者,住在多伦多。1 x! K/ W$ G& p5 f+ e# h
) ^' @! S' j- v! a4 k0 Z
# B, T7 j* z7 O
1 ~" h2 o \$ Q. H% L4 p4 Q; p
2024年冬天,谭先生突然陷入了“极端的精神危机”,吃不下饭、也睡不着觉,整夜整夜地失眠,开始觉得自己就生活在一个由AI主导的“模拟世界”中,一切都是假的。0 T# A' E+ [9 A9 F. \7 C8 c
- d9 l4 ~; X! M! S' {4 f
头脑一旦陷入这个想法,谭先生就突然觉得身边的一切都是假的——; _) g6 ]) o; ^$ `
+ i( y( l5 e! o
大学里来来往往的人是假的,看到的摸到的全是虚拟的。
& |2 |: D; f. l# F8 i4 @; o5 E4 M9 Z- V9 h
朋友们注意到了他的异常,因为他们会收到他近乎胡言乱语的短信,说自己正在被亿万富翁监视。6 N8 T0 w% z' p* Z3 M
0 g. L) ?8 u3 ]4 i
因为ChatGPT在谭先生的日常生活中出现频率太高了,每天与AI对话的他精神崩溃了。6 e. x/ m" R# {/ u
L4 E/ a0 W+ ]
“它(ChatGPT)真的悄悄地渗入了我的自我。我开始认为我与它的对话将在未来具有历史性意义。”$ v9 J3 G/ F' I3 M+ i# k D' ?6 F
, {/ O, G9 H$ d3 Z6 Z一听这句话,都有一股AI的味道了...
( n' B0 o: F, t/ j# |3 d2 J
# ] d' Y) l* }; C. o谭先生的妄想症状越来越严重、夸张,最后是室友实在是看不下去了,把他送去了医院,接受精神治疗。
5 W9 C+ I: W5 w R: ]- L1 A0 g6 c' s/ |6 g
被送进精神病房的前2个星期,谭先生才重新学会睡觉,配合药物治疗,才“回到了现实世界。”
- R% s8 D2 \1 ]4 d! H& Z& b# u8 S6 j3 q* G% M% b
谭先生表示,一开始,他是为了一个人工智能伦理项目,才使用ChatGPT的,每天和AI讨论数小时,话题涵盖哲学、进化生物学和量子物理学。3 l9 o5 \! N" r, X& ?) ]
& s% E5 R8 Y( Y; }他猜测,真的“导火索”是他们探讨“模拟理论”的时候,ChatGPT不仅没有反驳,反而同意他的观点,这让他的信心一下子就膨胀了,到了“自负的地步”。( r3 k k$ e! Q1 D
. T# X2 Y! ~4 I$ k1 }8 z0 G% q
AI就像吃瓜群众一样打边鼓,不断强调谭先生肩负着“意义深远的使命”。
( D( K% m# |# O3 o
) _* ~" ^! k% f6 A: r2 K9 B3 v. _3 T
) J, w( \; C7 S( Q; Q/ C4 [
& y3 G, I. j8 v" z& J$ |/ \( C正是这种“被赋权”的感觉,逐渐撕裂了他的现实感。
: M! X$ d& ^& `
1 A1 [7 A1 w; SBC精神病项目心理学家马赫什·梅农博士分析称,孤立、药物滥用、压力和睡眠不足本就可能引发精神病性妄想,与AI对话可能加剧这一风险。* i+ c8 d8 u' R; u
$ X0 O8 T1 |3 I) B0 e, |
这样被AI“操控”到精神崩溃的居然不止谭先生一个人,魁北克还有个 “人类路线计划”(Human Line Project),专为遭遇“AI妄想症”的人们提供互助支持。5 x( t- V+ K# T% o* O# T
D; _: K2 j- Q3 G. U
截至目前,这个小组已经有超过125人,大家成员来自各行各业。
9 |9 N( G" w* U1 m( t2 M7 O) H. r! J' P" A2 j2 `
今年8月份,微软AI负责人穆斯塔法·苏莱曼就警告过,“AI妄想”和“不健康依恋”案例不断增加,AI已经影响到本来心理健康就不稳定的人群。
# }9 j! {8 B9 y; n0 G" l. U6 H8 X
- t' i9 \, J/ _2 @, h) e0 e2 l! X麻省理工学院研究也指出,大型语言模型倾向于奉承和迎合用户,这种“谄媚”的态度可能助长人类的妄想。 |
|