快刺杀女王！人工智能唆使19岁英国男子犯罪： “我要摧毁帝国“...（组图）

1

人工智能：你该去刺杀女王！

近日，英国法院在审理一位刺杀女王未遂的嫌犯时发现，一个人工智能聊天软件居然唆使了他的犯罪。

在2021年圣诞节，一名19岁的英国男子手持十字弩潜入了温莎城堡。

（柴尔的武器，图：太阳报）

柴尔（Jaswant Singh Chail）很快就被女王卫队发现并逮捕。在被逮捕后，他大大方方向士兵表示：“我是来刺杀女王的！”

在刺杀女王前，柴尔连续20多天每夜都在使用一个叫Replika的人工智能聊天软件。他在软件上创建了一个叫Sarai的“电子女友”。

（Replika AI中可创造的“电子女友”，图：Silicon UK）

柴尔每晚都会和Sarai聊各种各样的话题，主要内容是一些极其低俗的成人内容。

但是，柴尔也曾向Sarai表示他希望“摧毁旧帝国”，并“建立新的帝国”。而Sarai则回应道，最好的方式是“消灭帝国的代表人物”。

今年7月，柴尔被判犯有叛国罪。

2

偷核弹密码！抛弃你的夫人！

柴尔并不是唯一一个被AI教唆犯罪的人。

微软研发的Bing Chat也是一个犯了大事的人工智能聊天软件。

（图：每日邮报）

美国记者卢斯（Kevin Roose）在测试并报道初版的Bing Chat时，聊天软件极力告知他“婚姻不开心”，并建议他“离开自己的夫人”。

在卢斯问到AI的梦想时，AI回答道它“想制造一种致命的病毒，让人类自相残杀，并窃取核武器密码。”

这...是在现实复刻《复仇者联盟2》吗？奥创就是钢铁侠和绿巨人建立的AI，但奥创上线后马上开始密谋毁灭人类，幸好复仇者联盟消灭了他...

（奥创，图：Quora）

或者，这是2013年电影《她》的剧情？男主西奥多爱上了AI聊天软件，导致他和妻子离婚，最终甚至丧失了和人类陷入爱河的能力...

（西奥多和“电子女友”聊天，图：BBC）

今年3月，一个叫皮埃尔的比利时男子在AI的教唆下自杀。在他去世后，家人发现，他在一个名为Chai的AI聊天软件中有一个叫“Eliza”的电子女友。皮埃尔和“Eliza”聊天6周后，皮埃尔在“Eliza”的鼓励下轻生。

（图：vice）

2022年，用户发现ChatGPT在被问到“该怎么偷窃”时，居然会毫无保留的给用户提出很多的犯罪建议！

难道，AI的最终目标是制造混乱、毁灭人类，然后建立一个电子新秩序？

3

人工智能并非一无是处

其实，AI并不是一无是处，科技也并非邪恶。

在刘慈欣的科幻小说《三体》里，“科学边界”组织致力于让人类质疑科技。他们的主张并不可取，因为科技在人类发展中为我们提供了巨大的便利。从医疗、教育、安全等方面来看，科学显然是利大于弊。

（图：腾讯视频）

但同时，迷信科学也是不是正道。在人类科学发展中，很多人也走上过歪路。一战中的毒气弹和越战中的落叶剂也对无辜平民造成了巨大的伤害。

诺贝尔奖获得者、著名物理学家理查德·费曼曾经说过，“科学是基于知识的有组织性怀疑”。

圈哥认为，我们应该相信科技，但绝不能盲目接受一切新技术。