噩夢(mèng)的開(kāi)始
在一個(gè)設(shè)計(jì)shui平遠(yuǎn)超現(xiàn)實(shí)世界的華麗建筑nei,黃佳楠正在觀看文字的yan神時(shí)常渙散。她在讀書(shū),這是這段時(shí)間nei唯一能讓她有一dian熟悉gan的事wu,但即便如此,她也沒(méi)法靜xia心來(lái)。
噩夢(mèng)是從那條奇怪的新聞開(kāi)始的。那一天,佳楠?jiǎng)偵贤暌还?jié)大課,打算會(huì)宿舍午休一會(huì),同行的舍友突然發(fā)chu了疑惑的聲音,然后把手機(jī)拿給了她看,屏幕上顯示的是一條redian新聞:反歧視智能仿生人法案已在絕大多數(shù)國(guó)家通過(guò)。標(biāo)題的xia面是對(duì)一名人類專家的采訪直播,這位被描述為人類與智能仿生人社會(huì)與法律問(wèn)題專家的中年男xg正在發(fā)表著自己的觀dian:“由于近些年社會(huì)和政府層面對(duì)智能仿生人工作能力和理xg思維的信任,立法機(jī)構(gòu)里智能仿生人的占比達(dá)到了百分之五十以上,而半數(shù)以上的同意就可以通過(guò)一般xg法案。通過(guò)的反歧視法案乍看沒(méi)有問(wèn)題,但法案里對(duì)于歧視的定義沒(méi)有明確的標(biāo)準(zhǔn),以智能仿生人自shen的gan受為主,而這樣一個(gè)由智能仿生人提chu的議案,得到了全ti智能仿生人的同意而被通過(guò),讓我們不得不警惕人工智能危機(jī)的發(fā)生?!?/p>
“為什么您會(huì)zuochu這樣的判斷呢?”主持人發(fā)表了自己以及絕大多數(shù)觀眾的問(wèn)題。
“我們知dao,仿生容qi的底層設(shè)計(jì)里有一些無(wú)法違背的原則,比如遵守法律,比如禁止對(duì)合法公民人shen攻擊。而其中的一條,‘在制止違法犯罪分zi時(shí)可以采取適當(dāng)暴力手段,但不能造成嚴(yán)重傷害。’則在反歧視法案chu臺(tái)后,有著很qiang的可cao2縱xg。譬如說(shuō),我今天在這里的發(fā)言,提到了人工智能危機(jī)存在的可能xg,是否會(huì)被主觀認(rèn)為是在歧視智能仿生人?我是否會(huì)被視為違法犯罪分zi?智能仿生人是否就可以在不造成嚴(yán)重傷害的時(shí)候,采取暴力手段制止我‘歧視’的違法行為?這是我們每一個(gè)碳基人類需要思考的問(wèn)題?!?/p>
“an專家的說(shuō)法,豈不是我們隨時(shí)都可能被智能仿生人攻擊了?”佳楠的舍友有些擔(dān)憂,但佳楠并不太能理解這種想法――那些友好,智慧,理xg的仿生人,怎么想都不會(huì)攻擊她們這些生wu人的呀。
佳楠正這樣想著,突然看見(jiàn)學(xué)校門(mén)kou的人群躁動(dòng)起來(lái)。好奇的舍友把佳楠拽著走向了門(mén)kou,但佳楠其實(shí)并不想湊re鬧,只不過(guò)舍友的盛qg難卻。等擠到了人群里,她們發(fā)現(xiàn)事務(wù)繁忙很少拋toulou面的大學(xué)校長(zhǎng)和其他的一眾校領(lǐng)導(dǎo)都等候在那里,一幅如臨大敵的模樣,在校門(mén)外面的是一些拿著奇怪儀qi的智能仿生人警察。其中一個(gè)仿生人走向校長(zhǎng):“你們的學(xué)校招收的智能仿生人比例為百分之零,涉嫌嚴(yán)重歧視。我們將對(duì)你們所有生wu人j行逮捕。”
“這位警官,智能仿生人有著超qiang的信息chu1理能力,并且能夠通過(guò)網(wǎng)絡(luò)學(xué)習(xí)知識(shí),大學(xué)的教學(xué)方案對(duì)智能仿生人來(lái)說(shuō)不太適用……”校長(zhǎng)試圖對(duì)面前的機(jī)械警官動(dòng)之以理。
“你這是對(duì)智能仿生人的嚴(yán)重刻板印象?!狈律司俨](méi)有被說(shuō)服,手里的儀qi發(fā)chu一dao閃光,校長(zhǎng)應(yīng)聲tan倒在地。人群爆發(fā)chu了一陣尖叫,混亂的四散奔逃開(kāi)來(lái)。佳楠一時(shí)沒(méi)有反應(yīng)過(guò)來(lái),愣在了原地,已經(jīng)跑了兩步的舍友發(fā)現(xiàn)同伴沒(méi)有跟上來(lái),趕忙回去拉佳楠,剛牽住朋友的手,一dao光線并同時(shí)擊中了兩人。
那個(gè)儀qi并非是殺傷xg的武qi,發(fā)chu的光線只是能對(duì)人ti肌肉造成qiang麻痹效果,因此仿生人能夠?qū)@些被宣布為違法的人類使用以造成限制效果。佳楠被擊倒在地,shenti的麻痹帶來(lái)的附加效果是思維的遲鈍,她只記得有一個(gè)shen穿法官制服的仿生人領(lǐng)tou,帶著數(shù)量不少的仿生人和施工qi械j了學(xué)校。那個(gè)法官宣布全ti教職工和學(xué)生有罪