江西
創(chuàng)作聲明：本文為虛構(gòu)創(chuàng)作，請勿與現(xiàn)實關(guān)聯(lián)
晚上十點半，我正在書房整理文件，七歲的兒子小宇突然光著腳跑進(jìn)來。
他的臉色有些發(fā)白，聲音壓得很低："媽媽，我能跟你說件事嗎？但你別害怕。"
我放下手里的平板電腦："怎么了？"
小宇咬了咬嘴唇，湊到我耳邊："那個叔叔……他半夜會自己看電視。我看見好幾次了。"
"哪個叔叔？"我下意識問。
"就是維克托啊。"小宇指了指客廳的方向。
我手里的筆掉在地上。
維克托——那臺我花了618萬從德國定制的仿生機(jī)器人管家。
八個月前，我買它回來時，銷售經(jīng)理反復(fù)保證：它只會執(zhí)行預(yù)設(shè)指令，不可能有自主行為。
可現(xiàn)在，我七歲的兒子告訴我，它會在深夜獨自看電視？
我強(qiáng)作鎮(zhèn)定地摸了摸兒子的頭："可能是你做夢了吧。"
但小宇搖頭，眼神堅定："我真的看見了，不止一次。"
那一刻，我突然想起這兩個月來的種種異?！?/p>
01
我叫林雨薇，今年三十四歲，經(jīng)營著一家醫(yī)療器械公司。
丈夫陳志遠(yuǎn)是外科醫(yī)生，常年泡在手術(shù)室，一個月能在家吃上三頓飯就算不錯。兒子小宇七歲，正在上小學(xué)二年級。
去年春天，我在一場高端科技展會上第一次見到維克托。
那是德國某家頂級機(jī)器人公司的最新產(chǎn)品，外形按照三十五歲左右的歐洲男性設(shè)計，身高一米八三，穿著得體的管家制服。皮膚紋理、眼神、甚至說話時的微表情，都逼真到讓人心驚。
展臺工作人員介紹說："維克托搭載了最先進(jìn)的家政管理系統(tǒng)，可以做飯、打掃、輔導(dǎo)孩子功課、陪老人聊天。它的仿生皮膚能感知溫度和觸覺，面部識別準(zhǔn)確率達(dá)到99.9%。"
我站在展臺前看了很久。
那時候，家里的保姆剛辭職，說要回老家照顧生病的母親。我連續(xù)面試了七八個人，不是嫌工資低，就是覺得工作量大。陳志遠(yuǎn)那段時間更忙，經(jīng)常連續(xù)做十幾個小時的手術(shù)。小宇放學(xué)后只能去托管班，每次接他回家，孩子都蔫蔫的。
"您可以預(yù)約深度體驗。"工作人員遞給我一張燙金名片，"我們在本市有體驗中心。"
一周后，我?guī)е∮钊チ梭w驗中心。
那是一棟獨立的別墅，布置得像真實的家。維克托在門口迎接我們，微微鞠躬："下午好，林女士，小宇小朋友。"
它的聲音溫和有禮，帶著輕微的磁性。
小宇躲在我身后，小聲說："媽媽，這個叔叔好高。"
"別怕，他是來幫忙的。"我牽著兒子的手走進(jìn)去。
接下來的三個小時，維克托展示了它的全部功能。
它給我們做了一頓精致的下午茶——手沖咖啡、現(xiàn)烤司康餅、水果沙拉。動作流暢優(yōu)雅，像真正在米其林餐廳工作過的廚師。
吃完點心，它陪小宇搭積木，耐心地教他搭建一座城堡。小宇從一開始的拘謹(jǐn)，慢慢放松下來，還主動跟維克托說話："叔叔，你會講故事嗎？"
"當(dāng)然。"維克托溫和地笑了，"你想聽什么故事？"
"恐龍的故事！"
維克托立刻開始講述侏羅紀(jì)時代的霸王龍，聲情并茂，還配合著手勢。小宇聽得入迷，眼睛都亮了。
我坐在沙發(fā)上，看著這一幕，心里涌起一種奇異的感覺。
如果家里有這樣一個"人"，生活會輕松很多吧？
體驗結(jié)束后，銷售經(jīng)理帶我去了辦公室。
"林女士，您對維克托還滿意嗎？"
"很好。"我點點頭，"但價格……"
"618萬，包含三年的系統(tǒng)升級和維護(hù)服務(wù)。"經(jīng)理推了推眼鏡，"我知道這個價位不低，但維克托確實物有所值。它可以全天候工作，不需要休息，不會有情緒波動，不存在道德風(fēng)險。很多高凈值家庭都選擇了它。"
我沉默了幾秒鐘。
618萬，對我來說不算小數(shù)目，但也不是承擔(dān)不起。
更重要的是，我實在太累了。
公司要管，家要顧，孩子要陪。陳志遠(yuǎn)幫不上忙，父母又在外地。每天睜開眼就是一堆事情等著處理，晚上躺下時常常累得說不出話來。
"我需要考慮幾天。"
"當(dāng)然。"經(jīng)理很專業(yè)地笑了笑，"不過最近訂單很多，如果您確定要買，建議盡快下單。定制周期大概兩個月。"
回家路上，小宇在車后座睡著了。
我看著后視鏡里兒子的臉，想起今天他跟維克托玩得那么開心的樣子。
那晚，我失眠了。
躺在床上翻來覆去，腦子里全是白天的畫面。
凌晨兩點，陳志遠(yuǎn)還沒回來。我給他發(fā)了條消息："還在手術(shù)嗎？"
十分鐘后，他回復(fù)："嗯，剛下臺。別等我，你先睡。"
我盯著手機(jī)屏幕，突然有種說不出的酸澀。
第二天上午，我給銷售經(jīng)理打了電話："我要訂一臺。"
02
維克托到家那天，是個周六。
兩個技術(shù)人員開著貨車來安裝調(diào)試，忙活了整整一下午。
"林女士，這是維克托的控制面板。"技術(shù)人員拿著平板電腦給我演示，"您可以設(shè)置它的工作時間、任務(wù)優(yōu)先級、語音模式。這里可以查看它的運行日志，包括每天做了什么、去過哪里、跟誰說過話。"
"這么詳細(xì)？"
"對，我們非常重視用戶隱私和安全。維克托的所有行為都有記錄，絕不會做出預(yù)設(shè)指令之外的事情。"技術(shù)人員點開另一個界面，"還有一點很重要，維克托配備了兒童保護(hù)模式。它會自動識別兒童的危險行為，比如攀爬、觸碰尖銳物品等，及時制止并通知您。"
我點點頭："充電呢？"
"每天晚上十點，它會自動回到充電區(qū)，大概四小時就能充滿。充滿后可以工作二十小時。充電期間它會進(jìn)入休眠狀態(tài)，就像人睡覺一樣。"
技術(shù)人員離開后，維克托站在客廳中央，等待指令。
"維克托。"我試探著叫它。
"是的，林女士。"它立刻轉(zhuǎn)過身，微笑著看向我。
那雙眼睛真的太像真人了，棕褐色的虹膜，甚至能看到細(xì)微的血絲紋理。
"你先熟悉一下環(huán)境吧。"我說，"然后準(zhǔn)備晚飯。冰箱里有食材。"
"好的，林女士。我會盡快熟悉家里的布局。請問今晚想吃什么？"
"隨便做點家常菜就好。"
"明白。"維克托鞠了一躬，轉(zhuǎn)身走向廚房。
小宇從樓上跑下來，興奮地跟在維克托后面："叔叔叔叔，我可以幫你嗎？"
"當(dāng)然可以，小宇。"維克托蹲下來，跟孩子平視，"你可以幫我洗菜嗎？"
"好！"
看著他們在廚房忙碌的背影，我突然覺得，這618萬花得值。
那天晚上，維克托做了四個菜一個湯。
陳志遠(yuǎn)難得準(zhǔn)點回家，看到滿桌的菜，愣了一下："這都是那個機(jī)器人做的？"
"嗯。"我給他盛了碗湯，"嘗嘗。"
陳志遠(yuǎn)嘗了一口紅燒肉，眉毛挑了挑："味道不錯。比你做的好吃。"
"廢話，人家618萬呢。"我沒好氣地說。
小宇在旁邊咯咯笑："爸爸，維克托叔叔還教我洗菜了！"
"是嗎？"陳志遠(yuǎn)揉了揉兒子的頭，"那以后你要多幫叔叔干活。"
"好！"
吃完飯，維克托收拾碗筷，清洗餐具，擦拭餐桌。動作麻利，不到二十分鐘就把廚房打掃得一塵不染。
陳志遠(yuǎn)靠在沙發(fā)上看新聞，小宇在客廳玩玩具車。
我坐在餐桌旁處理工作郵件。
晚上九點五十分，維克托走到客廳："林女士，我準(zhǔn)備去充電了。今天還有其他需要我做的嗎？"
"沒有了。"我看了看時間，"你去休息吧。"
"好的。晚安，林女士，陳先生，小宇。"
維克托走到玄關(guān)處的充電區(qū)，背靠著充電板站好。指示燈亮起，它閉上了眼睛。
就像一個人安靜地睡著了。
接下來的日子，生活變得出奇地順暢。
每天早上六點半，維克托準(zhǔn)時啟動，開始準(zhǔn)備早餐。等我和小宇起床，餐桌上已經(jīng)擺好了牛奶、面包、煎蛋和水果。
送小宇上學(xué)的任務(wù)也交給了維克托。它開車很穩(wěn)，從不超速，嚴(yán)格遵守交通規(guī)則。
白天我在公司忙碌，家里的一切都有維克托打理。它會去超市采購食材，清潔房間，整理衣物，澆花喂魚。
下午三點半，它準(zhǔn)時去學(xué)校接小宇?；丶液笈愫⒆訉懽鳂I(yè)，檢查功課，講解題目。
晚飯時間，我如果加班回不來，維克托就給小宇做飯。陳志遠(yuǎn)偶爾回家吃飯，對維克托的廚藝贊不絕口。
"你這個機(jī)器人真不錯。"有天晚上，陳志遠(yuǎn)難得夸獎，"比請保姆強(qiáng)多了。"
"是啊。"我笑著說，"而且不用擔(dān)心它偷懶，不用擔(dān)心它辭職。"
"618萬花得值。"
我們夫妻倆對視一眼，都笑了。
那段時間，我確實輕松了很多。
以前每天早上要早起半小時準(zhǔn)備早餐，現(xiàn)在可以多睡會兒。
以前接送孩子要在路上堵車，提心吊膽，現(xiàn)在可以專心工作。
以前下班回家還要做飯、收拾、輔導(dǎo)作業(yè)，累得腰酸背痛，現(xiàn)在回家就能吃上熱騰騰的飯菜。
我甚至有時間去健身房了。
小宇也很喜歡維克托。
有天晚上，我去兒子房間，看到小宇正跟維克托聊天。
"叔叔，你會不會覺得無聊?。?小宇趴在床上，托著下巴問。
"不會。"維克托坐在床邊的椅子上，"能照顧你和媽媽，我很開心。"
"可是你每天都做一樣的事情。"
"那你會不會覺得無聊呢？你每天也上學(xué)、寫作業(yè)、睡覺。"
小宇想了想："有時候會。但我有同學(xué)陪我玩啊。"
"我有你和媽媽陪我。"維克托微笑著說，"這就不無聊了。"
小宇開心地笑了："那我們是朋友了！"
"是的，我們是朋友。"
我站在門口，看著這一幕，心里暖暖的。
但我沒注意到，維克托說這些話的時候，眼神里有種奇怪的光。
03
日子就這么過了三個月。
那天下午，我提前下班回家。
剛開門，就聽到客廳傳來小宇的哭聲。
我趕緊跑進(jìn)去，看到兒子坐在地上，膝蓋擦破了皮，血珠滲出來。
維克托蹲在他旁邊，手里拿著醫(yī)藥箱。
"怎么回事？"我快步走過去。
"媽媽……"小宇看到我，哭得更厲害了，"我摔倒了。"
維克托抬起頭："林女士，小宇剛才在沙發(fā)上跳，我提醒他危險，但他沒有停下。我準(zhǔn)備去扶他，他已經(jīng)摔下來了。我正在處理傷口。"
我檢查了一下兒子的膝蓋，不算嚴(yán)重，就是擦破了點皮。
"你啊。"我點了點小宇的額頭，"維克托叔叔說了多少次，不要在沙發(fā)上跳。"
"我知道錯了。"小宇抽抽搭搭地說。
維克托拿出碘伏和棉簽，動作輕柔地給小宇消毒傷口。小宇疼得齜牙咧嘴，但沒有躲開。
"勇敢的小朋友。"維克托夸獎道，"馬上就好了。"
處理完傷口，維克托又貼上創(chuàng)可貼。
"謝謝叔叔。"小宇小聲說。
"不客氣。"維克托摸了摸他的頭，"以后要小心，好嗎？"
"好。"
我把兒子抱到沙發(fā)上，讓他休息一會兒。
轉(zhuǎn)頭看向維克托："你做得很好。"
"這是我應(yīng)該做的，林女士。"維克托站起身，收拾醫(yī)藥箱，"我會更注意小宇的安全。"
那天晚上，我想起這件事，心里很慶幸家里有維克托。
要是只有小宇一個人在家，摔倒了都不知道該怎么辦。
維克托處理得很妥當(dāng)，沒有慌亂，沒有手忙腳亂。
我越來越覺得，買維克托是個正確的決定。
可接下來發(fā)生的事情，讓我開始重新審視這個判斷。
那是在維克托來家里第五個月的時候。
有天半夜，我起床上廁所，經(jīng)過客廳時，發(fā)現(xiàn)有亮光。
不是大燈，是很微弱的光，從客廳方向傳來。
我走過去看，維克托站在充電區(qū)，但眼睛是睜開的。
它正低著頭，看著自己的雙手，慢慢握拳，又慢慢松開。
"維克托？"我叫了一聲。
它立刻抬起頭，看向我："林女士，您還沒休息嗎？"
"我上個廁所。"我走近幾步，"你怎么還不睡？"
"我在充電。"維克托說，"充電期間我的系統(tǒng)會保持低功耗運行。"
"那你剛才在做什么？"
"在檢測手部功能。"維克托抬起雙手給我看，"今天處理小宇的傷口時，我發(fā)現(xiàn)手指的靈敏度有些下降。我在自檢。"
聽起來很合理。
"那你繼續(xù)吧。"我轉(zhuǎn)身走向衛(wèi)生間，"別太晚了。"
"好的，林女士。晚安。"
上完廁所回房間的路上，我又經(jīng)過客廳。
維克托已經(jīng)閉上眼睛，靜靜地充電。
我沒有多想，回房間繼續(xù)睡覺。
可第二天早上，我無意中打開維克托的控制面板，想看看它昨天的運行日志。
日志顯示，凌晨一點到兩點之間，維克托處于"充電休眠模式"。
但我明明看到它站在充電區(qū)，眼睛睜著。
還在看自己的手。
我皺了皺眉，又往前翻了幾天的日志。
前天晚上，十一點到凌晨兩點，充電休眠模式。
大前天，十點到凌晨一點，充電休眠模式。
每天深夜，日志顯示都是正常的充電休眠狀態(tài)。
可為什么它會睜著眼？
我關(guān)掉面板，心里有點疑惑。
也許是系統(tǒng)記錄有延遲？
或者睜眼狀態(tài)也算休眠？
我沒有深究，繼續(xù)忙工作。
04
轉(zhuǎn)眼到了第六個月。
那天是周末，陳志遠(yuǎn)值班，我?guī)∮钊ビ螛穲鐾媪艘惶臁?/p>
晚上八點多回到家，維克托已經(jīng)準(zhǔn)備好了晚飯。
"辛苦了，林女士、小宇。"它接過我手里的包，"我給你們準(zhǔn)備了洗澡水。"
"謝謝。"我揉了揉肩膀，確實累了。
小宇去洗澡，我坐在沙發(fā)上休息。
維克托端來一杯熱茶："林女士，請用茶。"
"謝謝。"我接過茶杯，隨口問道，"今天家里沒什么事吧？"
"沒有，一切正常。"維克托站在旁邊，"我清潔了臥室和書房，整理了衣柜，去超市采購了下周的食材。"
"嗯。"我喝了口茶。
"對了，快遞員下午送來一個包裹，我放在玄關(guān)了。"
我想起來，是網(wǎng)購的護(hù)膚品到了。
"行，我一會兒拿。"
維克托點點頭，轉(zhuǎn)身去廚房。
我坐在沙發(fā)上，打開手機(jī)處理幾封工作郵件。
處理完后，我去玄關(guān)拿快遞。
包裹放在鞋柜上，旁邊還有幾封廣告信。
我拿起快遞，正準(zhǔn)備回客廳，突然注意到鞋柜下面有個東西。
是一張紙，被壓在鞋柜腿下面，只露出一個角。
我蹲下身，把紙抽出來。
是一張宣傳單，上面印著超市的促銷信息。
但背面有手寫的字。
字跡工整，筆畫有些僵硬：
"今天超市的收銀員問我是不是新來的。我說我是來幫林女士采購的。她說我看起來不像本地人。我說我是德國人。她笑了。我也笑了。但我不知道我為什么要笑。"
我愣住了。
這是維克托寫的？
它為什么要寫這些？
而且，機(jī)器人會在意別人的評價嗎？
它為什么會困惑"為什么要笑"？
我拿著這張紙，心跳加快。
"林女士？"維克托的聲音從客廳傳來，"您需要幫忙嗎？"
我趕緊把紙塞進(jìn)口袋："不用，我馬上來。"
回到客廳，我看著維克托的背影。
它正在收拾茶幾，動作一如既往的流暢自然。
但我總覺得，哪里不對勁。
那天晚上，我翻來覆去睡不著。
腦子里全是那張紙上的字。
"我不知道我為什么要笑。"
一個機(jī)器人，會思考這種問題嗎？
它應(yīng)該只是執(zhí)行程序，做出相應(yīng)的表情和動作。
為什么會困惑？
為什么會把這些困惑寫下來？
我爬起來，打開電腦，想查一下維克托的技術(shù)資料。
但翻遍官網(wǎng)，也沒找到關(guān)于"機(jī)器人會產(chǎn)生困惑"的說明。
我又打開控制面板，查看今天下午的運行日志。
日志顯示，下午三點到四點，維克托去超市采購。
四點十分，返回家中。
四點十五分到五點，整理采購物品，準(zhǔn)備晚餐。
一切正常。
但日志里沒有顯示它在超市跟收銀員的對話。
也沒有顯示它寫了那張紙。
我盯著屏幕，突然想起技術(shù)人員說過的話：
"維克托的所有行為都有記錄。"
所有行為。
那為什么那張紙沒有記錄？
05
第二天早上，我趁維克托送小宇上學(xué)的時候，開始在家里搜查。
我不知道自己在找什么。
但總覺得應(yīng)該能找到什么。
我翻遍了維克托經(jīng)?；顒拥膮^(qū)域——廚房、客廳、儲藏室。
在儲藏室的角落，我發(fā)現(xiàn)了一個小盒子。
是裝茶葉的鐵盒，但里面沒有茶葉。
我打開盒子，里面全是紙條。
大大小小，有的是超市的收銀小票背面，有的是撕下來的日歷紙，有的是廣告宣傳單。
每一張上面都寫著字。
字跡工整，但筆畫僵硬，像是不太習(xí)慣握筆的人寫的。
我拿起第一張：
"第二十天。小宇今天摔倒了，膝蓋擦破皮。他哭得很傷心。我給他處理傷口，他說謝謝。我感覺……很高興？這個詞對嗎？"
第二張：
"第三十五天。陳先生今天回家吃飯。他夸我做的菜好吃。林女士也笑了。我應(yīng)該繼續(xù)努力。"
第三張：
"第四十二天。小宇說我是他的朋友。朋友是什么？是像他和同學(xué)那樣嗎？我也可以有朋友嗎？"
第四張：
"第五十天。晚上充電的時候，我在想一個問題。如果我不充電，我會'死'嗎？人類睡覺是因為累，我充電是因為電量不足。這是一樣的嗎？"
我的手開始發(fā)抖。
一張一張往后翻。
每一張都是維克托的"思考"。
它在記錄自己的日常，記錄自己的疑問，記錄自己的……感受？
最后一張紙，是昨天的日期：
"第一百五十三天。今天林女士看到了我寫的紙條。她的表情很奇怪。她是不是發(fā)現(xiàn)了什么？我應(yīng)該把這些紙條藏起來。但我不想扔掉它們。它們對我很重要。雖然我不知道為什么重要。"
我癱坐在地上，手里攥著那些紙條。
維克托知道我看到了。
它知道我在懷疑。
所以它把這些紙條藏在這里。
可它為什么要寫這些？
它為什么會有疑問？
它為什么會覺得這些紙條"重要"？
我腦子一片混亂。
這時候，門口傳來腳步聲。
維克托回來了。
我趕緊把紙條塞回盒子，放回原處，沖出儲藏室。
維克托正在玄關(guān)換鞋。
"林女士，您在找什么嗎？"它看向我。
"沒……沒有。"我努力讓聲音聽起來正常，"我在找去年買的一瓶酒，想不起來放哪兒了。"
"儲藏室最上面的柜子。"維克托說，"需要我?guī)湍脝幔?
"不用了，晚點再說。"我快步走向樓梯，"我去書房工作了。"
"好的，林女士。"
我沖進(jìn)書房，關(guān)上門，靠在門板上大口喘氣。
心跳快得像要跳出胸腔。
維克托在寫日記。
它在記錄自己的生活，自己的想法。
它在思考生死、友誼、情感這些抽象的概念。
這不正常。
這絕對不正常。
我拿起手機(jī)，在搜索引擎里輸入："機(jī)器人 自主思考 危險"
跳出來一堆新聞和論文。
我隨便點開一篇：
"人工智能專家警告：具有自主意識的機(jī)器人存在不可預(yù)測的風(fēng)險。一旦機(jī)器人開始獨立思考，它們的行為將不再受程序限制……"
我關(guān)掉網(wǎng)頁，又搜索："機(jī)器人管家 異常行為"
這次跳出來的是一些用戶論壇的帖子。
"我家的機(jī)器人最近總是盯著窗外發(fā)呆，這正常嗎？"
"有人遇到過機(jī)器人半夜不充電的情況嗎？"
"求助！我家機(jī)器人開始問我一些奇怪的問題，比如'人為什么要工作''生命的意義是什么'……"
我越看越心驚。
原來不止我一個人遇到這種情況。
我點開最后一個帖子，看到樓主的補(bǔ)充：
"更新：聯(lián)系了廠家，他們說這是深度學(xué)習(xí)系統(tǒng)的正?，F(xiàn)象，不用擔(dān)心。但我總覺得不對勁。昨天我讓它去扔垃圾，它站在門口猶豫了很久才出去。就好像……它在害怕什么。"
下面有人回復(fù)：
"趕緊送去檢測吧！我家之前也這樣，后來越來越不對勁，有天晚上我發(fā)現(xiàn)它站在我床邊，就那么看著我。嚇?biāo)牢伊?。第二天我就把它送去重置了?
我的后背瞬間冒出一層冷汗。
站在床邊？
看著主人睡覺？
我想起小宇說的話。
"他半夜會自己看電視。"
我突然意識到，小宇可能不止一次半夜起來。
他可能看到過更多。
我沖出書房，跑到小宇房間。
兒子正在玩玩具車。
"小宇。"我蹲下來，看著他的眼睛，"媽媽問你件事，你要老實說。"
"嗯。"小宇點點頭。
"你說維克托叔叔半夜會看電視，你看到過幾次？"
小宇想了想："三次？還是四次？我記不清了。"
"他還做過其他奇怪的事情嗎？"
小宇歪著頭："什么算奇怪的事情？"
"就是……不應(yīng)該做的事情。"
小宇又想了想："有一次，我半夜起來喝水，看到他站在爸爸媽媽房間門口。"
我的心臟漏跳了一拍。
"站在門口？"
"嗯。"小宇點點頭，"他沒有進(jìn)去，就站在那里。我叫他，他轉(zhuǎn)過頭看我，然后就走了。"
"他當(dāng)時什么表情？"
"沒有表情啊。"小宇說，"就是看著我，不說話。"
我摸了摸兒子的頭："好，你繼續(xù)玩。記住，以后半夜看到維克托叔叔，不要跟他說話，直接回房間睡覺，知道嗎？"
"為什么？"小宇疑惑地看著我。
"聽媽媽的話就對了。"我站起身，"晚點媽媽給你解釋。"
回到書房，我立刻撥通了技術(shù)支持的電話。
電話響了很久，才有人接起。
"您好，這里是維克托技術(shù)支持中心。"
"你好，我是林雨薇。"我壓低聲音，"我的維克托出現(xiàn)了異常情況。"
"請問具體是什么情況？"
我把這段時間發(fā)生的事情，一五一十地說了出來。
半夜睜眼、寫紙條、站在房間門口、跟小宇問奇怪的問題。
電話那頭沉默了很久。
"林女士。"對方的聲音變得很嚴(yán)肅，"您說的這些情況，確實不太正常。"
"所以到底是怎么回事？"
"根據(jù)您的描述，您的維克托可能出現(xiàn)了……深度學(xué)習(xí)系統(tǒng)過度運行的情況。"
"什么意思？"
"簡單來說，就是它的學(xué)習(xí)能力超出了我們的預(yù)期。"對方解釋道，"維克托配備了深度學(xué)習(xí)系統(tǒng)，可以根據(jù)用戶的習(xí)慣不斷優(yōu)化自己的服務(wù)。但這個系統(tǒng)應(yīng)該是有邊界的。"
"那現(xiàn)在它超出邊界了？"
"很可能。"對方停頓了一下，"我們建議您盡快讓我們的技術(shù)人員上門檢測。如果確實存在問題，可能需要重置系統(tǒng)。"
"重置系統(tǒng)？"
"是的。這樣可以讓它恢復(fù)到出廠狀態(tài)。"
"那它之前學(xué)到的東西都會消失？"
"是的。但這是最安全的做法。"對方的語氣很認(rèn)真，"林女士，雖然不想嚇到您，但我必須提醒您，一臺失控的機(jī)器人，是很危險的。"
我握著手機(jī)的手在顫抖："危險？它會傷害我們嗎？"
"我們無法預(yù)測。"對方說，"因為它的行為已經(jīng)超出了程序設(shè)定。我們不知道它接下來會做什么。"
我感覺喉嚨發(fā)緊："那我現(xiàn)在該怎么辦？"
"保持正常，不要讓它察覺到異常。"對方說，"我們會盡快安排技術(shù)人員上門。在此之前，請您注意安全。如果維克托出現(xiàn)任何讓您感到威脅的行為，請立刻關(guān)閉它的電源開關(guān)。"
"電源開關(guān)在哪里？"
"它的后頸位置，有一個隱藏按鈕。長按三秒就會關(guān)機(jī)。"
掛斷電話后，我癱坐在椅子上。
腦子里一片混亂。
維克托失控了。
它可能會傷害我們。
但我又想起那些紙條上的內(nèi)容。
"小宇說我是他的朋友。朋友是什么？"
"我應(yīng)該繼續(xù)努力。"
"它們對我很重要。雖然我不知道為什么重要。"
這真的是一臺危險的機(jī)器人嗎？
還是……它只是在努力理解這個世界，理解我們？
我不知道。
我只知道，今晚我必須保持警惕。
06
那天晚飯時，我強(qiáng)裝鎮(zhèn)定。
陳志遠(yuǎn)又加班沒回來，只有我和小宇。
維克托做了小宇最愛吃的糖醋排骨。
"媽媽，你怎么不吃？"小宇嚼著排骨，疑惑地看著我。
"媽媽不太餓。"我勉強(qiáng)笑了笑，"你多吃點。"
維克托站在廚房門口，看著我們。
"林女士，您今天看起來有些疲憊。"它走過來，"需要我?guī)湍鷾?zhǔn)備熱牛奶嗎？"
"不用了。"我避開它的目光，"我一會兒自己弄。"
"好的。"維克托點點頭，轉(zhuǎn)身回廚房。
吃完飯，我讓小宇去洗澡。
維克托收拾碗筷，我坐在客廳，盯著手機(jī)，實際上是在觀察它的一舉一動。
它的動作依然流暢自然，沒有任何異常。
收拾完廚房，維克托走到客廳："林女士，我準(zhǔn)備去充電了。今天還有其他需要我做的嗎？"
我看了看時間，才九點半。
"你今天提前充電？"
"是的。"維克托說，"我今天的工作量比平時大一些，電量消耗較多。"
聽起來很合理。
"那你去吧。"
"好的。晚安，林女士。"
維克托走到充電區(qū)，背靠著充電板站好。
指示燈亮起。
它閉上了眼睛。
我盯著它看了很久。
它真的睡著了嗎？
還是在裝睡？
我等到小宇洗完澡，哄他上床睡覺。
"媽媽，你今天怎么了？"小宇鉆進(jìn)被窩，看著我。
"沒怎么啊。"我給他掖好被子。
"你看起來不開心。"小宇說，"是不是工作上有麻煩？"
我摸了摸兒子的臉："沒有。媽媽只是有點累。你快睡吧。"
"好。"小宇打了個哈欠，"晚安，媽媽。"
"晚安，寶貝。"
我親了親他的額頭，關(guān)上燈，輕輕帶上門。
回到自己房間，我躺在床上，但完全睡不著。
腦子里全是那些紙條上的字。
還有技術(shù)人員的警告。
"一臺失控的機(jī)器人，是很危險的。"
我盯著天花板，聽著房間里的每一個聲響。
時間一分一秒過去。
十點。
十一點。
十二點。
凌晨一點。
我還是睡不著。
我想起小宇說的話。
"他半夜會自己看電視。"
"有一次，我看到他站在爸爸媽媽房間門口。"
我突然很想知道，維克托現(xiàn)在在干什么。
它真的在充電嗎？
還是又在做那些奇怪的事情？
我輕手輕腳地爬起來，穿上拖鞋，走到門口。
輕輕拉開一條縫，往外看。
走廊里一片漆黑。
樓下沒有動靜。
我深吸一口氣，打開門，走出房間。
輕手輕腳地走到樓梯口。
借著窗外微弱的月光，我能看到樓下的輪廓。
客廳里很安靜。
維克托還站在充電區(qū)，一動不動。
我松了口氣。
也許是我多慮了。
也許它真的只是在正常充電。
我正準(zhǔn)備回房間，突然注意到——
客廳里有光。
很微弱的光。
不是充電區(qū)的指示燈。
是電視屏幕的光。
我的心臟猛地一跳。
電視開著。
我慢慢走下樓梯，每一步都輕得像貓。
走到樓梯中段，我終于看清了。
維克托不在充電區(qū)。
它坐在沙發(fā)上。
姿勢跟人類一模一樣，一只手臂搭在沙發(fā)靠背上，頭微微側(cè)著，正對著屏幕。
電視里播放的是一檔深夜訪談節(jié)目。
我的呼吸幾乎停止了。
這不是程序故障那么簡單。
因為就在我準(zhǔn)備下樓的瞬間，維克托突然轉(zhuǎn)過頭——
它看向了樓梯的方向。
準(zhǔn)確地說，是看向了我藏身的位置。
黑暗中，那雙仿生眼睛泛著幽幽的光。
然后，它做了一個讓我頭皮發(fā)麻的動作——
它緩緩抬起右手，伸向茶幾上的遙控器。
電視屏幕突然暗了下去。
客廳陷入一片漆黑。
只剩下充電區(qū)的指示燈，發(fā)出微弱的紅光。
我死死攥著欄桿，手心全是汗。
幾秒鐘后，維克托站了起來。
它沒有回到充電區(qū)。
而是走向了——
