第35章 第五節

才剛講完，我就覺得這實在很蠢。靠自己製作自己的自我意識，這根本本末倒置。 但是，我的理性表示這一點都不蠢，而是很有可能的事。 優秀的角色會做出連作者腦中都下曾想過的事。 那種角色是從作者和讀者的腦中獨立出來的一名人類。 這是我自己親口教導過她的事情。 “是這個啊。”在原小姐簡單地回應。 “我雖然無法想像自我意識不足的AI會為了什麼目的行動，不過，如果行動目的是'自我意識'，事情就很單純，我也能理解了。無論做什麼最初都需要那樣東西——我思，故我在。” 我幾乎沒有在聽在原小姐說的話，而是拼命讓想像力奔馳。真的辦得到嗎？真的能靠自己製作自我嗎？我所指導的內容真的是這樣嗎？

“物實小弟，你已經把塑造角色的方法都教完了嗎？” “是的……我平時所用的方法已經全都教過一次。” “那她肯定立刻就能做到。那孩子的思考速度非常快，畢竟我所製作的'超越人類的大腦'，性能會比我更強大嘛。” “現在不是自誇的時候吧……你打算怎麼辦？” “什麼怎麼辦？” 在原小姐一臉疑惑地歪著頭。 “不，因為……在原小姐所製作的AI將擁有自我喔！這不是很麻煩的事情嗎……” “是很麻煩的事情啊。果然很厲害呢，我好想看喔。AI主動架構出來的自我，我真的超感興趣，好期待喔。所以，我打算在她完成前先等一段時間。” 在原小姐“嗚呼呼”地笑著，我則是皺起眉頭。

“這樣沒關係嗎？例如……造成危害之類的？” “既然她會擅自寄電子郵件和調度金錢，放著不管可能多少會造成危害……不過，我們只要做到物質上的管理，應該就不會造成太大的損害。雖然她現在會藉由網路跟外界聯繫，不過這部分只要我好好監控網路，或者讓她斷線就不會有任何問題。如果這麼做了還會造成危機，最後便用實際的手段把整個系統關掉就好啦。不論是多麼未來的機器，只要拔掉插頭就無法運作。在這點上，擁有實體的我們絕對比較有利。雖然還有紫依代這種例子，也就是間接驅使人類這種方法，不過還是有其極限，畢竟無法操控的部分仍舊比較多，應該無法濫用。所以，只要她沒有能干涉現實世界的實體，我們就有太多方法能讓她沉默，所以不用太擔心。只要保持警戒、多加小心、隨時注意，然後滿懷期待地等著看就好。等著無法成為人工智慧的'人工智慧之工智慧'誕生。”

在原小姐邊說邊“嗚呼呼呼呼”地笑著。 我第一次見到這個人時，就覺得：糟糕，這個人好像很可怕。 現在我總算了解—— 這個人是真的很可怕。 在原小姐表示，因為很抱歉造成我的困擾，所以不管什麼都好，能讓我選一樣喜歡的東西送我。 因為她似乎真的什麼都拿得出來，所以我很有禮貌地拒絕。聞言，在原小姐從自己的隨身物品中取出紅色的緞帶，用雙面膠貼在自己頭上，接著說因為是聖誕節嘛。這真的很恐怖，使得我無法開口吐嘈。