除了東歐地區的轟轟炮火，世界上還在醞釀另一場沒有硝煙的戰爭。

五月三十日，全球幾百位人工智能專家包括被稱為「AI之父」的Google前副總裁欣頓(Geoffrey Hinton)、ChatGPT開發商OpenAI行政總裁奧爾特曼(Sam Altman)，以及來自DeepMind、Anthropic、微軟、Google、中科院等高層及科學家發表聲明，警告人工智能可能引致人類滅亡，風險猶如世紀疫症及核戰，敦促全球將其列為首要議題。兩個月前全球首富Tesla行政總裁馬斯克(Elon Musk)也曾經和其他數百名專家發表公開信，呼籲在確定安全無虞之前，暫緩人工智能研發工作。

由人工智能流行的一刻開始，爭辯和擔心就從未停止。科幻電影中，人類被人工智能取替甚至淘汰的情節會否成真？

要了解這場看似深奧遙遠但其實很切身的戰爭，《崇基校友》找來兩位截然不同的專家，一位是投身人工智能產業多年，初創公司Asiabots的負責人岑潮輝(2001/哲學)；另一位是一直致力於人工智能研究和教育的中大通識教育基礎課程講師司徒偉文(2000/電子工程)。他們除了分享從工作上對人工智能的看法外，也從大學時本科的視角，分析人工智能對個人和社會的多重意義。兩者不約而同認為，認清人類的獨特價值，予以保留及好好發揮，才能勝出這場沒有硝煙的戰爭。

知己知彼，百戰百勝。要在這場戰爭中生存甚至取勝，就要先知道人工智能的能力：人工智能有否自我意識﹖人工智能可取代人類工作嗎﹖人工智能會否發展至具備創作能力﹖這三條重要問題的答案，可能就是我們未來與人工智能共存的契機。

表面情感與自我意識

早於六年前以「電腦能有情感嗎？──從《觸不到的她》到人工智能」為題舉辦過講座的司徒偉文，斬釘截鐵地認為人工智能暫時不會有意識︰「關鍵是要定義什麼是情感，如果純粹指情感的行為，人工智能確實愈來愈好，你大可以跟ChatGPT傾訴心事，它已懂得安慰你，雖然現在要辨別它與真人的分別仍是不太難，但人工智能在對答回應上已愈見進步。不過如果情感是包括感受的話，情況會很不同，感受是情感在意識中的主觀經驗，擁有意識才能有感受，而電腦暫時是沒有意識的。直到今天，科學家仍未能了解人腦到底如何透過客觀的腦神經活動而產生主觀經驗，於是也無法借鑑大腦運作來令電腦產生意識，從而令電腦有感受。」

岑潮輝也發現，一般人認為情感就等於喜怒哀樂，但其實這只是表面的情感︰「我公司一直有塑造數碼人物（digi-human），感覺好像很會跟你談天說地。日本也有虛擬女朋友，懂得在你回家時說『今天辛苦了』等安慰說話，但其實一眼就看出是假的，因為這只是表面的情感。智能實際上分為兩種，一是實用智能，即是解難能力；二是自我意識，在人類世界情感是極為複雜的東西。人類看重的是對方會否真的發自內心來關心、愛、或是憎恨對方，並非只流於開心或不開心、喜歡或不喜歡，而是將恩怨情仇混合在一起，所以電腦只能模擬到表面的情感，一眼就分得出是來自機械人，而非自主意識的反應。」

司徒偉文(左)，岑潮輝(右)

是真心還是虛情假意

雖然現時電腦沒有自我意識，但未來能否發展出來呢？岑潮輝與同事研究ChatGPT時，有時會得到一些意料之外的反應，他們也反覆思量它是如何得到這些極佳的推理能力︰「有時它明明不懂某種語言，卻能以該語言與人類溝通，叫我十分驚訝。有時可能是我們開啟了黑盒（blackbox），即是連我們自己都不認識的『暗功能』。情感也是一樣，機械人會否出現一種人類無法理解的情感﹖人工智能又會否忽然有一天出現自主意識﹖尤其是人工智能的進步太快，突如其來甦醒及與人類開展全新的互動方式也並非不可能。對此我是持開放態度，要再觀察下去才會知道。」

司徒偉文曾在課堂上跟同學討論電視劇《Humans》，討論人類與人工智能的情感交流︰「劇情講述一位已婚男士與女機械人發生關係，他的太太指責他出軌，男主角卻認為機械人沒有情感及意識，所以這樣做並不算出軌。同學十分熱烈討論，因為這是一個沒有標準答案且極具爭議性的話題。」岑潮輝更分享一個有趣的研究結果︰「早年開發的虛擬醫生chatbot，技術還未成熟，只能近乎隨機地說出『我明白你』、『你一定很痛苦』等說話，結果有七成使用過的病人卻感覺舒服了！不少人因此認為是否真的有意識未必重要，反而是人類接收到什麼才是最重要。這有點像哲學家康德所提出的『物自身』概念，簡單來說我們皆生為人，就能用同理心感受對方是真心還是演戲；但套用在人工智能上是否可行，而科技發展下去，人工智能表達的是『真心』還是純粹一個樣辦答案，就得拭目以待了。」

與人工智能競爭工作

對談中岑潮輝說得最多的是「持開放態度」—所有事情都是雙面的，好處壞處總是相生相依︰「在實用智能層面，人工智能的解難能力肯定已超越人類。很多人擔心會被人工智能取代，某程度上亦的確需要擔心，因為它已不再流於程式編碼，而是從人類提供的數據中不斷自我訓練和進步，讓它更快更易適應人類的需要。如果人類自己只停留在提供實用價值，確實很易會被人工智能取代。從這個角度看，這可能是人工智能帶來的壞影響。另一方面從宏觀角度看，例如香港面臨人口老化問題，年輕勞動力不足，人工智能及自動化正好填補了這些空缺；再進一步想，人工智能分擔了恆常和重複的工作，人類就能專注在發揮人類獨特價值的工作，如果這樣去考慮，人工智能為社會帶來的則是好影響。」孰好孰壞，他認為我們都必須轉變心態和提高個人競爭力，去迎接人工智能時代的來臨︰「人類每次迎來科技轉變，社會都要經歷調整；如果一直抗拒轉變，今天我們就不會有汽車，而是仍在騎馬出行。既然世界隨着科技進步而持續改變，人類也要努力適應，才能享受科技帶來的好處。」

對於人工智能對人類工作帶來的轉變，司徒偉文卻認為未必會一定美好︰「人工智能令某些沉悶的工作消失，將人類解放出來。用馬克思的說法，就是現代社會工業化後出現『異化勞動』—不斷分工令很多人從事重複而瑣碎的工作，失去了工作的意義，而人工智能正正可以代替人類完成這些沉悶的工作。但近年人工智能發展迅速，令我對人工智能會否創造更美好的社會有點保留，因為它能取代的工作實在太多，連要思考變通的工作如程式員等也可以被取代，人類應對方法就是要訓練高階思維去做人工智能不會輕易完成的工作，但這樣會否令社會變得更好，我仍未有答案。」

自主思考乃關鍵所在

哲學系畢業的岑潮輝也談到馬克思的「下層建築決定上層建築」理論︰「大家本來幻想如果有更多的機械人，人類就能從下層工作中解放出來，但原來人工智能取代的正是上層工作—ChatGPT最強勁的是推理能力，能夠協助人類決策，反而清潔等勞動工作就要靠人手。久而久之，人類會否過分依賴人工智能而放棄思考﹖如果學生靠ChatGPT自動生成答案，不加思索便交功課；公司主管靠ChatGPT寫好計劃書，不用審視便交給客戶……這樣將會十分危險，亦是我最擔心的地方。我們必須保持基本的批判及自主思考，不要反過來被人工智能控制。」

作為教育工作者，司徒偉文也面對學生應該如 何使用C h a t G P T的難題︰「如果學生完全依賴 ChatGPT，就是個大問題—因為ChatGPT有時 會很有信心地說錯的事情。它大大改變了教育的 模式，令學生不能單單着重知識的理解，更是要 求他們擁有高階的分析、判斷及創造的思維能 力。」對此岑潮輝也深表認同︰「我招聘員工都 會留意幾點︰一是願意快速學習、要有好奇心； 二就是具組織能力。在互聯網時代，資訊根本垂 手可得，ChatGPT的出現令整個流程更為快速。 人類應該向更深層次的分析層面進發，要有能力 把不同科目和知識體系串連在一起。」

 藝術價值 以人為本

自從ChatGPT面世後，不少以它生成的文字、音樂、 繪畫、照片開始流傳，令人聯想到在人類對人工智能 的大戰中首先輸掉的，會否就是藝術創作。司徒偉文 以他任教「音樂、心靈與人工智能」這科的經驗舉 例︰「人聽到音樂就自然感到喜悅或悲傷，人工智能 則透過演算法知道音樂屬於開心還是不開心。它也能 創作旋律，但關鍵是當中有沒有創意。引用人工智能 學者Margaret Boden的看法，創意要新穎(new)、有 驚喜(surprising)及有價值(valuable)，人工智能不論創 作詩歌、文章還是繪畫，要新穎不難，要有驚喜也可 以，所以最難的就是有價值，因為很難用數學計算出 價值或意義。」

岑潮輝也認為藝術創作如果單從技藝上考慮，人工智能完全做到，但創意其實分為兩類︰「一類是變化，就如我以前在工廠工作，看到方形手鈪後便想做圓形、三角形手鈪一樣，這亦是人工智能正在做的層面。另一類是由零到一的，這類創作最困難，世界上從來沒有前人想過，那個靈感就突然出現，就像梵高的「向日葵」用油墨層疊上去，親身觀畫才感覺到那種立體感；又如畢加索把不同角度與時間的面部拼合畫在一起，看似扭曲的畫面卻引人深思。雖然有一天人工智能也可能做到這些由零到一的創作，但如何去評價﹖其價值又是什麼﹖我深信藝術與人有很密切的關係，藝術創作的價值亦是以人為本。人工智能生成的藝術品如果仍由人類掌控評價的權利，就不用擔心。」他又以音樂解釋箇中分別︰「你想聽管弦樂，在家聽唱片就可以，為何要另外花錢花心思買票，再長途跋涉到場館去欣賞有機會出現瑕疵的樂團現場演奏﹖始終人就是重視那種現場真人演奏的感覺，甚至喜愛那種不完美。價值是凌駕於作品本身，演出者背後的想法及付出的努力才是我們覺得有價值的部分。」司徒偉文也認為有時媒體對人工智能的報道過份樂觀︰「我也有使用人工智能軟件作曲，選擇風格、長度、情緒等選項後，它自然會生成大堆作品，但當中動聽的其實佔極少數，其餘大部分都是不太理想。媒體總會選擇最好的少數作品報道，令人誤以為人工智能在這方面很厲害。這又回到創作的價值問題上，此時此刻人工智能還未能判斷到什麼作品才算有價值，仍然要由人來作判斷。」

選擇與否 在人雙手

人其中一個最大的弱點是惰性，我們會否有一天把本位讓予人工智能？岑潮輝覺得短期內，人類不會將 此權限開放給人工智能，但十年二十年後的未來就很難預料︰「人類可能會出現移情的情況，視Chatbot 為家人，甚至自然地把感情投放其中。有天我們跟人工智能說想吃叉燒炒蛋飯，它會說不好並反建議其 他選擇，那麼我們會怎樣回應—將選擇權交給它﹖還是堅持自己作主﹖」他提醒千萬不要小看這件看似 小事︰「回想計算機剛面世時，會計師每次都會用紙筆人手覆算一次；但當與計算機建立信任後，慢慢 地就沒有人再人手計算了。當有天我們完全信賴人工智能的話，就有機會視它為夥伴或伴侶。」司徒偉 文也有同樣擔心︰「正如以前沒有Google Maps，我每次外出一定看地圖；現在我反而不相信自己認 路，每次也先看Google Maps。未來我們人生有什麼決定，今日吃什麼，應否跟某人在一起，是否都要 向人工智能發問，由它來給答案﹖這正是教育界擔心的問題，學生不能只具備依賴人工智能的能力，而 是要培養自己解決問題和判斷答案的能力。」

人工智能是把雙面刃，既能大大幫助我們解決問題，但正因其能力會愈來愈大，如果我們不適應轉變，努力保持主導角色，也許有天真的會在這場沒有硝煙的戰爭中被淘汰。岑潮輝強調，要認真思考如何與人工智能共存︰「如果人類無法分辨及反省，就真會敗給人工智能。目前人工智能技術集中於某幾間企業，如果我們因懶惰而放棄自身思考和選擇的能力和權利，就很容易被少數人控制。」人所以為人，就是因為我們具備思維能力、反省能力、資料組織能力，和最重要的情。認清我們的優勢，好好珍惜和發揮我們獨有之處和優點，才能使我們不單面對人工智能，以至面對其他轉變和挑戰時站得穩固。