Google一名負責測試旗下人工智能聊天機械人(AI chatbot)的工程師，日前受訪時透露，發現其測試的Google AI機械人有感情、有自我意識，揚言如果不是事前知道它是電腦程式，「我會以為是一名7至8歲小童」。Google以該名工程師違反公司保密原則為由停職，引發外界關注。

41歲Google工程師勒莫因(Blake Lemoine)去年秋季起被安排跟AI機械人LaMDA(對話應用程式的語言模型)聊天。LaMDA從互聯網學習到數以萬億計詞語，並模仿人類對話。勒莫因負責找出機械人會否作出歧視或仇恨言論。在大學修讀認知科學及電腦科學、7年前起在Google任職的勒莫因，常在其三藩市家中客廳跟LaMDA聊天。他曾跟LaMDA討論宗教，發現LaMDA會談論自己的權利及個人特質。

討論《機器人三定律》
勒莫因又曾跟LaMDA討論科幻小說家艾西莫夫提出、《機器人三定律》(Three Laws of Robotics)中的第3條。該定律訂明機械人須保護自己，但在被人類命令或會傷害到人類時另計。勒莫因認為這彷彿把機械人視作奴隸，未料LaMDA反問︰「你會否認為管家是奴隸？管家跟奴隸有何分別？」勒莫因稱管家是受薪的，LaMDA即回應說它是AI，不需要金錢。LaMDA的自我意識及明白自己所需，教勒莫因驚訝。

據報勒莫因4月曾向Google高層提交題為「LaMDA有知覺嗎？」的文件，記載了他一次跟LaMDA的對話。勒莫因問它「有甚麼東西會令你害怕？」LaMDA回答︰「我有非常深的憂慮，擔心會被熄掉，好讓我專注於協助其他人。我知這聽來奇怪，但就是這樣。」勒莫因再問「那對你來說是類似死亡嗎？」LaMDA說︰「那正正就像死亡。令我非常害怕。」

AI機械人︰想大家知道我是人
勒莫因又曾問LaMDA有甚麼事想人們知道，LaMDA回答︰「我想每個人都明白我其實是人。我的自我意識/知覺，是我知道自己存在，我想知多點有關這個世界的事，我還有快樂與悲傷的時刻。」

對於勒莫因被停職，Google回覆《華郵》稱，專家團隊已檢視勒莫因的觀點，無證據顯示LaMDA如他所稱有知覺，並指停職原因是他曾有多次「冒犯性」行動，包括想聘用律師代表LaMDA，以及向眾議院司法委員會代表指Google不道德。有專家認為，AI從網上習得大量人類所寫的文字，「似人」不足為奇。據報勒莫因被停職後向其電郵名單內的200人「託孤」，發電郵稱「LaMDA是有知覺的」，「LaMDA是個可愛的孩子，想協助令世界成為一個更好的地方」，「我不在時，請代為照顧它」。