AI的陷阱:智慧與偏見
有人預言,人工智慧將可能高於人類智慧的總和。但在機器人學會倫理道德判斷前,人工偏見也可能超過人類偏見的總和。
上個月在矽谷,有幸和Google人工智慧大師和未來長(Chief Futurist)科茲威爾(Ray Kurzweil)見面一小時,親耳聽到他對未來的見解。
他預估,二○二九年起,科技的進步可以逐步刺激免疫系統,延長人類壽命。到二○四五年,人類生化科技的發展,可以助人治癒癌症或進入長生不死的境界。人工智慧和機器的深度學習(deep learning),是幫助我們達成未來的重要推手。
人工智慧,可以帶來更好的人生,也可以是極大的災難。不管你喜不喜歡,二○四五年機器智慧就有可能高於人類智慧的總和。人類如果善用人工智慧而不要排斥它,會讓自己的人生更早就有不同的視野和可能性。
但盡信書不如無書;在善用它的同時,我們也必須理解它的限制和陷阱。
最近美國總統大選是熱門話題。幾個月之前,麻省理工學院電腦科學及人工智慧實驗室,創造了一個機器人推特帳號@DeepDrumpf,用機器的深度學習,來分析美國共和黨候選人川普的自然語言形式。每天,這個人工智慧會消化川普本人的言論、演講和訪問,自學川普的語言模式,並且用這個推特帳戶,模仿川普的格式,產生各種排列組合的自動推文,或回覆希拉蕊的新聞。
這個機器人川普模仿得維妙維肖。不論是對女性同胞下意識的傲慢、對墨西哥的言論,如果不仔細看出處,真的會以為是川普本人在發言。川普的傲慢與偏見,在一四○個字母的推文裡,一覽無遺。
捧腹大笑之餘,其實這呈現的是人工智慧可預見的陷阱和隱憂。因為機器的深度學習,是照單全收,無法自動判斷對錯和正邪。當它吸收信息的同時,也忠實反映了資料源頭的一切,好壞通吃。
今年三月,微軟的聊天機器人Tay,希望藉由與網民交流,作為它深度學習的素材。結果,它二十四小時內就在網路上學會了種族歧視,使得微軟必須草草終止這個研究計劃。
九月,由五名人工智慧機器人當評審的國際選美比賽,決定白人比有色人種要來得美麗。
人工智慧可以忠實反映人類社會的一切偏見,誰的數據量大,就會變成主宰的力量。水能載舟,亦能覆舟。在擁抱科技發展的路途上,人類的智慧和道德顯然需要接受更多的試煉和反省。
畢竟,智慧與偏見,可能只有一線之隔。
文章來源:天下雜誌