科技向善 其實 挺複雜的

ItTalks2019-05-14 15:02:37



騰訊掌門人馬化騰在朋友圈宣佈:科技向善,是騰訊未來的願景和使命。


稍早的時候,他在兩會上提交的七份書面建議,其中就有一個《關於加強科技倫理建設 踐行科技向善理念的建議》。


很樂見於騰訊的這種“我要做個好人”這樣公開的明確的表態。


印象中,這樣言辭鑿鑿斬釘截鐵的中國高科技公司的表態——並升格為一種願景和使命,騰訊是頭一個。


尤其是在谷歌撤下了“不作惡”的背景之下。



自動駕駛領域裡有一個很有名的倫理問題。這個倫理問題其實並不新鮮,就是著名的電車難題的翻版。


一臺載有乘客的自動駕駛汽車,極端情況下的算法該如何設計:究竟是撞向前方的路人,還是自己翻了算。再或者,是撞向左邊的五個人,還是撞向右邊的一個人,還是自己翻了算導致乘客倒黴?


道德和倫理並不完全相同。我們可以大罵洗稿是不道德的,但我們不會說洗稿是沒有倫理的。而自動駕駛的算法難題,不是道德問題,是倫理問題。


故而,當我們在說,科技向善的時候,到底是在說道德,還是倫理?


而如果是倫理問題,那我們不得不承認這樣一個事:科技倫理,或者說,技術倫理,是一個很複雜的問題。



北美的媒介環境學致力於研究媒介新技術對社會究竟是什麼影響,這個學派從伊尼斯以降,到麥克盧漢,到波斯曼,到梅羅維茨。


有趣的地方是,每一代都在和上一代不敢苟同。伊尼斯是著名的技術決定論者,麥克盧漢就不是那麼決定論,但他總體上是個樂觀主義者,波斯曼自稱是麥克盧漢不乖的學生,三本被譯介為中文的著作足以表明,他是一個悲觀主義者。梅羅維茨又收回來那麼點,他沒他的老師那麼悲觀。他可能是媒介環境學裡對技術看法最中庸的一位學者。


更有一堆學者在這個問題上各執己見。科幻小說家出身的萊文森樂觀得不行;早年頗有些馬克思主義者氣質的艾呂爾就很悲觀以至於他呼喚神性來拯救蒼生;活了94歲的芒福德本來是個樂觀派,但獨子死於戰爭後他迅速站到了悲觀的陣營;凱利跳出來和稀泥:你們說得都對。


想知道這個學派都在吵吵嚷嚷什麼,可以去看一本叫《媒介環境學:思想沿革與多維視野》的書。


這本書是一本論文集,很學術。不看也沒關係,反正你只要知道這點就可以了:關於技術到底會帶來福祉,還是會導向悲劇,學者們從來沒有定論。


技術到底會帶來什麼吵得不可開交,這其實涉及到一個問題:技術倫理本身都特別難有定論。


嚴謹地說,向善,不等於善。更進一步,善是什麼,都莫衷一是。



技術倫理有一些特別搞的地方。


比如大多數人對社交網絡並沒有什麼太惡的看法。但如果一生獲獎無數的芒福德爵士要活到今天,可能要很不以為然。這個從古埃及金字塔裡琢磨出“權力五邊形”的老頭子,會以“王者機器”金字塔不僅僅包括石頭還包括那些死去的奴隸為例,來論證Facebook也好,微信也好,我們都是那個權力五邊形的奴隸。


其實當今世上,都有一派人有類似的看法。他們給我們這些用戶起了個名字,叫“數字勞工”。996?不存在的,我們是007為社交網絡打工,還是免費的。


技術也會改變倫理。


比如說,亂倫這件事其實非常值得細細琢磨。石器時代的原始人對亂倫行為就有些防範,一直到今天我們都無法在道理上或倫理上接受亂倫。但反對這件事的科學依據究竟是什麼?——不要和我說亂倫會生白痴,那個純屬刻板印象。


假定基因技術、試管嬰兒技術發達到我們人類已經完全能駕馭,亂倫這種不合乎道德倫理的行為,就可以再推敲一下。如果沒有什麼不良後果,我們為什麼還要認為這不符合道德不符合倫理?


什麼叫善,什麼叫惡,本身都可以大加討論。



讓我們來聊聊核。


據說美國人在日本投放了原子彈之後,愛因斯坦頗為後悔。用一顆原子彈終結了無數平民的生命以使得戰爭迅速結束從而救下了可能同樣是無數的生命,這個頗有些莽一波氣質的操作,其善惡大概可以爭論半天。


但有一件事怕是基本可以停止爭論了:人類搞了一個惡魔般的原子彈,反倒達成了一種平衡。局部戰爭還有,全球戰爭倒停止了。因為但凡有點理智的人都明白,原子彈不是僅僅消滅對手。頗有些利用恐懼來終結恐懼的意思。


我們現在要擔心的事情只剩下這條:不要讓原子彈落到不正常組織裡沒有理智的人手中。


好,那麼我們善用技術,不搞原子彈,搞核發電。在嚴格管理之下,這項清潔能源,如果不出疏漏,將極大造福人類。


請注意前提:嚴格管理,不出疏漏。


日本福島的事並不久遠,至今對當地經濟打擊沉重。在我看來,核電廠洩露的本身危害,與造成的社會心理恐慌,當量級恐怕後者更甚。恐慌雖未見理性,但類似《思考快與慢》的作者卡尼曼早就證明了:人類,並不完全理性。


我們能做到100%不出疏漏嗎?


安全這檔子事,哪有百分百的保證。


有件事很多人都明白,發明家一旦發明出某種技術或東西之後,這項技術或東西的未來走向,不是發明家自己能把控的。



但向善總是好的。


這表明了一種對技術審慎的態度。審慎總比不審慎好。三思總比不思好。


曾經有過一個觀點:能被髮明出來的東西,都是好的。所以,能夠發明,必須發明。


但人類走到今天,這個觀點,怕是不怎麼能立住腳。


一個高科技公司做起惡來,或者,哪怕不作惡只是不審慎,造成的後果比一個賣賣可樂的公司,嚴重得多。後者還算在可控的範圍,前者風險無限大。


所以科幻片從來只有惡的科學怪人,沒有惡的可樂老闆。


向善有點類似善良比聰明更重要的論點。貝索斯於2010年說出了這樣一句話,多年以後,張小龍在微信公開課引用此句,被更多人知曉。


插一句,亞馬遜被爆出用AI監控員工,這件事我覺得貝索斯也不是不可以辯論:監督員工勉力幹活,談不上惡。你看,什麼叫善什麼叫惡,是可以爭論的。


向善是動機,善是結果。動機未必導向結果,但如果沒有向善的動機,善的結果可能也會無心插柳柳成蔭,但總是小概率事件。



我建議騰訊成立一個圓桌式的技術倫理委員會,來落地“科技向善”這個夢想。


基於騰訊一個高科技公司的定位,高層大多理工背景,這個技術倫理委員會應該延請一些聲望卓著的倫理學家,對關鍵性技術做一個倫理上的審慎評估。


這裡可能有一些老外(如果可能的話),但中國本土學者是必須的。因為,不得不承認,中國這片土地,和老外還是有些不同。


在安個攝像頭基本不用和你打招呼的這裡,和安個攝像頭還要討論半天的美國,AI尋人這個事,怕是做法有些不同罷。



最後多說一句話。


這也是我多年以前的觀點,至今未變:


科技,總體來說,永遠符合既得利益者的利益。


這個意義上說,我算是骨子裡的技術悲觀派。


—— 首發 扯氮集 ——


作者執教於上海交通大學媒體與傳播學院 天奇創投基金管理合夥人

https://weiwenku.net/d/200512050