千龍網北京6月25日訊 現實生活中的社交，有著人們通常會自覺遵守的文明規范，但在網絡上，很多人常常忘記社交禮儀的重要性，不再講究語言的分寸，不認同別人的發言時，就用“腦回路真奇特”、“你是村裡來的沒見過高樓大廈吧”這樣陰陽怪氣的語言攻擊對方。
這些話不違反法律，但當因為文化背景、生活經歷的不同導致的看法不同，通過破壞性的方式表達時，損害了網絡社區文明秩序，降低公共討論的質量和體驗。如今，互聯網企業也已經行動了起來，比如知乎就通過AI技術嘗試處理陰陽怪氣的言論，以創新思路引導文明新風。
“瓦力”，是一種價值觀
根據知乎內容質量團隊技術負責人劉兆來的介紹，“瓦力”是負責知乎社區治理的算法機器人之一，可以實時識別和處理不友善、答非所問和垃圾廣告導流信息。這一次，“瓦力”挑戰的是困擾世界情感分析領域的前沿問題：“陰陽怪氣”內容識別。
所謂陰陽怪氣，是用戶以反諷的方式攻擊他人，影響正常的討論秩序。比如現實社會裡大家正認真討論問題，突然出現一個人諷刺大家多管閑事，氣氛馬上就會尷尬甚至緊張起來。“陰陽怪氣”言論的判定非常依賴個人感受，每個人的情緒閾值不同，且同樣的語料在不同討論語境下也會引發不同情緒，這更為算法識別帶來了極大挑戰。知乎在過去 7 年中所累積的“舉報”等帶有用戶篩查性質的行為語料和豐富的社區管理經驗，使得知乎得以邁出關鍵一步：用社區最大公約數作為判定尺度。
“我們基於對於用戶切實體驗的累積觀察，與算法團隊一起，從情感傾向性、親密關系、文本特征三方面入手，訓練出能夠識別陰陽怪氣的算法模型。目前‘瓦力’對陰陽怪氣評論文本的識別准確率，已非常接近社區最大公約數，比很多人工判斷都更准。”知乎運營總監孫達雲表示。知乎近期會讓用戶自由選擇是否開啟“瓦力”智能過濾，真正讓陰陽怪氣識別技術進入產品化嘗試。
互聯網創造了公共討論的空間，但隨之也帶來了大量網絡暴力，甚至釀成如“北京90后女孩與父母兩次自殺”等人間悲劇。更可怕的是，網絡暴力沒有幸存者，建立良好的網絡討論環境，也是保護每個網民切身利益的舉措。知乎“瓦力”從識別不友善晉級到識別陰陽怪氣，這一升級，對中文乃至世界互聯網的討論環境，將起到一定的促進作用。
在人類無法兼顧的海量信息中，讓 AI 算法變得更聰明，嘗試識別人類語言背后的情感意義值得稱贊。更為重要的，是“瓦力”傳達了知乎的積極導向和價值觀。客觀上看，算法是“中立”的工具，不同的目標和應用可以發揮完全不同的價值，知乎的選擇，是用算法打造一個友善的、大家能好好說話的網絡空間。
文明，是奮斗出來的
產生於上世紀80年代的“進化心理學”認為。人類心理也符合達爾文的進化論，一切本能行為都是為了保証自身的生存、繁衍。然而我們縱觀人類發展史，卻會發現每一次進步都是建立人類在對本性的反抗、修正之上，正是反省自身行為、克制原始沖動的能力，讓人得以脫離叢林生活的野蠻。
有歷史記載的幾千年來，人類早已脫離了險惡的叢林環境。即便我們的心理仍然留著先祖烙印，但在經歷數次工業革命，線上還構建起龐大的數字世界時，我們已經擁有了建設新生態的能力，而不是任由原始基因慣性發展。
互聯網發展到目前階段，也需要將上網禮儀這一議題提上日程。在對公共話題的討論中，尊重他人、友善對待不同觀點，應該是網絡世界的一個基本交規。
互聯網行業正成為國人精神生活的重要場所，同樣也承載社會價值重任。在追求財富的過程中，互聯網企業也應更多考慮平台內容的價值觀內核，以正能量取代負能量，以積極引導取代消極放縱。知乎“瓦力”，給我們帶來的不只是對AI科技的贊嘆，也是啟迪未來的開始和表率。
