大型游戲創(chuàng)作平臺《羅布樂思》已運用機器學(xué)習(xí)AI技術(shù)開展語音聊天審核工作長達(dá)一年之久。鑒于該平臺擁有龐大的兒童用戶群體，公司始終將審核工作視為重中之重。在近日舉行的GDC 2024游戲開發(fā)者大會上，《羅布樂思》公司高級技術(shù)總監(jiān)Kiran Bhat和語音安全負(fù)責(zé)人Hannes Heikinheimo透露，盡管AI審核成效顯著，但在某些情況下，人工審核仍具有不可替代的優(yōu)勢。

Bhat在演講中指出：“實時監(jiān)控語音并非易事，因為這不僅需要識別語音內(nèi)容，還需捕捉說話者的語氣和強度，從而準(zhǔn)確判斷某段話是否帶有惡意。”他進一步解釋道，“上下文信息同樣是判斷話語是否冒犯的關(guān)鍵因素，這使得問題變得更為復(fù)雜。”

為應(yīng)對這些挑戰(zhàn)，公司采用了將違規(guī)內(nèi)容劃分為4個主要類別的策略，并發(fā)現(xiàn)85%的違規(guī)內(nèi)容均屬于這些類別，且“絕大多數(shù)”可通過50個關(guān)鍵詞進行捕捉。Bhat表示：“若能涵蓋這些類別的前50個關(guān)鍵詞，審核工作便已相當(dāng)?shù)轿弧?rdquo;

語音安全負(fù)責(zé)人Heikinheimo則強調(diào)了AI監(jiān)管所取得的令人矚目的成果：經(jīng)過一年的運行，該系統(tǒng)已覆蓋31個國家和地區(qū)，且每段“活躍聊天時間”的違規(guī)舉報數(shù)量減少了一半。他提到，AI的一個顯著優(yōu)勢在于其無情感且不會疲憊，因此在處理“非常明顯的違規(guī)情況”時，機器比人類更為高效和穩(wěn)定。然而，他也承認(rèn)，在理解意圖和進行判斷方面，“人類仍強于機器”。

Heikinheimo解釋道：“在處理那些可能接近判定邊緣的情況，或在數(shù)據(jù)稀缺、機器學(xué)習(xí)系統(tǒng)難以充分訓(xùn)練的罕見情況下，人類審核員的表現(xiàn)仍更為出色。”