商湯科技“人工智能倫理治理體系”、“算法測評工具”榮獲AIIA“可信AI實踐優(yōu)秀案例獎”

智研君：

隨著人工智能技術高速發(fā)展，推動可信AI治理成為大勢所趨。作為業(yè)內(nèi)領先企業(yè)，商湯科技積極響應業(yè)界號召，為可信AI治理實踐貢獻落地方案。

8月16日，“2022可信AI峰會”在線上成功舉辦。峰會期間，商湯科技“人工智能倫理治理體系” 、“算法測評工具”榮獲人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）“可信人工智能實踐優(yōu)秀案例” 獎。此次案例的獲獎是對商湯科技積極推動AI治理落地實踐的有力認可。商湯將持續(xù)發(fā)展負責任且可評估的人工智能，助力經(jīng)濟社會數(shù)字化轉(zhuǎn)型。

以下是獲獎案例的簡介：

“人工智能倫理治理體系”

隨著AI產(chǎn)業(yè)的迅速發(fā)展，AI倫理治理已成為海內(nèi)外重點關注領域。作為業(yè)界領先企業(yè)，商湯科技主動承擔社會責任，積極推進AI倫理治理工作，通過加強人工智能倫理治理體系建設，推動商湯的健康可持續(xù)發(fā)展。

商湯科技在全球首次明確提出“平衡發(fā)展”的AI倫理觀，倡導“可持續(xù)發(fā)展、以人為本、技術可控”的倫理原則，并基于上述原則，在組建AI倫理與治理委員會、建立人工智能倫理與治理風險控制機制、制定AI倫理標準等方面開展重點工作。

通過兩年多的組織建設、機制建設、理念宣導、員工培訓，商湯已初步建立起覆蓋項目審批、產(chǎn)品及服務的發(fā)布，到持續(xù)運營監(jiān)控，及其后的產(chǎn)品及解決方案迭代的整個生命周期的人工智能倫理審查程序。積極參與可信AI發(fā)展的實踐落地，成為商湯堅持“知行合一”，推動企業(yè)愿景的重要支撐與舉措。

“算法測評工具”

由于“算法黑箱”的客觀存在，導致算法的不可控、算法歧視等問題存在，也導致公眾對AI及算法信任的降低。商湯主動承擔算法開發(fā)者的主體責任，基于真實場景下的數(shù)據(jù)集的算法驗證與評測，實現(xiàn) AI 技術的真正可信與可控。

根據(jù)人工智能治理需求，商湯開發(fā)了“算法測評工具”：一是通過對主要場景和長尾場景的算法測評的全覆蓋，實現(xiàn)了所有商業(yè)化算法的可信與可控。二是設計多元化的測評項目和豐富的指標體系。三是通過足夠充分的數(shù)據(jù)集以及全方面的評測方案對算法進行充分的評測。四是將目前所使用的主算法評測的方式與實踐提煉出來，打造了一系列行業(yè)標準。

從技術側(cè)看，商湯通過算法測評工作，保障了算法可用和其性能穩(wěn)定。從倫理和治理側(cè)看，算法測評工具確保算法安全，有效規(guī)避算法風險，體現(xiàn)了商湯“技術可控”的倫理治理原則，同時彰顯了商湯的社會責任感和企業(yè)使命。

作者/

李玥璐 商湯智能產(chǎn)業(yè)研究院助理研究員

編輯/

張學睿 商湯智能產(chǎn)業(yè)研究院助理研究員