科技日報記者 張夢然

據(jù)最新一期《自然》發(fā)表的研究，科學(xué)家建立了超過一萬張人類圖像的數(shù)據(jù)庫，以評估并糾正人工智能（AI）模型在視覺領(lǐng)域存在的偏見。這一“公平的以人類為中心的圖像基準”（FHIBE）由索尼AI開發(fā)，采用符合倫理手段獲取、基于用戶同意的數(shù)據(jù)集，可精確評估以人為中心的計算機視覺任務(wù)，從而識別、糾正偏見和刻板印象。團隊認為，這是邁向更可信AI的重要一步。

計算機視覺廣泛應(yīng)用于自動駕駛車輛、面部識別等技術(shù)領(lǐng)域。許多計算機視覺使用的AI模型，其訓(xùn)練數(shù)據(jù)存在缺陷，可能未經(jīng)同意收集，經(jīng)常來自網(wǎng)絡(luò)大規(guī)模圖像抓取。人們也發(fā)現(xiàn)，AI模型可能會反映出延續(xù)性別歧視、種族歧視或其他刻板印象的偏見。

此次，研究團隊構(gòu)建了一個圖像數(shù)據(jù)集，在同意機制、多樣性和隱私等多方面采取了最佳實踐。FHIBE包含81個國家和地區(qū)中1981名個體的10318張圖像。該數(shù)據(jù)庫包括了人口統(tǒng)計和生理特征的全面標注，包括年齡、代詞類別、祖先血統(tǒng)、發(fā)色與膚色等。參與者獲得了關(guān)于項目和潛在風(fēng)險的詳細信息，幫助他們做出知情同意，過程符合全面數(shù)據(jù)保護法規(guī)。這些特征使該數(shù)據(jù)庫成為評估AI偏見的可靠資源。

團隊將FHIBE和27個現(xiàn)有以人類為中心的計算機視覺應(yīng)用數(shù)據(jù)集做了比較，發(fā)現(xiàn)FHIBE數(shù)據(jù)集在多樣性與AI評估的可靠同意方面標準更高。它還有效減少了偏見，包含的參與者自我申報標注信息超過其他數(shù)據(jù)集，還包括了相當比例通常代表性不足的人群。該數(shù)據(jù)集可用于評估現(xiàn)有的AI模型在計算機視覺任務(wù)中的表現(xiàn)，能揭示更多此前無法了解的偏見。

不過，團隊也承認，目前創(chuàng)建數(shù)據(jù)集的過程充滿挑戰(zhàn)且成本十分高昂。

總編輯圈點

本報近期推出了多篇關(guān)于AI易出現(xiàn)偏差與其尚不可靠的相關(guān)報道。本文的這項研究，則是一次對AI倫理建設(shè)具有標桿意義的實踐。它最核心的價值在于，將“公平”這一抽象原則，轉(zhuǎn)化為一套可操作、可驗證的技術(shù)標準與工作流程。AI的偏見已經(jīng)是行業(yè)頑疾，但現(xiàn)在可能有了一把標準量尺，使得量化評估與比較不同模型的公平性成為可能，這將直接推動算法的研發(fā)與優(yōu)化。盡管其高昂成本提示了推廣的難度，但這一探索本身，正是推動AI從單純追求性能強大，轉(zhuǎn)向值得人類托付之伙伴的關(guān)鍵點。