close
人工智能企業趨勢

IBM 推出雲端服務 助企業辨識人工智能歧視問題

人工智能的運算用資料都是由開發人員提供,因此近來越來越多人開始留意資料的歧視問題,特別在容貌辨識方面容易令技術在有色人種的辨識上出現問題。IBM 早前有見及此,推出了一個新的雲端服務,協助企業找出這類問題。

這個新服務據稱可以為客戶持續提供數據,監察其人工智能系統如何作出決定。它亦會檢查有沒有存在偏見的跡象,並在出現這些問題的時候建議調節方法,例如算式上的變更或者平衡另一方的數據,以減輕問題的嚴重性。IBM 表示,這個新服務可以支援常用的機器學習框架和人工智能環境,例如 IBM Watson、Tensorflow、SparkML、AWS SageMaker 和 AzureML,而且可以按照個別企業的工作流程而定製。

IBM 的一個研究報告表示,接近三分二的企業對於人工智能的潛在可信性問題產生疑慮,因此對採用人工智能技術仍有擔心。今次的新服務就是針對這方面的需求而來。除了雲端服務外,IBM 亦同時推出 AI Fairness 360 工具,包括一個算式庫、源碼以及在模型中加入歧視偵測的教學。這個工具是開源發佈,讓一眾開發者可以在產品中應用。

對於人工智能的普及,IBM 之前曾經提出人工智能系統應該有一個「資料表」,開發者可自願為其系統簡述人工智能所使用的操作形式和訓練資料,讓人更方便了解產品背後的原理,從而增加信心。

來源:VentureBeat

Tags :aibiasIBM
Antony Shum

The authorAntony Shum