人工智能的運算用資料都是由開發人員提供，因此近來越來越多人開始留意資料的歧視問題，特別在容貌辨識方面容易令技術在有色人種的辨識上出現問題。IBM 早前有見及此，推出了一個新的雲端服務，協助企業找出這類問題。
這個新服務據稱可以為客戶持續提供數據，監察其人工智能系統如何作出決定。它亦會檢查有沒有存在偏見的跡象，並在出現這些問題的時候建議調節方法，例如算式上的變更或者平衡另一方的數據，以減輕問題的嚴重性。IBM 表示，這個新服務可以支援常用的機器學習框架和人工智能環境，例如 IBM Watson、Tensorflow、SparkML、AWS SageMaker 和 AzureML，而且可以按照個別企業的工作流程而定製。
IBM 的一個研究報告表示，接近三分二的企業對於人工智能的潛在可信性問題產生疑慮，因此對採用人工智能技術仍有擔心。今次的新服務就是針對這方面的需求而來。除了雲端服務外，IBM 亦同時推出 AI Fairness 360 工具，包括一個算式庫、源碼以及在模型中加入歧視偵測的教學。這個工具是開源發佈，讓一眾開發者可以在產品中應用。
對於人工智能的普及，IBM 之前曾經提出人工智能系統應該有一個「資料表」，開發者可自願為其系統簡述人工智能所使用的操作形式和訓練資料，讓人更方便了解產品背後的原理，從而增加信心。
來源：VentureBeat
