自圍棋人機大戰後，各界對人工智能的關注已有所提升，特別是關於人工智能對就業結構的影響。日前美國政府亦發表報告，憂慮設計不良甚至是帶有歧視的人工智能程式會影響程式產生的決策，最終影響教育、就業的情況。
美國政府日前發表報告，分析了設計不良的人工智能會怎樣影響民眾各個方面。報告稱，如果演算法設計不良，便不能客觀地處理大數據，演算法不能很好地選擇所需資料、誤用錯誤或不完整的資料，以及在選擇時產生偏差。
演算法設計不良將產生歧視
報造亦就設計不良的人工智能對教肯、就業、借貸等依賴自動化決定的範疇造成的影響作出分析。以就業為例，報告指出在傳統的招聘過程中，招聘人員或會滲入「眼緣」等主觀因素，使他們不能客觀地選出具有相乎能力的應徵者，但利用大數據機制的話，就可透過數據分析出與成功有聯繫的經驗和技巧，然後基於這些要素客觀地選出具有相同特質的應徵者。
然而假如機制設計不良或會造成歧視。報告舉例，假如有人因為經濟下滑而造成長時間失業，可能會較他人難以重新進入勞動市場，因為演算法或會考慮他們「上一份工作的時間」，並為僱主計算出較負面的分數，但這因素本身與工作能力無關。
Source : Computer World