第四,决策过程模糊。人工智能的决策过程通常较为复杂,对使用者来说,该决策过程就像黑盒,很难知晓其决策的逻辑和依据。这也使得人们对人工智能做出的决策是否可信产生担忧。 第五,管控。管控能力不足是很多企业在应用人工智能时都会遇到的问题。人工智能发展的过程具备动态和自适应的特征,针对传统静态流程的管控方法可能并不适用。有银行曾经利用人工智能进行小额贷款审批,结果发现其智能算法将部分小额贷款发放至不具备偿付能力的用户手中,给银行带来财务和声誉的损失。全球尚未形成一套适用于人工智能领域的治理框架,相关的治理原则、方法和控制还在进一步研究。 如何应对人工智能带来的风险与挑战 从网络直播到求职招聘,从自动驾驶到智能安防,人类已开始大踏步迈入智能时代。尽管还面临一些挑战,人工智能的大潮已经势不可挡。政府和企业是人工智能领域的主要推动力量,我们认为政府应当主要从制度建设,企业应当主要从治理和流程上来应对当下的风险和挑战。 |