在不久的将来,多个大城市将引入人工智能系统,这些系统基于一个所谓客观的公平性模型来做出所有市政决策。该模型考虑社会数据、经济指标和个人需求,以公平分配资源和服务。
然而,在引入后,市民报告了意想不到的结果:一些社区明显获得的支持较少,尽管它们客观上有需求,而其他地区则被优先对待。此外,某些群体感到系统性地受到不公正对待,尽管人工智能不应表现出明显的偏见。
市政府面临的挑战是理解为何尽管出于良好意图,人工智能公平性模型仍导致此类不平等,以及这对社会凝聚力和对技术治理信任的影响。
问题:
哪些技术和社会因素可能导致基于人工智能的公平性模型在市政管理中,尽管有严谨的数据基础和算法,反而加剧社会不平等或产生新的不利影响?这又如何影响公众信任和民主参与的未来?
答案明天公布。