机焦虑

ai和官僚机构(昨日的智能机)

shass

Bernardo Zacka

“来的人谁研究的官僚机构,围绕人工智能的焦虑有一个怪异的熟悉的环。所以也没有兴奋。对于许多20世纪的,官僚机构被认为是智能机,所有的正面和负面的含义的术语进行。 “

斯图尔特darsch

问:如何政治学告诉我们思考的社会影响,效益和AI的风险?
 

的人谁研究官僚主义, 周围人工智能的焦虑有一个怪异的似曾相识。所以也没有兴奋。对于许多20世纪的,官僚机构被认为是智能机,所有的正面和负面的含义的术语进行。

当我们着手研究人工智能(AI)的伦理和政治影响,官僚主义比较是有启发。而艾未未的全范围的地平线上仍然弥漫,官僚主义是我们所知道的魔鬼。至少有两点教训,从我们与它接触的历史中汲取:这是值得研究我们的焦虑 - 他们是否是真实的,而且在这样做,我们应该注意不要使太快注销人类能动性。

在20世纪之交,官僚体现自动化决策的承诺,如AI现在。像机器一样,官僚机构是指根据明确的规则来运作。这使他们能够更准确,更可靠,而且有时比组织的传统形式更有效。

官僚机构进行,而且,在道义上的承诺:从人的判断的随意性潜力释放我们。官僚机构可能会有所偏差,但他们至少无噪音:呈现相同的情况下,两次,其目的是为了达到同样的决定。更重要的是,他们根据可能被明确提出,并因此可能有争议的修订原则运作。他们,在这个意义上,透明。

但是这当然不是故事的全部。一百年以后,官僚主义已经成为侮辱的一个术语。无需人工判断的回火影响,规则的自动性可以是盲目的,潇洒的灵活性任何希望。

官僚主义,而且提出了一个幽灵比人的专制统治更具威胁:没人的专制统治。谁应该一个直接的委屈?该职员?但他们唯一的罪行就是遵守规则。那些谁的规则上来?然而,就像程序员设计复杂的算法,它们站在从应用的角度,他们可能无法预见到他们选择的后果,这样的删除。这个问题是没有这么多,我们不能追究任何人的责任 - 它始终是可能的惩罚 有人。问题是,问责制是从实际的责任分离。

而这还不是全部。如果官僚规则是在广泛的情况下,获得合理的指导下,他们必须变得错综复杂 - 那么复杂,但是,由于使透明度理想的闹剧。作为自主车的设计人员现在正在发现,更复杂的机器,它是很难了解他们的工作,而且更加随心所欲他们的行为可能看起来或许的确  (对于何以知道?)。

现在,当然,昨天和今天的智能机之间的相似只能走这么远。现代的AI系统能够执行的官僚机构出了名的努力做两项工作:他们学习,他们适应。

官僚欠他们有他们被指示按照程序任何情报。他们的智慧是在这个意义上外在,而脆,因为它可以通过在周围环境甚至一个小的变化呈现过时。今天的智能机,而另一方面,可以通过自己的探索如何最好地达到预先设定的目标,并能在不断变化的环境光修正他们的做法。这一点,除了庞大的数据troves的可用性,这就是为什么他们可以超越它们的创造者 - 既惊险又令人担忧的前景。

然而,尽管有这些差异,官僚主义和人工智能之间的比较可以帮助我们为未来的询价看好的方向图。这是如此特别是在人文和社会科学,因为几十年来官僚主义吸收政治学家,社会学家和人类学家的注意,和作家,艺术家和电影制片人的想象。事后的利益,我们可以从这一工作积累体学到什么教训?

第一课,我觉得,是很值得研究我们的焦虑,即使我们找到了前景最让人不安的,如奇异,似乎还很遥远或不可能 - 事实上,即使他们 不能兑现。至于大家关心的对象,官僚获得相当独立的组织如何官僚实际运作的生活。它成为其上年龄的焦虑被投射到屏幕。

同样可以说人工智能。反乌托邦的愿景是自我认识的重要来源:它们帮助我们理解异化,支配,无能为力,和剥削的变脸。这些形式的压迫,需要强调的,可能更多是源于我们的经济和文化的工作,而不是技术。官僚主义和人工智能是我们焦虑的对象,不一定是他们的事业。

第二,官僚机构的研究站,提醒不解雇人社过快。对于所有的恐惧它也引起有关非人性化的规则,官僚永远消除人的判断。没有人的规则一直是别人的至少部分规则。

同样可能对AI是真的。这意味着我们需要调查个人和组织的参与者如何调解新技术的采用,以及它们是如何被反过来又被他们转化。这需要经验的社会科学。从中,我们可以用艾场合的道德和政治困境的深刻理解出现。

每当社会发生深刻变革,展望未来既充满希望和包容性是一个需要道德想象力,同情的培养,道德团结的激活的任务。它是还需要对虚假承诺,它在推进所有的名字的一些利益,打击虚假必需品像技术决定论,这使得它看起来好像我们没有选择,当我们真正做警戒任务。

有一些社区和组织比其他人勇敢面对挑战,这些挑战更为清晰地?究竟是什么占了他们的成功?又是什么成功的,甚至是什么意思?这些问题太 - 不只是是否打开一辆车的权利或在发生碰撞的情况下,左 - 将是在未来几年伦理思考来肥沃的土壤。