难以置信,这竟是Google如今的做事方式。
或(huò)许你还没有(yǒu)忘记,有个叫Maven的美国国(guó)防(fáng)部AI武器项目(mù)。
而且就(jiù)是因为Google参与(yǔ)该项(xiàng)目,内部抗议一波接一波(bō),离职进(jìn)谏者不计其数,近4000员工(gōng)联名声讨。
后来(lái),内外压力(lì)之下,2018年6月,Google官方(fāng)宣布停止参与AI武器研发,并(bìng)发布AI原则作为指导(dǎo)。一时化舆论危机为道德风骨。
然而万万没想到,不作(zuò)恶巨头也(yě)有明(míng)修栈道(dào)暗度陈仓那一套(tào)。
一边是高调建牌坊,另(lìng)一边则背地里雇佣众(zhòng)包零工人员继续(xù)进(jìn)行AI武器训练。
这,就是Google刚刚被曝光的新春(chūn)之雷。
众包平台训练武器AI
事情从一家名为Figure Eight(图八)的众(zhòng)包公司说起。
图八公司,做的就是数(shù)据标注一类的(de)工作(zuò)。他们接项目(mù),然后(hòu)安排给平台上的“工人”,并以时(shí)薪1美元(7元)支付报酬。
工人(rén)们任务(wù)也不难(nán),看起来都是一(yī)些(xiē)简短且无(wú)须思考的任务,比如(rú)识别区分所给(gěi)图像中的人(rén)物,是否符合要求——符合就(jiù)框出来,不(bú)符合就下(xià)一张。
但根据美媒The Intercept最新(xīn)截获的邮件显(xiǎn)示,其中(zhōng)就(jiù)有一个专门为Google和国防部完(wán)成的项目。
而且就是(shì)那个“声名在外(wài)”的(de)Maven项目。
所谓Maven项目,简(jiǎn)而言之就是无人机武(wǔ)器。但(dàn)跟战狼中所用的人(rén)控无人机不同,这里的无(wú)人(rén)机有AI加(jiā)持,拥(yōng)有(yǒu)视觉能力,可以区分“敌我”,最后甚至能(néng)自主(zhǔ)决定攻击。
但你也知道,AI实现区分“敌我”之前,需要人类通过大量数据(jù)和案例教(jiāo)会AI谁敌(dí)谁友(yǒu)、分清楚哪些(xiē)是(shì)树木哪些是人——有多少(shǎo)人工,就有多少智能。
这个图八公(gōng)司,接的就是(shì)这(zhè)个生意(yì)。
所以按理来说,Google宣布停止参与Maven项目后,合作方图八的任务应该也就一(yī)并中止了。
但The Intercept截获的邮件显(xiǎn)示,图八(bā)的数(shù)字工人(rén)们还在不断交付工作,只是他们并不知道究竟在完成什么项目、又是为谁工作而已。
图八方面也(yě)确认,Maven项(xiàng)目的任务还(hái)在继续。
所以换而言之,在Google宣布中止Maven项目大半年(nián)后,背地里还有模型训练(liàn)的工作马不停蹄。
不(bú)知道那些以离职抗议的(de)Google员(yuán)工,知道真相后作何感想?
但(dàn)Google官方已经对此(cǐ)表示未置可否。
The Intercept就此向Google求(qiú)证时(shí),发言(yán)人(rén)把问题转交给了图八公司——大概就是想表明(míng)这事儿得问图(tú)八。
不过就(jiù)外泄(xiè)的邮(yóu)件内容(róng)来看,Google从中标Maven项(xiàng)目后不久,就已经跟图八公司展开了合作。
现在想要切割,为时晚矣。
评(píng)论汹(xiōng)涌
事情被爆料后,网友搬(bān)板凳看热闹的(de)阵仗好(hǎo)不热闹(nào)。
无(wú)论是外媒、推特、论(lùn)坛(tán)还是国内的微博,网(wǎng)友都开启了热(rè)议模(mó)式,针对此事的观点评论(lùn)几乎(hū)可以一分为三。
有吃瓜群众对谷(gǔ)歌(gē)“表里不一”的行为(wéi)表示大跌眼镜,把“不作恶”写进(jìn)自己的准则(zé)却又(yòu)一再打(dǎ)破,不少网(wǎng)友表示“让人失望”。
有网友感慨人工智能技术在成熟(shú)前(qián)竟然需要这么大的标注(zhù)工作,先有人工后才有智能。
外媒VentureBeat的记(jì)者John Koetsier认为,整件(jiàn)事(shì)太讽刺了,人们为了(le)训练AI最终能替(tì)代自己干活,竟然在做(zuò)一些不需要动(dòng)脑(nǎo)子的微小工作。
也有微博(bó)网友提供了一(yī)个点子(zǐ),认为(wéi)与(yǔ)其利用零工经济聘请兼职来(lái)标注,不(bú)如直接(jiē)放到游戏里让玩家(jiā)对其训(xùn)练。
最多的(de)讨论,是关(guān)于(yú)谷歌(gē)这次处理(lǐ)问题(tí)的态度以及影响,不少国外网友(yǒu)气愤的同时(shí),又在“瑟瑟发抖”。
社会学(xué)家Casilli推特表示,这是一个(gè)有关(guān)发(fā)言权(quán)的问题。无论是兼职也好、零工也罢还是社(shè)交平(píng)台(tái)的用户,都有(yǒu)权利认识和监督其生产(chǎn)活动。
不少国内微博网友也(yě)认同(tóng)此(cǐ)事,表示(shì)心疼这些连自己(jǐ)在(zài)做什么都不知道(dào)的公认。
网友TeameZazzu开始担忧谷歌的(de)一系列(liè)AI军事项目,他认为正如美国(guó)国家安全局此前国内大规(guī)模监听丑闻那样,反恐工具很快就(jiù)会转移到国内警(jǐng)察部门。在(zài)WAMI(广域运(yùn)动图像(xiàng))案例中,被执法(fǎ)机构使(shǐ)用显(xiǎn)然是违反美国宪法(fǎ)的(de),是对自由、隐私和民主的生存威胁。
王子&庶民
当然,事件曝光后的评论中,另一个问题也(yě)被凸(tū)显。
在图八的整个工作中,由于雇主和项目可(kě)以选择匿名,而且工作任务(wù)被切分得极其细(xì)致。
所以工人们根本不知道自己(jǐ)在为谁工作,也不(bú)知道自己正在做什么。
那(nà)么争议来了:
在AI武(wǔ)器这样的“是非题”中(zhōng),Google的(de)员(yuán)工(gōng)有(yǒu)选择的权(quán)利,但图八的(de)工人们,甚至连知情权都(dōu)没有(yǒu)。
未来这些AI武器大杀四方甚至被(bèi)非(fēi)人(rén)道使用时(shí),他们也不知道自己曾(céng)帮助过这(zhè)些(xiē)武器(qì)的(de)实现。
所以在涉及道德争议任务时,是否(fǒu)也该让众(zhòng)包工人跟(gēn)Google员工享(xiǎng)有同等的知情权?
而且就在最(zuì)近(jìn),参与(yǔ)Maven项目(mù)抗议的Google员工(gōng),还获(huò)得了“2018年度军控人员”的全球(qiú)评(píng)眩(xuàn)
但图八公(gōng)司(sī)的众包工人呢?如(rú)果不是(shì)今日事(shì)件曝光,可能他们永远不知(zhī)道,自己一(yī)直在参与Maven项目。
迫于(yú)生(shēng)计,他们可能也没有(yǒu)选择(zé),但(dàn)是(shì)否就此(cǐ)变相剥(bāo)夺(duó)他们(men)的(de)选择权?
另外,明修牌(pái)坊,暗地(dì)里继续训练军事AI,这真的是Google的选择吗?