“通用人工（gōng）智能可能无法被（bèi）治理，因为传统的责任分配和惩罚（fá）执行方法并（bìng）不（bú）适用。”

近日，美国路易斯维尔大学教（jiāo）授（shòu）罗曼·扬波（bō）尔斯基（jī）（Roman Yampolskiy）就人工智能治理问题接受了（le）澎（péng）湃新（xīn）闻（www.thepaper.cn）记者专访（fǎng）。

他（tā）认为，在某些重要方面，我们无（wú）法（fǎ）治理比人类更聪明的人工智能（néng）。“一个能力（lì）强大（dà）、富有创（chuàng）造（zào）力（lì）且不受控制的通用人工智能最（zuì）终可能会隐式甚至明确地控制管理（lǐ）此类智能（néng）软件的一些机构和个人。”

罗（luó）曼·扬波尔斯基是（shì）美（měi）国路易斯维尔（ěr）大学网络安全实验（yàn）室的创始人和主（zhǔ）任，著有《人（rén）工超级智能：未来的方法（fǎ）》等书（shū）籍。他（tā）的主要研（yán）究兴趣有（yǒu）人（rén）工智能安全（quán）、模式识（shí）别、生物行为识别等（děng）。扬波尔斯（sī）基曾（céng）受邀出席（xí）2020年首届清华大（dà）学（xué）人工智能合（hé）作与（yǔ）治理国际论（lùn）坛。

通往通（tōng）用人工智（zhì）能的尝试

通（tōng）用人工智能（ Artificial general intelligence，简称AGI），有时（shí）也被称作强（qiáng）人工（gōng）智能，它所（suǒ）描（miáo）述（shù）的机器智能可以理解或学习人类所能完成（chéng）的任（rèn）何智力任务（wù）。

多（duō）智能体系（xì）统（tǒng）教父、牛津大学计算机科（kē）学系主任Michael Wooldridge在接受（shòu）澎湃新闻（www.thepaper.cn）采访时表示（shì），如果（guǒ）我们能构建具有（yǒu）人（rén）类（lèi）全部（bù）能力和智力的程序（xù），那我们就将实现通（tōng）用（yòng）人（rén）工（gōng）智能。但当前，“我们连（lián）通用人工智能（néng）的皮毛都还（hái）没有碰到”。

关（guān）于人（rén）工通用智能能否实现、何时实现的问题，业内有不同的（de）观点。部分人工智能学者认为，人工通用智能的概念并不严肃（sù），在实践中基本不可能实（shí）现。另一些（xiē）人则十分看好（hǎo）人工（gōng）通（tōng）用（yòng）智能的（de）发展，认为它有可能塑造人（rén）类（lèi）的发展轨迹（jì）。

例（lì）如，图灵（líng）奖得主拉吉·雷迪（dí）（Raj Reddy）认为，研究通用用途的（de）人工（gōng）智能毫无用处。“用AI能（néng）开发（fā）出的东西是（shì）无穷无尽的，但（dàn）研究人（rén）员应（yīng）专注（zhù）研究如何用AI增强（qiáng）人（rén）的能（néng）力（lì），而不只是增（zēng）强AI的能力”。 清华大（dà）学类（lèi）脑（nǎo）计算中心主（zhǔ）任施（shī）路平则表示，从未来发展的角度看，人工通用智能（néng）是（shì）一个必然的趋（qū）势。

尽管学界对是否应发展（zhǎn）通用人工（gōng）智（zhì）能存在分歧，科研公（gōng）司和高校已经开（kāi）始相（xiàng）关尝试，通用（yòng）人工智（zhì）能的伦理问（wèn）题也日渐显现。

2019年（nián）7月，微软（ruǎn）宣布（bù）向非营利性人工（gōng）智能研究公（gōng）司（sī）OpenAI投（tóu）资10亿美元研（yán）发人工通用智能。2019年8月，清华大学在（zài）学（xué）术期刊《自（zì）然》发（fā）表《面向（xiàng）人工通（tōng）用智能的（de）异构（gòu）天机芯片架构》研究。2021年1月，谷歌（gē）和（hé）微软相继在一份权（quán）威自（zì）然语言理解榜单（dān）中表现超越人类，微软宣称这“标志着迈向通（tōng）用人（rén）工（gōng）智能（néng）的重要里程碑。”

在采访中（zhōng），扬波尔斯基介绍，为了使未来的人工智（zhì）能（néng）造福于全（quán）人类，针（zhēn）对人工智能的治（zhì）理计划试图通过建立监（jiān）管框架和行（háng）业标准等方式，使（shǐ）人工智能（néng）可以（yǐ）被各国政府、国际组织和跨（kuà）国公司控制。

但（dàn）他指出，直（zhí）接治理人工智能（néng）是没有意（yì）义的（de），“‘人工智能治理’这个术（shù）语（yǔ）暗示的是，通过规（guī）定允许开发什么样产品和服务以及（jí）如何开发，来管理人工智（zhì）能研究员和创造者”。

他认（rèn）为，无论（lùn）对从事（shì）人工智能研究的科学家和工程师（shī）实施何（hé）种管理，都取决于（yú）创建人工通用智能（AGI）的难度。

“如果创造（zào）通（tōng）用人工智能所必需的计算资源和数据收集工作，在资金和（hé）人力资本方面与美国的曼哈顿计划（美国研制原子弹的计划）相（xiàng）当，那么各国（guó）政府就有许多‘胡萝卜加大棒（bàng）’，可以用来指导研究（jiū）人员，并按照自己的规范塑造未来的人工智能。”

但另（lìng）一（yī）种（zhǒng）情况下（xià），他分析道，如果有更有（yǒu）效的方法来创造第一（yī）个（gè）通用人工智能，那么政府的监管尝（cháng）试（shì）可能是徒劳的。“例（lì）如，一个青少（shǎo）年在车库里（lǐ）用一台价（jià）值仅1000美元（yuán）的笔记本电脑创（chuàng）造（zào）出第（dì）一个通用（yòng）人工智（zhì）能。虽然（rán）可能性很小，但这种情况也需（xū）要考（kǎo）虑。”

总而言之，“历史上（shàng），很多对软件（jiàn）治（zhì）理的尝试，例如垃（lā）圾邮件、计算机病毒和深度伪造（zào）技（jì）术（Deepfake）等，都只取得了非（fēi）常有限的成功。而作为一个（gè）独立代理（lǐ），通用（yòng）人工智能可能无法（fǎ）被治（zhì）理，因为传统的责任分配和（hé）惩（chéng）罚（fá）执行方法并不适用。”

扬波（bō）尔斯基认为，即（jí）使（shǐ）遇到第一种（zhǒng）情况，即创造通用人工智能（néng）需要密集的资源，我们仍然对人工智（zhì）能的（de）可（kě）预测性、可（kě）解释性和可控制性存（cún）在一些既定（dìng）的技（jì）术限制。“至少需要这三种（zhǒng）能力才能够部分实现（xiàn）对人工智（zhì）能的成功监管，这也（yě）就（jiù）意味着，在某些重要方面（miàn），我们无法治理比人类更聪明的人工智能。”