参考消息网3月18日报道 俄罗斯《专家》周刊网站3月12日刊登题为《新技术：通往天堂的阶梯还是通往地狱的道路》的文章，作者为俄罗斯联邦安全会议副主席德米特里·梅德韦杰夫，内容编译如下：
人类历史上每次重大技术飞跃都蕴含着浮士德难题，这种突破的本质总是具有两面性。一方面，进步的力量在于它能够征服“无限”；另一方面，正如德国历史哲学家兼评论家奥斯瓦尔德·斯宾格勒所写：“每个高级文明都是一场悲剧；创造物会反抗它的创造者……世界的主人沦为机器的奴隶。无论我们是否知道，无论我们是否愿意，机器都迫使我们所有人朝着它指定的方向前进。”因此，人类进步需要与那股“永远向恶也永远行善的伟大力量”达成交易。生活在特定历史时期的人们为了获得这种不可思议的力量，总是付出彻底改变自己生存基础的代价。
火、车轮、印刷术、蒸汽机——每次人类在完成这些有益适应之前都要经历熔炉淬炼。然而，当前进程在速度和规模上都是史无前例的。轻率的人类未必预料到如此迅猛的变化，老实说，也没有为此做好准备。
突破性创新在带来诸多便利的同时，也带来可能彻底改变人类未来的威胁。每次伟大的技术变革都带来劳动生产率的急剧提升、经济的快速增长和居民生活的显著改善。在21世纪剩余的时间里，情况会是这样吗？我对此深表怀疑，因为我们面临的是文明挑战，应对这些挑战不仅需要经过验证的科学技术解决方案，还需要基本的历史智慧和审慎的伦理态度。
随着高科技的发展，世界正在急剧变化。人工智能、机器人技术、生物技术和数字化已成为日常生活的一部分。人们乐于将生活决策、品味偏好，甚至情绪情感交给数字算法来决定。DrPeering.net网站的数据显示，1998年至2010年，互联网传输1MB数据的成本以年均61%的速度持续降低——从超过1000美元降至几美分。这导致数字技术及相关服务迅速廉价化。与此同时，这种无形“信息日用品”的盈利能力极强。这主要得益于每日提供的海量服务（数以亿计的消息传输）以及无需承担服务研发和生产费用的优势。
历史上已经发生过信息革命。过去最伟大的信息革新是发明印刷术。现代社交网络算法是新一代“印刷术”，但运作目的截然不同。它旨在为自己服务，把一个虚拟世界强加给消费者。在这个世界里，“赞”或“踩”比真相更重要，现实的反映比现实本身更重要，“矩阵世界”比现实世界更原始。然而，现代网络信息社会带来的问题不仅限于对普遍哲学的挑战，下面我将列举讨论最多、也最重要的五重威胁。
1.人工智能
随着常规劳动密集型任务的自动化、数字技术的成本大幅降低以及用人工智能技术替代人力的合理性，许多现在重要的职业将面临淘汰。已有许多发人深省的书籍和专栏文章谈到这一点。无论如何，人工智能的广泛应用显然威胁着数百万人的就业，相应地为失业率的指数级增长和国际分工链的破坏埋下隐患。诺贝尔经济学奖得主罗伯特·席勒强调，自动化和数字经济将导致大规模结构性失业，其影响目前尚无法准确评估。无论如何，正如阿克西奥斯新闻网站指出的那样，在美国，由于人工智能的发展，白领阶层的就业竞争正演变成一场“血腥厮杀”。自大萧条以来，30岁的美国人首次面临比父母同龄时更糟糕的生活境遇。就连交易员和金融分析师这类精英职业也面临消失的风险：神经网络在加密货币组合增值方面的表现毫不逊色于真人投资者。
同样令人不安的是，人工智能可能接管应用关键技术的重大生产流程，以及高层级机构的管理权——控股公司乃至整个经济部门。这种前景已初现端倪，在特定条件下可能引发全球性风险。风险实际上已经存在，这指的是对关键基础设施的黑客攻击。但黑客行为是人的蓄意活动，可以被揭露和制止。而人工智能呢？众所周知，人工智能是无法解释、无法预测和无法控制的。
或许，最危险的是，由于人类思维的天然局限性，我们无法理解人工智能是如何得出某个结论的。
是的，它确实是个好帮手，但我们凭什么相信人工智能得出的结论是可靠的？正是这一点让人类开始预言末日降临，而这很可能就发生在我们面前。试想一下，如果控制发电厂（包括核电站）的神经网络失控了，我们甚至无法查明故障原因。
由此到“邪恶人工智能”模型仅一步之遥——它与其他模型一样有权存在。也就是说，重要系统故障可能由人工智能故意引发。毕竟，达到超级智能水平的人工智能完全不必遵循艾萨克·阿西莫夫著名的机器人三定律，因为它的起源不是人类，而是它自己。这种情景不仅在未来学家描绘的赛博朋克世界里变得越来越现实。
人工智能的另一应用领域——创建数字身份或数字分身，如今已相当普遍，被广泛用于各种目的。基于人工智能的身份识别技术的发展，为数字化人格（digital personalities）的积极应用创造了绝佳机会，它们被大量创建用于实施刑事犯罪甚至恐怖活动。此类非法活动的范围极广——包括非法获取个人数据以访问电子资源中的受保护信息、盗窃资金和非法侵占个人、商业或国家财产。其受益者范围也相当广泛：小违法者、贪婪的大企业、跨国犯罪集团，甚至个别国家。它们都能利用人工智能技术创建数字身份。
2.无人机系统
全球无人机产业的迅猛增长给各类设施带来全新的威胁：城市群、能源、公共和其他关键基础设施，以及国防工业和军事基地。如今，结合特别军事行动的实战经验，这方面已经出现一整套全新力量。特别是，通过完善人工智能技术和大数据分析来优化的控制系统和算法，让一名操作员同时给整个无人机群布置任务不再是问题。现代电信系统（包括卫星通信）的运用使无人机的有效使用范围和传输信息量都得到提升。新型无人机平台、用于部署各类无人机的自动舰船、可兼作中继站和运输工具（可以搭载数以百计乃至千计的轻型无人机）的超重型无人机的研发与推广指日可待。
这一切在战争规则和伦理领域带来了全新局面。在专家描绘的未来短期图景中，无人机将彻底隔开杀戮者与受害者，使暴力行为变成刺激的“射击游戏”。这种“远程战争”制造了危险的心理屏障，降低了武力使用门槛，彻底模糊了道德责任。
随着无人机技术的应用，“战争”给参与者带来的生存风险正在消失。这催生了“干净”和“几乎无流血”冲突的幻觉。
此外，将生死抉择权委托给具备自主作战能力、却尚无意识、没有仁慈与同情心的人工智能算法，带来了一个末世论难题——是否应该赋予机器独立决定人类生死的权力。
无人机普及的未来将带来一系列风险。无论出于何种原因，对空中交通管理系统的针对性干扰都可能导致无人机大规模相撞、坠入人群密集区或被用作撞击工具。这将引发全新类型的灾难——其根源不再是操作失误或天气，而是人为制造的数字弱点。
3.生物技术
我们正站在新的形而上学现实的门槛上，传染性和病毒性疾病的传播、新疫情和流行病的出现，可能不再仅仅是自然现象，而是人类智慧的产物，有时甚至是致命的虚荣心和恶意的产物。专业设备和原材料的可得性日益提高。专家认为，由于生物体改造领域（分子生物学、生物化学、胚胎学、微生物学、细胞学、病毒学）的科学发展日新月异，这些技术正变得越来越普及、高效和易于使用。这一切都可能导致人工改造的RNA（核糖核酸）病毒出现，它们具有很强的传染性和毒性。
许多专家认为，一种特殊蛋白质——朊病毒，可能成为潜在的生物致病因子，导致人类的中枢神经系统出现严重且无法治愈的疾病。合成生物学、基因编辑和病毒基因组组装方法的技术进步，给人类带来前所未有的风险。
我们应该认识到，在这种情况下，与制造生物武器及其落入恐怖组织之手相关的威胁正在成倍增长。
4.来自太空的恶意
随着高科技日益融入日常生活，关键基础设施将越来越依赖于各种部署在太空的可侵害系统。
专家认为，征服近地空间的重要方向包括在轨道部署发电站、数据处理和存储服务器（原型机可能在未来3-5年投入运行），这有助于增强国防和民用卫星群的算力。未来短期内，人类就可能实现月球资源开采，并将人员和货物送到那里。
在航天领域具有重要意义的基础设施，其生产运营链中的所有环节都面临风险：卫星制造、发射、服务及地面保障。这四个领域中的任何物理或网络威胁都可能限制人类进入宇宙空间。同时，军民两用的加密信息基础设施（全球太空宽带通信系统）也在形成。随着关键基础设施向太空转移，相应地也会出现新的薄弱环节。
值得注意的是，这些风险具有累积效应，将导致威胁类型、弱点及潜在后果越来越多样。而且，太空服务领域发展越活跃，其参与者就越多。每个参与者都有可能对其他航天业竞争者乃至整个国家造成损害。制造损害的动机多种多样：从普通的流氓行为到恐怖活动。
5.增材制造技术
高科技促进了增材制造技术的积极推广——一种基于电子模型、通过逐层堆积材料制造实体零件的自动化过程。更不用说正在全球范围内飞速发展的机器人化：完全模块化的机器人已经诞生，它们能与其他机器人连接，形成灵活的系统。我们已经看到机器狗在街上巡逻，人形机器人表演戏剧。用于生产大型复杂零件（包括军工领域）的新一代工业级增材制造设备正在研制中。不久的将来，我们将接触到前沿材料的应用，包括热不稳定塑料、聚合物、陶瓷和多组分纳米材料。
同时，通过未经许可的增材制造技术生产包括各种武器在内的物品，为恐怖主义和犯罪团伙开辟了广阔的活动空间。
在这种情况下，追溯其来源是不可能的。带来此类威胁的主要因素在于，可通过商业途径获取的小型3D打印机得到完善，其性能足以制造各类致命武器并绕过生物识别安防措施。
在谈论过去几十年的卓越技术成果时，我本人喜欢其中的大多数。但全人类的生存岌岌可危，其处境正变得愈发不稳定和令人痛心。不过，萨特说过：“真正的自由始于绝望的彼岸。”（编译/贺颖骏）
发表评论