人民网>>人民创投

为人类创新能力预警——评温德尔·瓦拉赫《科技失控》

2017年04月07日08:46  来源:经济参考报

  生物工程、基因工程领域的研究,已经催生出一个庞大且前景看好的产业。科学家兴奋地告诉世界,合成生物将大大改善人类健康,而转基因作物抗虫害、抵御极端天气、高产、营养价值丰富等优点,更有望让全球部分地区彻底摆脱饥饿。

  但是,有关生物基因工程的研究也在悄悄逾越“边界”。哈佛大学分子生物学家乔治·切齐有意复活猛犸象等已经灭绝的物种,声称这将有益地球物种的多样性。更加令人不安的是,一些科学家主持的实验室正在秘密开展人兽杂交的尝试,据称是为更好检验新药效果……

  近年来,随着基因工程研究取得重大进展,通过基因筛选、基因增能,“设计”更为优秀的下一代似乎不再是天方夜谭。尽管欧美国家相关宗教和社会组织对此类研究提出了强烈批评,但并没能真正阻止相关科学探索的前行。

  冷冻条件下保存人体,也引发一连串法律、伦理问题。在智能机器人装置的使用正造成更多失业的背景下,用冷冻人体方法获得更长寿命,无疑也将形成复杂的社会影响。生物医学、人工智能、机器人产业的融合,将产生所谓“半机器人”,如同电影中虚构的钢铁侠、金刚狼……“人”事实上同时具备了一般人和机器人的双重特征。

  斯坦福大学神经学家罗伯特·萨博斯基主张,通过生物化学手段治疗抑郁、焦虑、注意力缺陷多动障碍以及其他精神疾病。依照这种理解,人被从智能生物,降格到与其他生物体、机器人无差别的机械化个体,基于此开展的科学研究、实验、治疗(干预)完全忽略了人性本身。

  新科技革命潮流涌动,新技术应用前景令人惊叹,乐观的科学家认为,科学进步终将较为彻底地解放人类,人们将由此过上空前美好的生活。但现实的问题是,无论生物工程、基因工程,还是计算机科学等新兴领域,不同学科本身日渐复杂,而学科之间的交融则加剧了复杂。伦理学家、耶鲁大学生物伦理学跨学科中心主管温德尔·瓦拉赫警告说,新技术研究和应用对于人类社会、人类本身的影响尚未充分显现,“单从科学角度进行安全评估已远远不够”。

  新技术的研究和应用,往往不可避免地带来伦理、法律等层面的争议。尤为值得关注的是,新技术创造出的多重不确定性,经常并不会在开始阶段就得以充分释放,因而风险值无法计算。因此,《科技失控》一书作者指出,新技术研究和应用在引发社会强烈争议的同时,研究主体往往会拒绝对公众开诚布公。这意味着,人们对一些新技术应用的担忧,不是毫无根据的猜想,而是担心在毫无准备的情况下成为新技术试错的牺牲品。

  温德尔·瓦拉赫在《科技失控》一书中,详细探讨了高速技术发展引发的道德和伦理争议,并指出,技术本身可能逐渐成为脱离人类控制的强大力量。他希望科学界、产业界、投资界能够真正将前沿科技研究纳入到监管范畴中,确保新技术研究和应用符合伦理基本原则,真正实现技术服务于人,防止科学技术变成瓦解社会根基的力量。

  新技术带来的负面影响由来已久,19世纪以来尤其是20世纪中期之后逐步变成现实。比如,安眠新药萨力多胺曾经造成欧洲几千名婴儿出生缺陷,而目前正在大量投入使用的纳米材料消费品则存在突出的致癌风险。发生在2010年5月6日的美国股市“闪电暴跌”事件,主因竟是计算机高频交易系统出现故障……这些例子都表明,新技术并存的风险不易预知,“前沿技术的倡导者因追求研究结果的热情掩盖了潜在的风险”。

  在《科技失控》中,温德尔·瓦拉赫详细阐述了多类新技术同期投入使用,对技术、商业管理及社会带来的复合型压力,强调复杂系统往往会因为管理、设计缺陷等因素使问题更易发生。此外,还会出现技术薄弱漏洞,这都不是将风险因素通过复杂建模就能够加以解决的。

  应该说,温德尔·瓦拉赫不是卢德主义者(反技术、反创新者),在他看来,呈现指数级增长的新技术,很多情况下让人的理解和应对难以与之匹配。他的观点是,应当继续支持科技创新及创新成果投入应用,但要加强上游预防,控制存在潜在好处和风险的技术开发以及投入社会使用的方式。很显然,如果将这项建议付诸实践,必然会使一些领域的科技研发放缓,然而却可以起到帮助人类社会尽可能有效规避因过多、未经风险验证的新技术应用所带来的系统性危机。

  温德尔·瓦拉赫在《科技失控》最后三章阐述了加强新技术上游预防的三大操作建议。首先,建立负责任的工程设计文化。让科技、设计担负起对人类社会的责任,最重要的就是,完善相关的伦理和法律准则,在新科技产品、服务的设计过程中确保其安全性,并对失控等状态下的责任做出预设。温德尔·瓦拉赫还指出,科学界、产业界都应当要求复杂系统必须具备从故障中恢复的能力,强制预设应对复杂问题的解决方案。其次,建立灵活有效的监督机制。其中涉及政府监管体系、非政府组织与相关行业组织共同参与的监督体系,还要加大对新闻媒体报道科技创新内容的把握能力。第三,响应互联网时代去中心化运作的潮流要求,培育可以质疑、制衡专家的知情公民。也就是说,在包括基因工程、人工智能等领域的研究中,必须确保创新进展纳入公众监督——事实上,完善公众监督,也有助于祛除人们对不透明的新技术研究和应用的恐惧心理。

扫码关注“人民创投”公众号

(责编:陈键、赖悦)

深度原创

特别策划

    第二届内容科技大赛总决赛 人民战“疫”内容科技大赛 首届人民网内容科技大赛总决赛 人民网内容科技创业创新长三角决赛
二维码