人工智能“革命”的“近忧”和“远虑”——一种伦理学和存在论的分析

人类的技术发展正在取得多种革命性的突破,其中一些技术在给人类带来巨大利益的同时也蕴含巨大风险。本文分析了人工智能在不久的将来可能导致的严重而尚不致命的危险,以及在较远的将来可能导致的致命危险;同时还分析了人工智能的安全条件,提出需要为超级人工智能设置确保自毁的程序以保证人类的存在地位。