【万字长文】人工智能未来的双刃剑

到2035年，数字生活中可能出现的最有害或最具威胁性的变化

大约79%的受访专家表示，他们对即将到来的技术变革更关心而不是兴奋，或者同样关心和兴奋。这些受访者在以下几类中谈到了他们的恐惧：

未来对以人为本的数字工具和系统发展有害

解决这种担忧的专家写道，他们担心数字系统将继续受到经济中的利润激励和政治中的权力激励的驱动。他们说，这可能会导致旨在控制人们的数据收集，而不是赋予他们自由行动，分享想法和抗议伤害和不公正的能力。这些专家担心，道德设计将继续成为事后的想法，数字系统将继续在经过全面测试之前发布。他们认为，所有这些影响可能会加剧不平等并损害民主制度。

未来对人权的伤害

这些专家担心，随着隐私变得更加难以维护，甚至不可能，将会出现新的权利威胁。他们引用了监控的进步，嵌入公民空间的复杂机器人，深度伪造和虚假信息的传播，先进的面部识别系统以及不断扩大的社会和数字鸿沟作为迫在眉睫的威胁。他们预见到犯罪和骚扰将更广泛地蔓延，人类的能动性和安全性将面临新的挑战。人们最担心的是，人们期望日益复杂的人工智能可能导致失业，导致贫困加剧和人类尊严的减少。

未来对人类知识的危害

他们担心最好的知识将在错误和虚假信息的海洋中丢失或忽视，以前致力于向公众提供信息的机构将进一步被摧毁，基本事实将被淹没在娱乐性的分心，秃头的谎言和有针对性的操纵的海洋中。他们担心人们的认知能力会下降。此外，他们认为“现实本身正受到围攻”，因为新兴的数字工具令人信服地创造了欺骗性或替代性现实。他们担心一类“怀疑者”会阻碍进步。

未来对人类健康和福祉的危害

其中一些专家表示，人类对数字系统的拥抱已经引发了高水平的焦虑和抑郁，并预测随着技术进一步嵌入人们的生活和社会安排，情况可能会恶化。一些精神和身体问题可能源于技术煽动的孤独和社会孤立;有些可能来自人们用基于技术的“体验”代替现实生活中的遭遇;有些可能来自失业和相关的社会冲突;有些可能直接来自基于技术的攻击。

未来对人际关系、治理和制度的危害

解决这些问题的专家担心，围绕技术的规范、标准和法规的发展速度不足以改善个人和组织的社会和政治互动。两个首要问题：自主武器和网络战的趋势，以及数字系统失控的前景。他们还表示，随着技术变革步伐的加快，情况可能会恶化。他们预计，人们对彼此的不信任可能会增加，他们对制度的信心可能会恶化。反过来，这可能会加深已经不受欢迎的两极分化、认知失调和公众对重要话语的退出。他们也担心，数字系统将太大、太重要而无法避免，所有用户都将成为俘虏。

到2035年，数字生活中可能出现最好和最有益的变化

大约18%的受访专家表示，他们对即将到来的技术变革更兴奋而不是担忧，42%的人表示他们同样兴奋和担忧。他们分享了与以下主题相关的希望：

以人为中心的数字工具和系统开发将受益

这些专家涵盖了医学、健康、健身和营养领域广泛的可能的数字增强;获取信息和专家建议;正规和非正规环境中的教育;娱乐;交通和能源;和其他空间。他们认为，数字和物理系统将继续整合，为各种对象和组织带来“智能”，并期望个人将拥有个人数字助理，以简化他们的日常生活。

人权的未来利益

这些专家认为，数字工具的塑造方式可以让人们自由地为自己的权利发声，并与他人一起动员起来，争取他们所寻求的变革。他们希望数字工具和系统的持续进步将改善人们对资源的访问，帮助他们更有效地沟通和学习，并使他们能够以帮助他们过上更好、更安全的生活的方式访问数据。他们敦促，随着互联网向世界最遥远的角落传播，必须支持和维护人权。

未来对人类知识的益处

这些受访者希望商业模式创新;地方、国家和全球标准和法规;以及社会规范。他们希望提高数字素养，以吸引注意力和引起公众兴趣的方式重振和提升可信的新闻和信息来源。他们希望设计新的数字工具以及人力和技术系统，以确保事实信息得到适当验证、高度可查找、更新和存档。

未来对人类健康和福祉的益处

这些专家预计，数字进化的许多积极因素将带来一场医疗保健革命，增强人类健康和福祉的各个方面。他们强调，未来的完全健康平等应该平等地关注所有人的需求，同时优先考虑他们的个人代理、安全、心理健康以及隐私和数据权利。

未来对人际关系、治理和机构的好处

充满希望的专家表示，社会有能力采用新的数字标准和法规，以促进亲社会的数字活动并最大限度地减少反社会活动。他们预测，人们将为数字生活制定新的规范，并预见他们在社会和政治互动中将变得更加具有数字素养。他们表示，在最好的情况下，这些变化可能会影响数字生活，以促进人类代理，安全，隐私和数据保护。

专家对 2035 年数字变革中最好和最坏的总体预期，用他们自己的话说

许多受访者非常简洁地概述了他们对到2035年数字变革中最好和最坏的期望。以下是其中一些评论。（受访者在这次拉票中发表的言论反映了他们的个人立场，而不是其雇主的立场。对他们的领导角色的描述有助于确定他们的背景和专业知识的位置。有些回复经过轻微编辑，以提高风格和可读性。

西北大学传播学副教授、批判种族数字研究中心顾问艾马尔·简·克里斯蒂安（Aymar Jean Christian）：

“去中心化是平台分销的一个有前途的趋势。Web 2.0 公司通过创建集中式平台和积累大量社交数据而变得强大起来。网络的下一阶段承诺更多的用户拥有和控制我们的数据，社交互动和文化产品的分布方式。知识产权的权力下放及其分配可以为历来无法利用其思想的社区提供机会。用户和基层组织已经在尝试新的去中心化治理模式，在长期存在的分层公司结构中进行创新。

“然而，通过人工智能实现故事创作和分发的自动化带来了明显的劳工平等问题，因为企业在平台上寻求创意内容和内容审核的成本效益。这些人工智能系统已经接受了艺术家、记者和普通人的无偿或低偿劳动的培训，其中许多是美国公司外包的低薪劳动。这些来源可能不代表全球文化，也不持有平等和正义的理想。它们的自动化给美国和全球文化和政治带来了严重的风险。随着网络的发展，关于股权是否可能，或者风险资本和富人是否会购买所有数字知识产权，仍然存在着很大的问题。企业之间的聚集往往导致市场操纵、劳工不平等和文化代表性，而这些都不能反映不断变化的人口结构和态度。许多新技术发展也对气候产生影响，特别是在能源和其他物质自然资源的使用方面。

Mary Chayko，社会学家，《超级连接》的作者，罗格斯大学传播与信息教授：

“随着通信技术进入2035年，它将使人们能够在更加多样化，多方面，广泛分布的社交网络中相互学习。当我们一起创造和穿越这些网络路径时，我们将能够变得更健康、更快乐、更有知识和更紧密的联系。开发可信、安全、低成本和用户友好的数字系统将激发各种创新和就业机会。如果我们拥有这些类型的网络并充分利用它们，我们将拥有塑造我们想要生活的那种社会的手段和工具。不幸的是，随着我们接近2035年，人类在线思想和经验的商品化将加速。技术不仅被用于收集、挪用和出售我们的数据，还被用于制造和销售模拟人类体验的数据，就像人工智能的应用一样。这有可能降低和削弱作为人类的特殊性，即使它使一些人变得非常富有。随着技术允许以更现实的方式复制人类思想和相似之处，这些实践的范围和真实性肯定会增加。但正是人类设计、开发、释放、解释和使用这些技术工具和系统。我们可以选择以这些系统的人性为中心，并支持那些这样做的人，我们必须这样做。

Sean McGregor，Responsible AI Collaborative的创始人：

“到2035年，技术将为生活中的许多不平等现象开发一个窗口，从而使个人能够倡导更多地获得和权威决策，这些决策目前委托给那些有着难以理解的议程和偏见的人。个人的力量将随着以往人类历史上前所未有的沟通、艺术和教育能力而扩大。然而，如果趋势保持现状，有兴趣在更广泛的公共利益上积累权力和财富的个人、组织和政府将把这些技术应用于越来越压制和榨取的目标。至关重要的是，要做出协调一致、协调和冷静的努力，在全球范围内增强人类对人工智能系统治理的能力。这是为了避免复杂的社会技术系统的最坏可能性所必需的。目前，我们毫无准备，也没有迹象表明开始充分解决问题所需的规模合作努力。

David Clark，互联网名人堂成员，麻省理工学院计算机科学与人工智能实验室高级研究科学家：

“要对未来有一个乐观的看法，你必须想象几个潜在的积极因素会实现，以克服重大问题：

• “目前快速的变化速度放缓，帮助我们迎头赶上。
• “互联网变得更加容易访问和包容，而未获得服务或服务不佳的人数在人口中所占的比例要小得多。
• “在接下来的10年里，社交媒体等关键应用程序的特征成熟和稳定，用户在应对风险和负面影响方面变得更加成熟。
• “提高数字素养有助于所有用户更好地避免互联网体验的最严重危险。
• “新一代社交媒体出现了，他们越来越关注用户分析来销售广告，更少强调无拘无束的病毒式传播，而更多地关注用户驱动的探索和互联。
• “可能发生的最好的事情是，应用程序提供商摆脱基于广告的收入模式，并建立用户实际付费的期望。这将消除困扰当今“免费”互联网体验的许多扭曲激励措施。今天的消费者已经为内容（电影、体育和游戏、游戏内购买等）付费。麻烦的基于广告的财务模式没有必要占主导地位。

Laurie L. Putnam，教育家和传播顾问：

“数字技术在改善健康和医疗保健方面具有巨大潜力。出于必要，数字医疗保健将成为一种常态。远程诊断和监测对于难以旅行的老龄化和农村人口尤其有价值。互联技术将使来自全国各地和世界各地的专业医务人员更容易一起工作。医学研究人员将受益于数字数据、工具和连接的进步，以前所未有的方式进行合作。

“然而，许多数字技术付出的比它们付出的更多。我们正在放弃的东西即使不是不可能，也很难找回。今天的数字空间由现实世界中人们的个人数据填充，受到轻微监管和自由利用。像生成人工智能和加密货币这样的技术正在花费更多的原始能源，而不是人类利益的回报。我们的数字生活正在为金字塔顶端的人们创造利润和权力，而没有仔细考虑他们在下面投下的阴影，这些阴影可能会使我们的共同未来变得黑暗。如果我们想在未来几年看到不同的结果，我们需要重新考虑我们的投资回报率（ROI）计算，并应用更广泛、更长期的“回报”定义。我们开始看到越来越多的公司朝着这个方向前进，由那些不准备为了股东利润而牺牲整个社会的人领导，但这些还不是最强大的力量。权力必须转移，优先事项必须改变。

专家对潜在有害变化的看法

以下是一小部分回应，涉及从现在到2035年可能发生的威胁和伤害相关的主题。

斯坦福大学国际安全与合作中心网络政策和安全高级研究学者Herb Lin：

“我最大的希望是，人类的智慧和行动意愿不会滞后太多，以至于无法有效应对数字生活创新带来的最糟糕的新挑战。最糟糕的结果是，人类将对数字生活应用的效用产生过多的信任和信心，并在他们想要什么和他们需要什么之间变得越来越困惑。其结果将是，拥有比其他人更大的权力的社会参与者将使用新的应用程序来增加这些权力差异，以为自己谋利。数字生活中最有益的变化可能只是，在信息环境的污染和腐败方面，事情不会变得比现在更糟。毫无疑问，像GPT这样的应用程序会变得更好，但人类明智地使用此类应用程序的能力将会滞后。

美国一所主要大学的计算机和数据科学家，其工作涉及人工神经网络：

“如果趋势线继续保持目前的状态，则可能会出现以下潜在的有害结果：

• “我们不小心激励强大的通用人工智能系统寻求资源和影响力，而没有首先在对齐方面取得足够的进展，最终导致人类机构的永久剥夺权力。
• “除此之外，滥用同样强大的通用技术会导致极其有效的政治监视和大幅改善的政治说服力，使富裕的极权主义国家能够结束任何有意义的内部变革压力。
• “软件工程的持续自动化导致大型资本丰富的科技公司在金钱和权力与员工人数的比例上采取更极端的比例，使它们更容易跨境流动，也更难对他们进行有意义的监管。

Erhardt Graeff，奥林工程学院研究员，是设计和使用公民和政治参与技术的专家：

“我担心人类会在很大程度上接受数字技术带来的超个人主义以及社会和道德距离，并认为这就是社会应该如何运作。我担心，如果我们继续将自己个人和制度投资于类似Twitter的社交媒体的虚假效率和虚假民主，我们的社会和政治分歧将会扩大。

Ayden Férdeline，Humanity在行动的Landecker民主研究员：

“今天有些组织从被视为’真理商人’中获利。司法制度的基础思想是，可以通过公正和公平地听取证据和论点来确定真相。从历史上看，我们信任这些行为者及其在核实信息方面的专业知识。当我们过渡到通过源头身份验证和区块链分类账等技术将信任建立到数字媒体文件中时，可能会有人试图使用法规来限制我们如何以加密方式建立数字媒体的真实性和来源。鉴于互联网在经济和社会方面的重要性，以及数字媒体在法律诉讼中越来越多地被用作证据的可能性，更多的在线监管是不可避免的。但是，我们会得到正确的监管吗？我们会以建立信任的方式监管数字媒体，还是会创造复杂、昂贵的身份验证技术，从而增加司法成本？”

Henning Schulzrinne，互联网名人堂成员，IEEE互联网技术委员会联合主席：

“广告收入的集中和缺乏可行的替代收入来源将进一步削弱许多国家当地新闻媒体的覆盖范围和能力，从而降低信息生态系统。这将加剧两极分化，助长政府腐败并减少公民参与。

Robin Raskin，作者、出版商和Virtual Events Group创始人：

“合成人和机器人朋友可能会增加我们的社会孤立感。办公室或学校校园作为聚会场所的消亡将使我们渴望人类的陪伴，并可能导致我们失去最人性化的技能：同理心和同情心。我们成为“人和他的机器”，而不是“人和他的社会”。人工智能的消费化将增加（如果不是取代）大多数白领工作，包括传统的办公室工作、广告和营销、写作和编程。由于工作不再是“一回事”，我们需要找到一些补偿方式来补偿我们对人类的贡献。我们为网络贡献了多少？全民基本收入，因为我们是教人工智能做工作的人？这还有待观察，但人工智能革命将像工业革命一样巨大。

“高等教育将面临前所未有的危机。过高的定价和与现实世界缺乏平等性使大学看起来相当过时。我敢打赌，美国50%的高等教育将被迫关闭。我们将设计其他学位和徽章系统来证明能力。最关键的元宇宙将是万物的数字孪生——例如城市、学校和工厂。这些双胞胎与物联网（IoT）设备相结合，将有可能创建模拟、推理和原型，以便在构建单个事物之前了解如何优化效率。

Jim Fenton，互联网工程任务组的资深领导者，过去35年在Altmode Networks，Neustar和Cisco Systems工作：

“我特别关注与数字内容和工具相关的监控越来越多。不幸的是，政府似乎有一种反激励来立法保护隐私，因为他们通常是进行监视的人，或者他们消费其他人收集的信息。随着公众越来越意识到他们被监视的方式，这可能会影响他们的行为和精神状态。

长期担任全球期货项目研究总监：

“人权将成为矛盾。审查制度、社会信用和全天候监控将在全世界无处不在;全球独裁无处可躲。人类治理将落入少数非民选独裁者手中。由于公众的数字洗脑和不可靠、误导、虚假信息的滚雪球，人类的知识将会减弱，并且将会越来越愚蠢。科学将被劫持，只为独裁者阶级的利益服务。在这种背景下，人类健康和福祉是为少数特权阶层保留的;对于大多数人来说，这是完全没有考虑的。植入的芯片不断跟踪公众的健康，当它们成为社会负担时，他们的生命就被终止了。

专家对潜在有益变化的看法

这些专家对2023年至2035年间数字生活最好和最有益的变化的期望中也出现了几个主要主题。以下是涉及这些主题的一小部分回复。

Ben Shneiderman，广受尊敬的人机交互先驱，《以人为中心的AI》一书的作者：

“以人为本的技术开发方法是由对人类需求的深刻理解驱动的，这导致了带来成功产品和服务的设计思维策略。以人为本的用户界面设计指南、原则和理论将使未来的设计师能够创建令人惊叹的应用程序，促进沟通、改善幸福感、促进业务活动等等。构建赋予用户超能力的工具是用户电子邮件、网络、搜索引擎、数码相机和移动设备的原因。未来的超级大国可以减少虚假信息，提高安全性/隐私性并改善社会联系。这可能是合作的黄金时代，有非凡的全球项目，例如在 42 天内开发 COVID-19 疫苗。如果致力于应对气候变化、恢复环境、减少不平等和支持17个联合国可持续发展目标，未来可能会变得更加光明。公平和普遍地获得技术可以改善许多人的生活，包括残疾用户。挑战将是确保人为控制，同时提高自动化水平。

Akamai Technologies 首席工程师 Rich Salz：

“我们将看到人工智能系统的激增，以帮助医学诊断和研究。这可能涵盖广泛的应用，例如：检测乳腺癌或其他X射线/成像分析的专家系统;蛋白质折叠等，以及新药的发现;更好地分析药物和其他测试;在就诊时进行诊断的初步咨询有限。在许多其他领域也可以看到类似的改进，例如天文数据分析工具。

Deanna Zandt，作家、艺术家和屡获殊荣的技术专家：

“我仍然希望新的平台和技术能够找到绕过我们生活的极权主义资本主义制度的方法，使我们能够在人类的层面上相互联系。我自己对互联网的初恋是发现我并不孤单，在我的感觉或我喜欢的事物中，并在这些事情中找到社区。尽管其中许多协议和平台已被选为盈利服务，但开发人员继续以令人惊讶的方式找到开辟人际关系的绝妙途径。我也希望目前超资本主义技术驱使人们回到更基本的互联网通信形式的趋势将继续下去。电子邮件作为协议已经存在了多久？尽管我们抱怨它的局限性，但它仍然是我们连接的主要方式。

乔纳森·斯特雷（Jonathan Stray），伯克利人类兼容人工智能中心（Berkeley Center for Human-Compatible AI）的资深科学家，该中心研究选择和排名内容的算法：

“我们将看到的发展包括自动驾驶汽车，它将减少拥堵，碳排放和道路事故。自动化药物发现将彻底改变药物的使用。在发展速度或多样性至关重要的地方，如癌症、罕见疾病和抗生素耐药性，这将特别有益。我们将开始看到政治新闻、辩论和决策的平台，这些平台旨在通过人工和自动审核的复杂组合来激发我们最好的一面。人工智能助手将能够就任何主题撰写复杂的、被充分引用的研究简报。从本质上讲，大多数人都可以获得即时的专业文献综述。

Design Interactive首席执行官兼创始人Kay Stanney：

“以人为本的数字工具开发可以深刻影响我们的工作和学习方式。具体而言，通过将数字表型（即，使用来自个人数字设备，特别是智能手机的数据，原位对个体水平的人类表型进行实时、逐刻量化）与数字孪生（即，预期或实际现实世界物理产品、系统或过程的数字表示）相结合，将有可能优化人类和系统的性能和福祉。通过这种共生关系，可以实时调整人与系统之间的交互，以确保系统得到它需要的东西（例如，预测的维护），人类可以得到它需要的东西（例如，引导减压机制），从而在企业中实现真正的转型收益。

哥斯达黎加国立大学规划研究生课程协调员胡安·卡洛斯·莫拉·蒙特罗：

“与数字世界相关的最大好处是，技术将使人们在工作和文化领域获得平等的机会，使他们能够发现其他地方，旅行，学习，分享和享受在现实生活中度过的时间。

Gus Hosein，Privacy International执行董事：

“在未来十多年里，直接的人际关系将继续增长，更多的当地社区建设，而不是那么多的全球、区域或国家划分。人们将有更多的时间和更复杂的理解技术的好处和局限性。虽然电气化的提高将导致数字技术的普及，但人们将更无缝地使用它，而不是“在线”或“离线”。在经历了一个黑暗的过渡时期之后，在目前人权受到保护的地方，对人权的敏感性将会出现，并将在更多地方发现自己受到更大的保护，而不一定是在’人权’的总称下。

Isaac Mao，中国技术专家、数据科学家和企业家：

“人工智能有望通过提供处理信息和改善日常生活的帮助来大大改善人类福祉。从老年人的数字助理到用于内容创建和虚假信息检测的生产力工具，再到人工智能驱动的小工具等健康和卫生创新，人工智能技术将在我们生活的各个方面带来前所未有的进步。这些进步不仅将改善我们的日常生活，还将带来几个世纪以来从未见过的便利和效率的新水平。在人工智能的帮助下，即使是最平凡的任务，如刷牙或剪头发，也几乎不需要努力和关注，极大地改变了我们几个世纪以来的奋斗方式。

Michael Muller，一家全球顶级科技公司的研究员，专注于数据科学和伦理的人文方面以及人工智能应用中的价值观：

“我们将学习人类和人工智能合作的新方式。人类仍将是局势的中心。这并不意味着他们将始终处于控制之中，但他们将始终控制何时以及如何将选定的活动委托给一个或多个AI。

Terri Horton，FuturePath的未来学家：

“数字和沉浸式技术以及人工智能将继续在工作、娱乐和社交参与领域呈指数级地改变人与人之间的联系和知识。到 2035 年，人才招聘、入职、学习和发展、绩效管理和沉浸式远程工作体验向元宇宙的过渡——由 Web3 技术实现——将规范化和优化。正如我们所知，工作将彻底改变。如果以合乎道德、负责任的方式并通过以人为本的视角精心制作和执行，那么通过增加灵活性、创造力和包容性，将工作过渡到元宇宙可以对工人有益。此外，到2035年，生成人工智能（GAI）将完全整合到员工体验中，以增强和指导知识获取，决策，个性化学习，绩效发展，参与和保留。

互联网语言和文化多样性观察站负责人丹尼尔·皮米恩塔（Daniel Pimienta）：

“我希望看到以信息素养为重点的公民教育系统组织的兴起。这应该从早年开始，并贯穿一生。我希望看到在任何数字系统的评估中优先考虑道德部分（包括偏见评估）。我希望看到数字系统的创新商业模式的出现，这些模式不是基于广告收入，我希望我们能找到一种方法来信任信息的真正价值。