构建人与AI的和谐生态——由萝卜快跑引发的思考

随着新一代人工智能技术的发展和大模型产品的集中涌现,科学技术的伦理风险愈发凸显,但企业在科技伦理治理方面的准备还不充分。

责任编辑:侯明辉

百度旗下自动驾驶服务平台“萝卜快跑”已经在11个城市开放载人测试运营服务,并且在北京、武汉、重庆、深圳、上海开展全无人自动驾驶出行服务测试。随着无人驾驶技术的快速发展和不断成熟,公众对无人驾驶技术的接受度和需求也在提升,无人驾驶市场规模持续扩大。

图:2019—2024年中国无人驾驶市场规模预测趋势图 数据来源:中商产业研究院

2019年中国无人驾驶市场的规模约为1226亿元,2021年市场规模已超过2358亿元,显示出行业发展的强劲动力。根据预测,到2024年,中国无人驾驶市场的规模将达到3832亿元,这一数字几乎是2019年的三倍,表明无人驾驶具有广阔的市场前景。

“做无人车的初衷,不是为了抢出租车网约车司机的生意,而是为了更好地服务老百姓,提供一种新的出行方式。”百度副总裁王云鹏曾经如是说。然而,当萝卜快跑在武汉落地,引发“抢司机饭碗”的争议时,这种美好的想象正经历考验。

萝卜快跑引发了哪些问题?

无人驾驶技术引发的就业冲突是舆论关注的焦点。数据显示,2024年一季度,萝卜快跑供应的自动驾驶订单约82.6万单,同比增长25%。截至2024年7月,萝卜快跑的总订单量已经超过600万单。

自动驾驶订单数量的增加,无疑会对既有的网约车和出租车的市场空间形成挤压。与传统人工驾驶相比,自动驾驶有更好的乘车体验,如不拒载、不绕路、不会有不良情绪、价格便宜等,显著的技术替代效应预示着广阔的商业前景,其对劳动力市场格局的重塑是大势所趋。

乘客隐私信息安全是舆论关注的突出问题。自动驾驶车辆在行驶过程中需要收集大量数据。萝卜快跑客服称,萝卜快跑在部分车辆中安装摄像头监控系统,主要是为了满足测试监管以及测试过程中的安全性需求。这些摄像头可以实时监控车内情况,并记录视频,以应对潜在的安全问题和纠纷。然而,这种监控手段触及了乘客对于个人隐私的敏感神经。

乘客担心摄像头会记录他们的言行举止,甚至可能收集到一些敏感信息,如面部特征、对话内容等。这些信息如果被不当使用或泄露,将给乘客的个人隐私带来影响,特别是这些数据若被共享给第三方,如商业分析、广告推送等,将更为棘手。

公众对自动驾驶技术的成熟度仍然存疑。自动驾驶技术在实际应用中存在发生事故的可能,如2023年通用汽车旗下的Cruise自动驾驶出租车发生撞到行人并拖行的事件,让公众对无人驾驶技术的安全性产生质疑。

无人驾驶汽车的技术成熟度主要表现在应对复杂路况和处理紧急情况两个方面。例如,在面对占道施工、逆行目标、低速小目标等路况,无人驾驶汽车是否能够做出正确的判断和应对,这是技术成熟度的重要体现。另外,当遇到车辆故障、交通事故等紧急情况时,无人驾驶汽车是否能够及时、准确地做出反应,确保乘客和行人的安全,也是公众担忧的问题。

为什么会出现这种现象?

首先,企业对科技伦理议题的关注不够。一直以来企业将科技创新的重点都放在技术革新和商业应用方面,“技术中立”也曾被很多企业奉为圭臬,技术应用的伦理问题被忽视。随着新一代人工智能技术的发展和大模型产品的集中涌现,科学技术的伦理风险愈发凸显,但企业在科技伦理治理方面的准备尚不充分,比如普遍缺乏对科技伦理问题的研究,对相关技术可能引发的伦理风险认知不足,大部分企业尚未建立伦理审查机制,仍在探索将伦理风险防控融入研发各个环节的技术实践。

其次,股东至上理念导致企业对其他利益相关者的诉求关注不够。股东至上理论作为公司治理的经典理念,其核心在于将股东利益视为企业决策的终极导向,认为公司存在的根本目的在于实现股东财富的最大化。

当企业将股东至上理论应用于萝卜快跑这类重资产、高投入、长周期且风险密集的无人驾驶出行平台时,其潜在的影响与局限便显得尤为突出。重资产投资模式意味着巨大的初始资金需求和长期的成本回收过程,加之无人驾驶技术的前沿性与不确定性,使得企业在追求技术领先与商业利益的同时,面临巨大的财务压力与运营风险。在此情境下,企业往往倾向于将资源集中于核心竞争力的构建与维护,以确保在激烈的市场竞争中站稳脚跟。这种对短期利益与竞争优势的过度追求,可能导致企业对其他利益相关者的诉求关注不足,忽视与出租车司机等利益相关者的有效沟通,进而可能引发社会不满、信任危机乃至法律纠纷。

再者,无人驾驶技术尚未完全成熟。从技术复杂性的持续深化来看,无人驾驶技术作为现代科技的集大成者,其技术体系之复杂,涉及领域之广泛,堪称前所未有。它深度融合了人工智能的先进算法、高精度的计算机视觉处理、高度敏感的传感器阵列,以及大规模的数据处理与实时分析能力。萝卜快跑虽已展现出在特定环境下的自动驾驶能力,但面对日益复杂的交通场景与不断演变的技术需求,其技术体系仍需经历持续的迭代与优化。

从多维度环境适应性的严苛要求来看,无人驾驶技术的广泛应用,离不开其对多种复杂环境的高度适应性。这不仅要求技术能够在不同的城市、道路类型、气候条件以及交通流量下稳定运行,还需考虑到不同地域的文化差异、交通规则差异以及交通参与者行为的多样性。对于萝卜快跑而言,其环境适应性的挑战尤为突出。这要求研发团队在技术创新的同时,注重跨地域、跨文化的调研与测试,以确保无人驾驶技术能够在更广泛的范围内实现安全、可靠的应用。

如何解决现存问题?

第一,创造新岗位。新技术不仅有替代效应,也有补偿作用。以无人驾驶为代表的人工智能企业在研发新技术的同时,应重视对就业市场的补偿,积极创造新岗位,例如数据标注师、安全员等,缓解新技术带来的就业冲击。与此同时,应主动开展市场沟通,科普新技术,向社会各界披露企业的补偿实践。

第二,构建多方合作的生态。目前自动驾驶应用在物流运输、快递送餐、城市清洁等领域,势必会对货车司机、快递员、环卫工人等造成影响。企业应主动探索自动驾驶平台与这些相关方之间的合作模式,如共同接单、共享收益等,通过构建合作共赢的生态,缓解利益冲突。

第三,定期开展技术成熟度公开测试。为增进公众对无人驾驶技术的理解与信任,企业应定期开展公开透明的技术成熟度测试。此类测试不仅应邀请业界权威第三方或专家团队参与,以确保测试的权威性与公正性,还应通过社交媒体、官方平台等多元化渠道进行传播,让公众直观感受自动驾驶技术的实际应用成效。测试后应详尽公布测试数据、评价指标、问题及解决方案等关键信息,尽可能缓解公众疑虑,增强社会信任。

(作者单位:西北工业大学管理学院)

校对:赵立宇

欢迎分享、点赞与留言。本作品的版权为南方周末或相关著作权人所有,任何第三方未经授权,不得转载,否则即为侵权。

{{ isview_popup.firstLine }}{{ isview_popup.highlight }}

{{ isview_popup.secondLine }}

{{ isview_popup.buttonText }}