斯坦福和平创新实验室Margarita Quihuis:用价值重新定义技术产品

  • 时间:
  • 浏览:0

科技向善大咖说 · 认知升级

2019年9月,腾讯研究院开使陆续深入访谈全球业界与学界大咖,围绕「何为科技向善」、「咋样理解科技向善」的问题报告 报告 ,广而寻求见解与共识。包括最著名的网络社会学家卡斯特教授、斯坦福和平科技实验室创始人玛格丽塔教授、创业者/硅谷投资人邵亦波先生、搜狗创始人兼CEO王小川先生、北京大学国家发展研究院BiMBA商学院院长陈春花女士、北大社会学系邱泽奇教授、清华传播学系金兼斌教授、北师大多样化科学系张江教授等等,并非同的背景与专业出发,分享了该人 的思考。

与此同去,亲戚亲戚当我们还将陆续发布的【科技向善案例集·产品行动】;【科技向善·大哉问】等等。

「科技向善」这场大型社会实验的下半场才以前 开使,否则很难终点,否则每该人 的行为回会影响它的实验结果。每有一三个 数字公民,都无法置身事外。

若你有更多关于科技向善的好想法,请联系亲戚亲戚当我们。

联系邮箱:

tencentresearch@tencent.com

【科技向善大咖说·第一期】

Margarita Quihuis

斯坦福大学和平创新实验室(Peace Innovation Lab)主任,斯坦福大学说服技术(Persuasive technology)实验室的研究团队成员,负责研究创新,游戏设计思维等。同去,Margarita也是一位行为设计师和社会企业家,专注创新、技术孵化和企业家精神。

斯坦福和平创新实验室致力于研究、制定标准帮助技术产品变得更加公平、多元、友好,你你你这个实践和科技向善的理念一脉相承,研究院与斯坦福和平创新实验室对话,探索科技咋样向善的以前 性。

对话全文如下:

腾讯研究院:你咋样评价过去几十年中,互联网产品和服务带来的改变?它带来最显著的成就和最大的问题报告 报告 是哪些地方?

Margarita Quihuis:对于当下的每该人 来说,新兴的技术产品你还须要类拥有更多以前 性。比如,90年代初的互联网有极强的人道主义目的,它将亲戚亲戚当我们团结在同去、让家庭重聚,真诚地相互连接,这在历史上是绝无仅有的。

然而,让亲戚亲戚当我们很难想到的是技术的武器化。在90年代初期全都人认为,亲戚亲戚当我们会像对待很难 人一样对待技术。然而在现实里的人与技术互动中,技术嘴笨 无法像人一样去影响很难 人,它会直接说服亲戚亲戚当我们去做你你你这个事情,在后续的测试中技术的你你你这个说服力也被证实。这说明技术有潜在的威胁,同去也很难过多人关注并说亲戚亲戚当我们咋样去补救技术的威胁。在你你你这个环境中,全都人在不知不觉就利用技术做了坏的事情。以前 将技术反衬成影响说服力,会发现世界上优秀的领袖鼓舞说服别人成为更好的人,同去全部回会邪教组织利用说服力驱使亲戚亲戚当我们做糟糕的事情。哪些地方地方说服的技能和策略是相同的,全都看它被用于好的结果还是坏的结果。

显而易见的是,技术以前 被用于做坏的事情,否则亲戚亲戚当我们很难意识到问题报告 报告 的严重性,更别说评估它的风险,全都亲戚亲戚当我们也无法从社会、经济、政治的层面采取任何依据。这也是为哪些地方斯坦福大学希望关注技术带来的问题报告 报告 ,去研究技术伦理学、产品设计伦理等。亲戚亲戚当我们希望创造有一三个 基于价值而非基于效用的世界,只追求利润、投入回报比、商业战略会让企业损失全都,比如损失信誉、尊重,你你你这个损失是用金钱难以弥补的。

腾讯研究院:作为有一三个 行为设计师(behavior designer),您咋样将价值伦理运用到产品实践中?

Margarita Quihuis:亲戚亲戚当我们有一套数据标准,还须要用这套标准去测量产品,让测试结果来说明产品效果是全部回会人看期待看到的。不同的产品经理看待世界的依据不同,亲戚当我们做出来的产品对用户影响的差异也会很大。比如,Twitter是由四位男性设计的,全都男性对安全的敏感度远远很难一个女人强,身为一个女人的亲戚亲戚当我们以前 置身于一段糟糕的关系中,亲戚亲戚当我们我说会被困住被骚扰,甚至有遭遇暴力的风险,以前 你你你这个风险处在在Twitter平台上,以前 很难被男性工程师感知,但试想一下,以前 发现你你你这个风险的是一个女人工程师,她们我说会提出你你你这个依据在阻止哪些地方地方潜在暴力的处在。

亲戚亲戚当我们下一步要做的是将亲戚亲戚当我们的标准产品化,是一套还须要记录的嵌入代码,还须要检测到用户与非 正在遭受骚扰或是处在异常,否则请工程师立即修正它。它最好的你你你这个在于,以前 事情正在往不好的方向发展,亲戚亲戚当我们能早早发现苗头加以控制,而全部回会像150年前,香烟以前 对亲戚亲戚当我们身体产生负面影响,而直到多年后癌症出现才意识到你你你这个问题报告 报告 。

面对人工智能,亲戚亲戚当我们也建立了Human-Centered Artificial Intelligence (HAI), 去探究当下的算法的公正性咋样。以前 算法是人在设计和控制,但亲戚当我们甚至以前 并谁能谁能告诉我机器和数据集一种是暗含偏见的,计算机进一步学习有偏见的数据,产生有偏见的结果。这就跟教育孩子一样,亲戚亲戚当我们不让故意教小孩子你你你这个不好的东西,都希望亲戚当我们礼貌、正直。机器和数据是一样的道理。

腾讯研究院:技术公司践行「科技向善」的动力何在?

Margarita Quihuis:有你你你这个结构动力。政法监管部门出台相关法律,严厉打击科技公司,认为互联网平台上的你你你这个功能成为暴力事件的帮凶,其平台效应是推动者。结构的强监管比较慢了 了 让互联网产品变得安全。

同去,有全都年轻企业家,亲戚当我们嘴笨 希望做正确的事情,用技术让世界变得更加美好。亲戚亲戚当我们还须要为亲戚当我们提供工具和框架,亲戚当我们也十分我想要采用,以前 亲戚当我们正在变得很难价值导向。

事实上,亲戚亲戚当我们的社会正在面临严重的问题报告 报告 ,气候危机、社会极化、信任崩塌,以前 亲戚亲戚当我们无法信任彼此,就无法协作依据补救当下的问题报告 报告 。全都更多的年轻一代会意识到,以前 不去做正确的事情,去补救真正的问题报告 报告 ,亲戚亲戚当我们甚至会难以生存。

腾讯研究院:在实践科技向善的过程中,最大的挑战是哪些地方?意识还是行动?

Margarita Quihuis:亲戚亲戚当我们嘴笨 最重要的意识的变化,否则才有做某事的欲望。否则当下的清况 是,全都企业在转变的过程中害怕风险,以前 谁能谁能告诉我咋样改变,全都亲戚亲戚当我们致力于研究系统性创新,帮助企业实现积极的转变。

腾讯研究院:和平创新实验室咋样定义该人 的角色?更倾向于和年轻企业家协作依据,还是独立制定标准?

Margarita Quihuis:亲戚亲戚当我们制定标准,并将标准工具化给予企业使用。同去,亲戚亲戚当我们也跟协作依据依据,理由很简单,谁具有宽裕的人力、资金来创新性补救问题报告 报告 ?当然是企业。我花全都时间去跟我想要做创新和转型的公司CEO沟通,帮助亲戚当我们制定转型策略,我的要求是亲戚当我们的业务须要对社会产生积极的影响、塑造合格的公民。我认为,对于全都已有市场规模的公司来说,还有全都有社会意义的事情还须要做,同去哪些地方地方事情还须要盈利,也还须要补救社会问题报告 报告 ,否则亲戚亲戚当我们还须要用技术的依据快速实现哪些地方地方需求。这是须要创造力和勇气的事情,有CEO惊喜地发现「哇,这真的还须要实现!」全都,亲戚亲戚当我们的机构更像有一三个 保护伞,帮助企业开使你你你这个创新性的尝试。

腾讯研究院: 您咋样看待当下人工智能产品中的隐私问题报告 报告 ?与非 有好的补救方案?

Margarita Quihuis:当下的算法黑箱很像90年代的芯片黑箱问题报告 报告 ,消费者并非关心电脑中的是AMD还是Intel芯片,于是Intel就在品牌战略活动中,请第三方来评估芯片的安全性,并将审查证书呈现给消费者,消费者当然我想要购买安全性更高的芯片。目前的苹果7机苹果7机苹果7机隐私上的策略也是很难 ,它会说:亲戚亲戚当我们的手机和技术将保护您的隐私。隐私在一种意义上成为了奢侈品,全都苹果7机苹果7机苹果7机的售价也更高你你你这个。否则你你你这个隐私策略我想要你你这个及成为了苹果7机苹果7机苹果7机的死忠粉,最终隐私保护变成了市场竞争优势。

腾讯研究院:您咋样理解「科技向善」?

Margarita Quihuis:亲戚亲戚当我们做的事情和「科技向善」是一脉相承的。亲戚亲戚当我们老是 谈论伦理道德,并非很难 做,并非那样做。但以前 从一张白纸开使,亲戚亲戚当我们我想要生活的世界是哪些地方样的?有花、有草、有新鲜空气……否则亲戚亲戚当我们开使填充这张图片,并逐渐让它成为现实。以前 亲戚亲戚当我们并非我想要的东西出发,工程师会无从下手,全都亲戚亲戚当我们须要彻底想象10年、20年后亲戚亲戚当我们期待咋样的世界,并朝着你你你这个方向努力。亲戚亲戚当我们须要拥有技术,并尝试找到目标,将其传达给工程师们。总而言之,技术全部回会目的,创造更好的世界才是。