人的注意力 正在成为被“精心设计”的对象
每个人都有过这样的经历:打开手机准备回消息或打电话,一看到微信图标右上方的小红点,于是忍不住先打开微信;看完微信,不知不觉又被另一个App牵引,直到关闭手机屏幕才发现自己早已忘了打开手机的初衷。
你以为这是健忘?非也!智能手机每一个App背后的算法,不仅有人工智能领域专家操刀,还有心理学以及脑科学家的“精心设计”,让你不知不觉“深陷其中”。
超级人工智能和人类的博弈,是科幻作品中的永恒主题。而如今,这种博弈或许已嵌入人们的日常生活之中。
时下,越来越多的学者开始热议一个话题:当算法与心理学、脑科学等对关乎人类本身认知的科学结合得越来越紧密时,算法是否会主宰我们的生活?人类是否会沦为算法的“奴仆”?
虽然不同学科背景的专家对此看法不一,但大家达成一点共识:学会与机器正确相处,对生活在智能时代的每一个人而言,都是一种生存技能,其重要性不言而喻。
人的注意力,正在成为被“精心设计”的对象
日前,一部关于社交媒体成瘾的纪录片《社交困境》引发不小关注。纪录片中的主角,正是那些曾经在硅谷等知名互联网公司的从业人员。他们坦言,当开始意识到随着算法的升级,尤其是当算法和心理学、脑科学相互融合,并逐渐占据人类越来越多的注意力时,他们自己也觉得似乎无法逃脱算法的“控制”。
事实上,打开手机、点开某个App或划动拇指,对很多人来说不仅是习惯,也已成为一种肌肉记忆,甚至是一种本能。而这背后,是不是也有一只“看不见的手”在操控呢?
“人工智能的发展,使得机器带来的成瘾行为越来越普遍。”上海交通大学心理与行为科学研究院执行院长李卫东介绍,和药物成瘾会给大脑细胞层面带来不可逆变化有所不同,电子产品或社交软件成瘾对大脑机制的影响方式,目前尚未非常明确。但可以确认的一点是,随着算法和人工智能的发展,这类“成瘾”的可能性更大、影响也更广。
要知道,在互联网时代来临之前,人类的一切发明都是基于人类的主动使用,使某项新发明能为人类服务。但如今,技术正无时无刻不在想方设法吸引人的注意力,甚至希望能“操控”人的想法并从而获利。《社交困境》中提到,“一切产品都以营利为目的,但是当这些产品都免费时,那么你就是产品。”
对互联网公司而言,人的注意力正在成为被“精心设计”的对象——用户的增长、用户使用的时间延长,甚至对用户想法的操控,都能换来更多的利润。用户就是能够“自主长大”的产品。
确实,很多人已经发现,信息推送不仅越来越精准,且很多推送是基于个人喜好,由算法算出来的。有时候,这些推送并不是以事实为依据,其中夹杂着偏激甚至错误的观点,只为迎合用户。随着个人偏好在这些推送中被不断加强,每一个人基于这些推送信息而“看”到的世界也由此显得不同。
在算法“包围”中,人将变得越来越焦虑、脆弱?
当算法对人类的爱好和行为预测越来越准确时,越来越多的成年人或未成年人在这样融合心理学和脑科学的算法“包围”中,也许会变得越来越焦虑、脆弱。学会和机器相处,应该是每一个人面对未来所必须储备的能力。
在同济大学任教的刘翠莲有多年从事心理咨询服务的经验。据她观察,这一代00后、10后,都是在现实世界和虚拟世界同时存在的平行世界中成长起来,他们已习惯网络上的日常社交,包括点赞、评论等。但事实上,无论是点赞还是评论,这些社交界面的功能开发,也都是根据心理学原理精心设计的。对未成年人来说,短期反馈容易让人获得短暂的满足感,且会让他们不断地追求这样的满足。但这种“诱导”机制,或许也会成为他们心理压力的来源。
“人和任何技术或机器之间都存在互动,可能是人控制机器,也可能是人被机器控制。”上海纽约大学教授张峥始终认为,技术是中性的,就像使用搜索引擎时,每当你搜索一个词,推送给你的第一个页面的前10个结果一定是根据你的习惯和偏好精心裁剪过的,目的就是让你喜欢这个搜索结果,从而持续地用这个搜索引擎。“往好处说,这种设计是为了提升用户粘性;往坏处说,也可以理解为通过强化你的偏好,更容易‘操控’你。”
更多科学研究,应关注人与机器的交互
和人工智能技术发展速度相比,人工智能伦理研究则显得落后。不少学者在接受记者采访时都谈到,当下的人工智能发展使得人与机器的关系越来越复杂,人工智能的安全性、可靠性、可信度以及在如何符合人类价值观等方面,都生发出很多值得探索的全新科学问题。
就在不久前,浙江大学心理科学研究中心和心理学系的三位学者联合发表文章,提出必须将“人-AI交互”作为新的研究领域,并勾画了具体的研究框架,倡导学科交叉合作,目标是确保人工智能造福人类。
几位学者不约而同地谈到,不恰当的人工智能技术开发已导致了不少伤害人类的事故。仅仅在学术界认可的“AI事故数据库”里就已记录了1000多起事故,如自动驾驶汽车撞死行人、交易算法错误导致市场“闪崩”等。考虑人工智能的价值观等问题,并不是为时过早,其必要性和紧迫性日益凸显。
有学者呼吁,心理学本身是关注人的学科,而从学科发展来看,未来的心理学不仅要更加关注人本身,还应关注人如何与机器打交道。作为心理学的分支,在中国目前已有工程心理学,这个学科的核心科学问题,就是研究在开发复杂系统中,如何保证技术与人的心理、生理规律相匹配,以便于人的理解和操作,使得整个人—机系统的效能达到最佳状态。
复旦大学计算机教授张军平也认为,技术本身有其发展逻辑,但是当技术与心理学、脑科学的融合越来越密切时,确实应该加强对人与技术的交互关系研究,并且更客观、更审慎地对待技术。
-
无相关信息
- 人的注意力 正在成为被“精心设计”的对象
- 临港莫比乌斯公园明年建成 为开放式公园
- 咖啡制作、啤酒精酿、兰花种植等 沪郊“农
- “进博随申”服务专栏和进博数据驾驶舱上线
- 上海进博会开幕在即 参展商期待抢抓机遇共
- 新股破发潮倒逼市场格局重构 投资者打新更
- 降低“踩雷”的风险!宁德时代成为基金第一
- 储户28亿元存款被银行挪用 内控机制、风控
- “战战兢兢”“如履薄冰”?三大理由让A股
- 安居方能乐业 广州试点公积金“按月还租”
- 投资者准入门槛“和而不同” 北交所开启创
- 三季报上市城商行表现“抢眼” 成都银行排
- 中小银行抱团就能“取暖”吗 又有哪些问题
- 富兰克林电子2021财年前三财季净利1.13亿美
- 艾伯维2021财年前三财季净利74.98亿美元,
- 华尔街大行唱衰美股市场,科技股下一步面临
- 千禧锂业遇多方争抢,赣锋锂业否认搅局宁王
- 中国创新下 广东:捕捉贸易商机打造创新高
- 喜茶推出子品牌“喜小茶”等 大牌餐饮入局
- 交大昂立前三季度营收2.61亿元 同比增长3.8%
- 雅诗兰黛2022财年第一财季净利6.92亿美元,
- 辉瑞2021财年前三财季净利185.86亿美元,同
- 今日美股 | 美股三大指数持续创新高,热
- 自动驾驶汽车公司Nuro完成6亿美元融资,估
- 奈飞进军游戏界!推出五款手机游戏
- 美银客户抛售美股消费板块,依然青睐小盘股
- 百度造车新进展:集度样车将在明年北京车展
- 箩筐技术2021财年前半财年亏损2764.33万美
- 动视暴雪前三财季营收66.40亿美元,同比增
- 预计到2025年 褪黑素市场规模将达到8.4亿元