身边有个无所不知、无所不能的助手,是千百年来人类的梦想。《山海经》中就记载了一个名叫“白泽”的神兽,“能言语、通万物之情”,不仅有求必应,还能占卜吉凶。
如今,人工智能(AI)的发展,正让这个“神兽”走进千家万户。琳琅满目的智能设备不仅能轻松做到“能言语”,“通万物之情”也已基本实现。借助海量数据库,各种AI设备有如百科全书,再生僻的问题都难不倒它。“有问题找AI”已渐渐成为人们的习惯。
AI解决问题的能力有目共睹:教师可以用AI批改作业,分析学生特点,优化教学方案;律师可以用AI审核案卷、分析案例、草拟合同,还能制定辩护策略;会计可以用AI记录数据、设计账目、生成报表,过去耗时费力的财务核算,AI可以一键完成。最近,一位从事留学中介服务的朋友向笔者抱怨,五月份只接到了两单活,因为生成式AI的兴起,学生对写作入学申请的人工辅导服务需求量大减……
值得注意的是,随着AI应用的深化,“有问题找AI”的现象也引起了人们的警觉。教师过度依赖AI批改作业,对学生情况缺乏直观感受,只能相信AI数据分析。可是,学生的成长受到环境、性格、学习等因素综合影响,AI分析会不会因为偏差而“误人子弟”?律师界担忧,青年律师刚入行,就频繁使用AI撰写文书,从业底子怎么会厚实?会计行业也在呼吁,不要过度依赖AI,因为财务工作不是简单的数据分析,还需要大量的专业判断,“没有价值观的智能人”很可能引发财务监管和伦理上的风险……
如果说,各行各业的担忧还不够直观,一个小故事也许更能引起公众的重视。如今,一些中小学生开始利用AI帮助自己写作文和读后感。面对家长对孩子“学习不要偷懒”的告诫,孩子振振有词:“将来都是机器人帮我们干活,学习早就没有意义了!”
这样的回答,能不引起我们的深思吗?
在决策式人工智能时代,AI技术越来越“拟人化”。但绝大多数科学家认为,应该将AI控制在“常规替代性”领域,即替代人类从事那些可重复性高的常规任务,而社会洞察、情感表达、艺术审美等高阶任务,仍要人类来完成。
“有问题找AI”的思维惰性和依赖,很可能在不知不觉中弱化人们的管理意识、防护意识和学习意识。世界最大一家AI巨头的首席执行官表达过这样的忧虑:“AI技术无疑是人类迄今为止发展出的最伟大技术,它将重塑社会——但同时,AI也会带来风险,可我们的社会却没有太多时间去思考如何监管、如何处理这类事情。”
业界早对这种风险进行过归纳,主要有两个方面:一是安全性风险。我们只注重为AI喂料并获得计算结果,却疏于监管其过程中发生了什么,由此滋生出各类信息安全隐患。二是退化性风险。对AI的依赖,逐渐消磨了人们的学习和认知能力,由此带来人类被“取代”的隐患。这两种风险都在警示我们,要避免对AI的过度依赖。
毕竟,有问题就去找AI,一旦AI出了问题,又该去找谁呢?