原标题：将AI拉下神坛4：迷信、乱用与可怕监控：后门再无班主任
【按】AI被神化与失控地崇拜、被无底线地乱用，与对人近乎糟蹋般的监控（比方许多场合刷脸等等）
来历：财经女记者部落 孑十七（原创）
科技的前进总是出乎咱们预料。
虽然一向以来咱们都在评论AI将对未来日子、教育等发生哪些改动，但实际日子中，咱们尚逗留在为“学生时代打小报告是否可耻”滔滔不绝的阶段。
直到近来网络上呈现一张讲堂行为剖析图片，当头一棒，英剧《黑镜》脑洞大开的剧情已然离你我不再悠远。
画面显现，两位学生正身处教室，而人工智能体系早已在一旁标示出她们在讲堂上睡觉、举手、趴桌子和阅览的次数。
一时之间，网友有关人工智能监督学生行为所带来的隐私、道德价值百科问题声讨不断，视频中呈现的旷视科技因而成为众矢之的。
而行将IPO，正走着上坡路的旷视觉得有点“冤”，宣称，这仅仅技能场景化概念演示。
亟需开辟商业化路途的人工智能职业有“向善”的地步吗？AI以超乎常人幻想的速度进入日常日子，又有哪些问题火烧眉毛？
“AI向善”回身“画地为牢”？
在此之前，AI进入学校的新闻就现已层出不穷。
据梨视频报导，上述旷视人脸辨认体系早已落地使用在我国药科大学，该校两间教室“试水”装置人脸辨认体系，用于日常考勤和讲堂纪律办理。
体系在学生进教室后能主动辨认个人信息，体系主动报到签退，全程监控学生上课听讲状况，就连学生发愣、打瞌睡和玩手机等动作行为都能被辨认出来。
虽然在声明中，旷视表明学校内的人脸辨认体系首要用于智能校门、教室门及宿舍的收支，便利学生安全收支学校。但依据校方说法，相关体系已在两间教室中进行试点，假如作用好，会进行全校推行。
运用相似人工智能体系的还有杭州第十一中学。2018年，杭州第十一中学就将名为“才智讲堂行为办理体系”的科技使用在了讲堂教学。这一体系可以对讲堂上学生的行为进行剖析，并对反常行为实时反应。
体系每隔30秒会进行一次扫描，针对学生们阅览、举手、书写、起立、听讲、趴桌子等6种行为，再结合面部表情是快乐、悲伤，仍是愤恨、恶感，剖分出学生们在讲堂上的状况。
校方向新京报表明，讲堂学生行为统计剖析属附加功用，“现在应该说连 (考评) 参阅都谈不上”。
紧接着，上个月，上海中医药大学隶属闵行蔷薇小学被爆出正在构建智能讲堂行为剖析体系，运用如姿势点评、表情辨认、言语辨认、教师轨道热力剖析等技能，探究对讲堂教学进程的定量剖析。
教育本该建立在人与人、人与国际的交流和互动中。伴随着人工智能体系进入学校，群众期望的是在教育办法上的革新，例如依据学习者的个人偏好和学习进展完成个性化，或许组合虚拟现实等技能，在沉溺式环境中习得新知识。
而实际上，咱们看到的是学生的七情六欲被量化，监督方一键即可收取学生个人信息。假以多维度了解学生的名号下，其实加重了师生信息上的不对称，教育二字化为乌有，只剩机械的操控。
此外，可以试想，学校场景运用成功后，AI监测还将蔓延到办公室、公共场合……
【重磅插页：更多精彩请参看】《逃离消灭》一书。被出版社点评为：庞大美妙，直追《三体》，震慑影响，比美《漂泊地球》的科幻科普奇书。应战世界前沿认知、人类联系与抵触极限，一部庞大悲凉、捉弄癫狂、浪漫震慑的极致之作。
或能改动你的思维或思维！！！
52亿亏本后的旷视还有“向善”的地步吗？
近些年来，“向善”一向被挂在科技巨子嘴边，那么利益当头，他们有避利趋善的地步吗？咱们无妨借此次事情的焦点旷视科技管窥一下人工智能职业的状况。
常常有这么一句说法，下个十年是AI的十年，假如说AI职业是皇冠，那么人脸辨认便是皇冠顶部的钻石。而李开复曾点评AI界有四大独角兽，旷视占得一席。北京时刻8月25日晚，旷视科技在港交所提交了招股书，更是成为四大独角兽里上市领跑者。
可以说，2011年，刚诞生的旷视就备受瞩目，首要由于其开创人均结业于图灵奖得主姚期智院士创建的清华大学“姚班”。要知道，具有“半国英才聚清华，清华一半英才在姚班”之称的班级，本年录取名单里涵括了24名奥赛金牌得主，以及3省理科状元。（据此，有网友戏弄，学霸们研制的AI正在不断紧缩学渣摸鱼的空间。）
自从推出首个人脸辨认使用Face++以来，旷视科技越发遭到资本市场的喜爱。7年时刻里获9轮融资，融资金额逾越70亿元，而开创人印奇和杨沐也曾凭此登上过福布斯我国“30 Under 30”榜单。
从2016年到2018年，旷视全年的收入别离为0.67亿元、3.13亿元、14.3亿元，复合年增加率逾越3.5倍，并且2019年上半年的收入到达了9.49亿元，同比也增加了逾越2倍。
按2018年收入核算，旷视是我国最大的云端人脸辨认身份验证处理计划供货商，占有逾六成的市场份额。在2018年我国出产的装备身份验证功用的安卓智能手机中，逾越七成使用了旷视的根据人脸辨认的设备解锁计划。别的，金融科技公司（如招联金融）和网约车渠道（如首约轿车）也采用了旷视的身份验证功用。
然而在一众拍手叫好的状况下，旷视的亏本也不容小觑。在2016年到2018年期间，其年度亏本别离为3.42亿元、7.58亿元、33.5亿元。仅仅在2019年上半年，旷视亏本更是到达惊人的52亿元，同比增加逾越6倍。
【重磅插页，更多精彩参看】《新未来简史》，该书以30多门前沿科技、学科打开深度推演，与《今天简史》《未来简史》《人类简史》至少别离有80项、100项与50项敌对观念。其间，该书用了8万多字从50多个视点深入剖析人工智能AI，简直摧毁了神话大数据、AI、算法等数十个观念。如图：
对此，招股书作出进一步阐明称，这52亿亏本中有逾越98%原因在于公司估值快速增加，归于非现金科目的调整，并不是实在的事务状况。
从现阶段来看，背靠政府机构和企业的旷视科技在商业化路途上的确取得了必定成功。但不可否认的是，技能开发活动自身具有不确定性，大额的资金研制未必可以发明相应利益，何况人工智能范畴的更新十分迅速，技能、人才储藏和市场占有率，这些都不足以让现在的旷视一了百了。
重重压力下，可以说留给旷视，乃至整个人工智能商业公司饯别“向善”的时刻和地步并不多了。
亟需处理的不止是隐私问题
无论是AI“监督”学生，仍是近来相同被热议的AI换脸，归根到底，当人们在评论“科技向善”时，聚集的仍是技能价值百科观问题。
在AI运用到教育场景问题中，公共数据和个人隐私的边界含糊仅仅受争议的一小部分，更值得重视的是AI驱动进展现已比咱们现行的法令超前许多，以及关于人工智能道德讨论从未停歇。
一边是无人约束的黑箱，另一边是处处被监测的你我，或许正如马斯克同马云对话中所说的那样，“未来科技开展将会逾越咱们了解它的才能，我不知道这样是功德仍是坏事”，AI正在迫临咱们的日常日子，“我期望AI是个好东西”。
将AI拉下神坛1：诺奖得主“Al便是统计学”观念最有力证明
将AI拉下神坛2：为何说AI是初级才能，而人类大脑是超级才智
将AI拉下神坛3：无人驾驶老出车祸，独家揭秘丧命缺点
将AI拉下神坛4：迷信、乱用与可怕监控：后门再无班主任
责任编辑：
