设想下《疑犯追踪》中的动态人脸识别技术,大规模网络监控防止和打击犯罪。微软的首席顾问Brad Smith发表了一篇博文,督促政府尽快立法限制和监管先进的人脸识别技术,负责任地进行行业应用。尽管该技术可能对社会有益,但是防止其滥用刻不容缓,否则微软担心此类技术泛滥最终会形成1984小说中描写的反乌托邦社会。
微软认为预防此技术形成不公平的偏见或者防止其侵犯个人权利十分重要,不仅要提高透明度,还呼吁人类监管审核,不要把所有人脸识别结果都交给电脑判断。
“打个比方,面部识别技术,正在像瓶子里的魔法一样逐渐兴起,除非我们现在就行动,否则我们会面临这样的风险,五年后我们发现面部识别服务已经不可阻挡地扩散,加速社会分裂。从那时候起我们想要把它收回‘瓶子’就已经太难了。”
如果该技术泛滥,会在身心上对用户造成损害,人权或基本权利,或者对个人的自由和隐私造成侵犯。
近年来,人们用脸部识别技术解锁,或者利用其标记社交图片的好友,人工智能的发展能够迅速地识别个人。而另一方面执法机构也依赖于该技术帮助调查。然而这一技术并不是毫无缺陷的,不仅是在调查中可能出现错误,政府对该技术的利用也会侵犯民主自由和人权。“我们必须确保2024年不会看起来像是小说1984年中的场景”
护学宝是杭州骄子科技有限公司旗下品牌,专为校园提供一系列的智慧产品,旨在帮助广大师生共建安全、便捷的和谐校园。
骄子科技是一家技术性科技公司,核心团队具备多年软硬件、信息化开发经验,在人工智能、大数据、云计算方面形成核心自主知识产权并持续进行技术成果转化。
微博@护学宝
微信