向善而生的AI助盲,让AI多一点,障碍少一点******
有人说,盲人与世界之间,相差的只是一个黎明。在浪潮信息研发人员的心中,失去视力的盲人不会陷入永夜,科技的进步正在力图给每一个人以光明未来。
AI助盲在人工智能赛道上一直是最热门的话题之一。以前,让失明者重见光明依靠的是医学的进步或“奇迹”。而随着以“机器视觉+自然语言理解”为代表的多模态智能技术的爆发式突破,更多的失明者正在借助AI提供的感知、理解与交互能力,以另一种方式重新“看见世界”。
新契机:多模态算法或将造福数以亿计失明者
科学实验表明,在人类获取的外界信息中,来自视觉的占比高达70%~80%,因此基于AI构建机器视觉系统,帮助视障患者拥有对外界环境的视觉感知与视觉理解能力,无疑是最直接有效的解决方案。
一个优秀的AI助盲技术,需要通过智能传感、智能用户意图推理和智能信息呈现的系统化发展,才能构建信息无障碍的交互界面。仅仅依靠“一枝独秀”超越人类水平的单模态人工智能比如计算机视觉技术还远远不够,以“机器视觉+自然语言理解”为代表的多模态算法的突破才是正确的新方向和新契机。
多个模态的交互可以提升AI的感知、理解与交互能力,也为AI理解并帮助残障人士带来了更多可能。浪潮信息研发人员介绍说,多模态算法在AI助盲领域的应用一旦成熟,将能够造福数以亿计的失明者。据世卫组织统计,全球至少22亿人视力受损或失明,而我国是世界上盲人最多的国家,占世界盲人总数的18%-20%,每年新增的盲人数量甚至高达45万。
大挑战:如何看到盲人“眼中”的千人千面
AI助盲看似简单,但多模态算法依然面临重大挑战。
多模态智能算法,营造的是沉浸式人机交互体验。在该领域,盲人视觉问答任务成为学术界研究AI助盲的起点和核心研究方向之一,这项研究已经吸引了全球数以万计的视障患者参与,这些患者们上传自己拍摄的图像数据和相匹配的文本问题,形成了最真实的模型训练数据集。
但是在现有技术条件下,盲人视觉问答任务的精度提升面临巨大挑战:一方面是盲人上传的问题类型很复杂,比如说分辨冰箱里的肉类、咨询药品的服用说明、挑选独特颜色的衬衣、介绍书籍内容等等。
另一方面,由于盲人的特殊性,很难提取面前物体的有效特征。比如盲人在拍照时,经常会产生虚焦的情况,可能上传的照片是模糊的或者没有拍全,或者没拍到关键信息,这就给AI推理增加了难度。
为推动相关研究,来自卡内基梅隆大学等机构的学者们共同构建了一个盲人视觉数据库“VizWiz”,并发起全球多模态视觉问答挑战赛。挑战赛是给定一张盲人拍摄的图片和问题,然后要求给出相应的答案,解决盲人的求助。
另外,盲人的视觉问答还会遭遇到噪声干扰的衍生问题。比如说,盲人逛超市,由于商品外观触感相似,很容易犯错,他可能会拿起一瓶醋却询问酱油的成分表,拿起酸奶却询问牛奶的保质期等等。这种噪声干扰往往会导致现有AI模型失效,没法给出有效信息。
最后,针对不同盲人患者的个性化交互服务以及算法自有的反馈闭环机制,同样也是现阶段的研发难点。
多解法:浪潮信息AI助盲靶向消灭痛点
AI助盲哪怕形式百变,无一例外都是消灭痛点,逐光而行。浪潮信息多模态算法研发团队正在推动多个领域的AI助盲研究,只为帮助盲人“看”到愈发精彩的世界。
在VizWiz官网上公布的2万份求助中,盲人最多的提问就是想知道他们面前的是什么东西,很多情况下这些物品没法靠触觉或嗅觉来做出判断,例如 “这本书书名是什么?”为此研发团队在双流多模态锚点对齐模型的基础上,提出了自监督旋转多模态模型,通过自动修正图像角度及字符语义增强,结合光学字符检测识别技术解决“是什么”的问题。
盲人所拍摄图片模糊、有效信息少?研发团队提出了答案驱动视觉定位与大模型图文匹配结合的算法,并提出多阶段交叉训练策略,具备更充分的常识能力,低质量图像、残缺的信息,依然能够精准的解答用户的求助。
目前浪潮信息研发团队在盲人视觉问答任务VizWiz-VQA上算法精度已领先人类表现9.5个百分点,在AI助盲领域斩获世界冠军两项、亚军两项。
真实场景中的盲人在口述时往往会有口误、歧义、修辞等噪声。为此,研发团队首次提出视觉定位文本去噪推理任务FREC,FREC提供3万图片和超过25万的文本标注,囊括了口误、歧义、主观偏差等多种噪声,还提供噪声纠错、含噪证据等可解释标签。同时,该团队还构建了首个可解释去噪视觉定位模型FCTR,噪声文本描述条件下精度较传统模型提升11个百分点。上述研究成果已发表于ACM Multimedia 2022会议,该会议为国际多媒体领域最顶级会议、也是该领域唯一CCF推荐A类国际会议。
在智能交互研究方面上,浪潮信息研发团队构建了可解释智能体视觉交互问答任务AI-VQA,同时给出首个智能体交互行为理解算法模型ARE。该研究成果已发表于ACM Multimedia 2022会议。该研究项目的底层技术未来可广泛应用于AI医疗诊断、故事续写、剧情推理、危情告警、智能政务等多模态交互推理场景。
眼球虽然对温度并不敏感,但浪潮信息的研发团队,却在努力让盲人能“看”到科技的温度,也希望吸引更多人一起推动人工智能技术在AI助盲、AI反诈、AI诊疗、AI灾情预警等更多场景中的落地。有AI无碍,跨越山海。科技的伟大之处不仅仅在于改变世界,更重要的是如何造福人类,让更多的不可能变成可能。当科技成为人的延伸,当AI充满人性光辉,我们终将在瞬息万变的科技浪潮中感受到更加细腻温柔的善意,见证着更加光明宏大的远方。
春节近 年味浓|办年货逛庙会 民俗活动丰富多彩******
今天是农历腊月二十四,兔年春节越来越近。随着春节的临近,人们办年货、逛庙会,开展丰富多彩的民俗活动。
贵州毕节:备年货品年味 年货节拉开帷幕
昨天(14日),贵州毕节的新春年货节拉开帷幕。琳琅满目的商品、丰富多彩的活动,让市民在逛年货市场的同时感受浓浓的年味儿。
在贵州毕节年货节的主会场,腊味食品、水果、茶叶等商品琳琅满目。除了特色农产品销售,还有写春联、剪纸、猜灯谜等送祝福活动。浓浓的年味吸引来不少市民和游客挑选年货。
游客 龙家丽:从六盘水过来的,来走亲戚。看到这地方今天特别热闹,也有很多农产品,合适的话带点回去过年。
毕节市商务局副局长 王伟:这次新春年货节,在毕节高铁站、各大商场超市都专门设有新春年货节的展台、展位,让市民朋友出门就能备年货。
据了解,当地还统筹了260多万元的消费满减资金,让市民游客在感受年味的同时同享优惠。
新疆:天山南北贺新春 多彩活动年味浓
近日,新疆天山南北贺新春非物质文化遗产年俗活动在乌鲁木齐启动,也拉开了新疆迎新春的序幕。
剪窗花、写春联、捏面塑,非遗传承人现场展示拿手绝活,吸引了不少市民参与体验。
乌鲁木齐市民 马子宸:今天我来做一只兔子送给我的爷爷,因为他属兔子,而且今年也是兔年。面塑还是非物质文化遗产,我觉得这个挺好玩的。
从1月14日到元宵节期间,新疆14个地(州、市)的文化场所将根据当地特色,开展812场次集文艺、非遗、灯会、美食为一体的年俗类活动。
与此同时,2023年新疆乡村村晚示范展示活动也同时启动。春节期间,以“一村独办、多村联办”形式的2000余场“村晚”将在新疆各地上演。
2023年新疆乡村“村晚”启动仪式负责人 张琦:通过“村晚”这样的特殊的、充满年味和老百姓广泛参与的形式,让我们的新疆广大老百姓自编自导自演,讲身边事儿,唱时代歌,演身边人这样的一个生动呈现,让我们一起感受浓浓的年味,喜迎兔年的到来。
青海海东:迎新春 逛庙会 赏非遗
这几天,青海省海东市平安驿河湟民俗文化体验地开启了当地迎接春节的系列庆祝活动。这里热闹喜庆的氛围,吸引了许多游客来此游玩。
总台记者 宋宇豪:在青海省海东市平安驿河湟民俗文化体验地,如今已经是张灯结彩,游人如织,充满了喜庆祥和的节日氛围。从今天一直到正月十六,市民朋友和游客们都可以来到这里逛庙会、赏花灯、品非遗,体验不一样的节日氛围。
平安驿河湟庙汇集了花灯、舞龙、舞狮等民俗活动,为游客奉上了精彩纷呈的视觉盛宴。此外,大家还可以在此享受地道的青海美食,感受浓浓的年味。
游客 申阳德:我希望新年以后,期中考试我能考个好成绩,希望今年压岁钱能收更多。
游客 杨倩倩:以后每一天都顺顺利利,大家都平平安安。
北京:千场演出展览迎新春佳节
记者从正在举行的北京市两会上了解到,春节临近,北京将陆续推出千余场演出和数十个展览,陪伴群众过大年。
据悉,北京104个演出场馆将在春节前后举办244台剧目1687场演出,满足不同年龄段观众的需求。经典戏曲和京味曲艺将齐聚全国地方戏演出中心,中国评剧院、北京曲艺团等轮番上演评剧、河北梆子、相声、鼓曲、快板等表演。北京儿童艺术剧院新创作的儿童剧《冰冰熊大冒险》将带领小朋友们开启一段深海冒险旅程。
北京市政协委员、北京演艺集团董事长 赵佳琛:雅俗共赏,既有殿堂级的,比如获得“文华大奖”和“五个一工程奖”的舞剧《五星出东方》,还有北京老百姓特别喜闻乐见的曲艺相声,这一次也力求做到融合创新。
此外,春节至元宵佳节期间,北京将推出78个展览和141项文博活动,打造兔年迎祥主题打卡博物馆、历史文化名人探访点、中轴线历史文化探访点等,涵盖中国国家博物馆、故宫博物院、北京工艺美术博物馆等。(央视新闻客户端)
(文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |