【文档说明】生物医学数据挖掘培训课件.ppt,共(88)页,7.806 MB,由小橙橙上传
转载请保留链接:https://www.ichengzhen.cn/view-252805.html
以下为本文档部分文字说明:
生物医学数据挖掘参考文献⚫1、生物医学数据挖掘(第二版)上海科学技术出版社⚫2、生物医学数据分析及其MATLAB实现北京大学出版社⚫3、生物信息学科学出版社生物医学数据挖掘2第一章概论生物医学数据挖掘31.1什么是数据挖掘⚫1
.1.1数据、信息和知识⚫数据是对客观事物特征状态的记录;数据也是信息及知识的载体。⚫如何从大量的数据中发现和找出以隐含方式存在于其中、有意义的信息和知识。生物医学数据挖掘4⚫1.1.2数据挖掘的定义⚫数据挖掘是对大量观察到的数据进行分析,以便从中发现事先未知的联系和规
律的过程。⚫目的:让数据拥有者得到非常清晰而有用的结果(即信息和知识)生物医学数据挖掘5生物医学数据挖掘6生物医学数据挖掘78数据挖掘分类挖掘任务挖掘对象挖掘方法常用聚类分类关联回归与序列生物医学数据挖掘8生物医学数据来源⚫人体生理信息的种类形态身高、
骨长、心脏、胃、肾等器官的几何形状、血管直径等振动心音、肠鸣音、呼吸音、血管音等压力血压、心内压、颅内压、胸腔内压、眼内压等速度血流速度、排尿速度、神经传导速度等流量血流量、呼吸流量、尿流量等温度体表温度、口腔温度、血液温度、直肠
温度、其他脏器温度等生物电细胞电位、脑电、心电、胃电、肌电等生物磁心磁、脑磁、胃磁等物理性质参数组织密度、对X射线的衰减系数、体内氢核分布、对超声波的声阻抗等化学成分O2、CO2、Na+等生物量酶、抗原、抗体、激素、神经递质、DNA、RNA和蛋白质等生物医学数据挖掘91.2数据挖掘的应用及方法⚫1
.2.1应用⚫1.(分类应用实例)乳腺疾病诊断⚫2.(回归应用实例)子宫颈癌患者存活率及其受各危险因子影响模型⚫3.(时间序列分析应用实例)胰岛素依赖性糖尿病变化趋势,变化周期⚫4.(预测应用实例)肾透析提高患者生存率⚫5.(聚类应用实例)流行病
学因素对肺癌患者临床医学状况的影响⚫6.(关联规则分析应用实例)患者住院期间感染影响患者健康⚫7.(序列发现,序列分析应用实例)基因比较生物医学数据挖掘10⚫1.2.2方法⚫从学习对象和过程的角度看分为有指导学习和无指导学习⚫有指导学习指学习样
本的归属都是已知的,确定的。例如分类⚫无指导学习指学习样本的归属事先并不确定或已知。例如聚类生物医学数据挖掘11⚫从学习方法的角度看,有多种数学工具可用:回归分析学统计学方法,人工神经网络,决策树等⚫根据待解决问题的类型、要求,以及数据本身的特点,确定最佳方法。生物医学数据挖掘12数据挖掘技术
数据挖掘任务的完成需要相应的数据挖掘技术。目前的数据挖掘算法主要来自3个领域:统计学、机器学习(人工智能)和数据库。数据挖掘的焦点是自动或半自动的挖掘模式。有些机器算法应用于数据挖掘,比如神经网络、遗传算法等。数据库技术是数据挖掘的第三种技术来源。因为数据挖掘需要处理大
量数据,如何对大量数据进行处理,需要数据库技术。生物医学数据挖掘131.3生物医学数据挖掘的特殊性⚫1.3.1医学数据的特殊性⚫1.原始数据数量大,且呈多样性或异质性⚫2.有时很难以数学方式来表达其结构及特征⚫3
.医学数据经常需要更新⚫4.采集医学数据很难完全避免噪声干扰⚫5.生物医学数据难免会发生丢失⚫6.医学数据可能包含冗余的、没有意义的或不一致的属性生物医学数据挖掘14⚫1.3.2伦理、法律和社会等方面对隐私敏感的问题⚫1.3.3医
学的特殊性质生物医学数据挖掘151.4数据挖掘的评价⚫1.4.1样本的组织⚫将原始样本数据组织成学习样本集和测试样本集的原则:尽可能使学习样本集和测试样本集中的样本分布和样本总体的分布一致,尽可能使学习样本集有足够多的样本。常用方法
:生物医学数据挖掘16⚫1.随机分组法:将已知数据集合随机的分为互不重叠的学习样本集和测试样本集。⚫2.交叉验证法:将原已知数据集随机的分为K组,依次以其中的一组数据为测试样本,而以其他数据为学习样本进行训练和测试。⚫3.留一法:是交叉验证法中当K等于原始样本数据量M时的特例。生物医学数据挖掘
17⚫1.4.2有指导学习的评价(分类)被分类归于C1类被分类归于C2类被分类归于C3类实际属于C1类C11C12C13实际属于C2类C21C22C23实际属于C3类C31C32C333类分类的混淆矩阵生物医学数据挖掘18被分类归于阳性的样本被分类归于阴性的样本总计实
际属于阳性的样本a,Ntpb,Nfna+b实际属于阴性的样本c,Nfpd,Ntnc+d总计a+cb+da+b+c+d特异性和灵敏度的计算生物医学数据挖掘19⚫1.4.3无指导学习的评价⚫无指导学习数据挖掘目标往往不清晰,但有评价指导学习数
据挖掘的一些原理,可沿用于评价无指导学习的性能。例如:聚类。生物医学数据挖掘20开源数据挖掘工具(平台)⚫Weka⚫R⚫Tanagra⚫YALE⚫KNIME⚫Orange⚫GGobi生物医学数据挖掘211.5数据挖
掘的过程⚫数据挖掘软件⚫IntelligentMiner(IBM)⚫Clementine(SPSS)⚫EnterpriseMiner(SAS)⚫MicrosoftSQLServer2005(Microsoft)生物医学数据挖掘22⚫1.明确分析目的⚫2.组织及预处理数据⚫3.探索
性分析数据⚫4.实施数据挖掘方法,并以此分析数据⚫5.评价和比较各种方法的性能,确定最终的结果⚫6.解释数据挖掘结果及其在本专业领域中的应用生物医学数据挖掘23生物医学数据挖掘24Weka⚫统计分析方面较弱,在机器学习方面要强得多生物医
学数据挖掘25R⚫用于统计分析和图形化的计算机语言及分析工具,支持系列分析技术,包括统计检验,预测建模,数据可视化生物医学数据挖掘26Tanagra⚫使用图形界面的数据挖掘软件,强项是统计分析,提供了众多的有参和无参的检验方法,但缺乏高级的可视化能力生物医学数据挖掘27YA
LE⚫提供图形化界面,提供了大量的运算符,包括数据处理,变换,探索,建模,评估等等环节。生物医学数据挖掘28KNIME⚫采用类似数据流的方式来建立分析挖掘过程生物医学数据挖掘29Orange⚫提供大量的可视化方法,可对数据和模型进行多种图形化演示,并能智能搜索合适
的可视化形式,支持对数据的交互式探索,弱项在于传统统计分析能力不强,不支持统计检验,报表能力也有限。生物医学数据挖掘30生物医学数据挖掘31GGobi⚫用于交互式可视化的开源软件生物医学数据挖掘32第二章医学数据采集与准备生物医学数据挖掘332.1数据的采
集与组织⚫2.1.1数据的采集、存储与管理⚫数据库系统(DBMS)是存储,组织和管理数据的有效工具,由一组含有内部相关数据的数据文件和一组管理数据的软件程序组成,有时也简称为数据库(DB)。⚫数据仓库(DW)是一个面向特定研究目的、集成来自各个不同数据库的数据并相
对稳定的数据集合,它是数据挖掘直接操作和处理的对象。生物医学数据挖掘34医院信息系统(HIS)药物信息数据库病房管理数据库临床检验数据库生物医学数据挖掘35⚫2.1.2数据的组织⚫1.数据的结构住院号姓名性别手术年龄诊断治疗方法疗效1001孙宝英男3先天性多指手术矫形优1002吴
立生男1先天性并指手术矫形优1003王启勇男12肱骨骨折手术复位良1004何俊峰女3髋关节脱位手术复位优2005王春章男7斜颈手术良生物医学数据挖掘36⚫2.数据的类型⚫数值型:由有序数字构成的数据⚫分类型:表示对象类别归属的数据⚫二值
型:只有两种取值的数据⚫布尔型:特殊的二值型数据⚫排序型:特殊的分类型数据生物医学数据挖掘37胃癌TNM分期原发肿瘤的部位及大小(T)1肿瘤局限于粘膜或粘膜下层2肿瘤侵及肌层3肿瘤侵及浆膜4肿瘤已穿透浆膜淋巴转移部位和数量(N)0无淋巴结转移1离癌灶最近,贴近于
胃壁的第1站淋巴结有转移2远隔癌灶部位的第2站淋巴结有转移3第3站淋巴结有转移是否已有远处转移(M)0尚无远处转移1已有远处转移生物医学数据挖掘382.2数据管理及数据管理系统的基本功能⚫2.2.1数据管理⚫是指对各种数据进行收集、分类、组
织、编码、存储、查询和维护。(ExcelAccess)⚫2.2.2Excel的基本功能⚫1.数据的存储⚫2.数据的排序⚫3.数据的筛选⚫4.数据的统计分析⚫5.数据的分类汇总生物医学数据挖掘39⚫2.2.3关系数据库管理系统的基本功能⚫1.数据的定义和存储⚫2.数据的
排序、索引和筛选⚫排序是通过字段有序的排列记录,以便更有效的进行查询;⚫索引的主要功能是用来加速记录的存取;⚫筛选是让数据表显示符合条件的纪录,隐藏不符合条件的纪录。⚫3.数据的查询与统计生物医学数据挖掘
40⚫进行数据挖掘的时候,首先要将实际问题转化为数据挖掘问题,能否转换为恰当的数据挖掘问题是进行数据挖掘的关键。生物医学数据挖掘412.3数据预处理⚫2.3.1数据预处理的目的⚫不完整性:指有些数据记录的某些属性或特征值缺少;⚫不一致性:指有些数据记录的若干属性
或特征值在逻辑上互相矛盾因而可信度降低;⚫噪声:指有些数据的值有误差或表现出随机性的波动。⚫数据预处理一般包括数据清洗,数据整合,数据变换,数据精简等功能。生物医学数据挖掘42⚫2.3.2数据的分布特性⚫反映数据分布主要趋势的参数:⚫均值:同类数据值的算术平均⚫中值:也称中位数⚫
众数:原始数据集合中某个值出现的频数最多⚫半程位:原始数据集合中最大数值和最小数值的均数。生物医学数据挖掘43⚫反映数据分布散布性的参数:⚫全程范围:数据集合的最大数值和最小数值之和。⚫四分位数:是k百分位数的
特例⚫四分位范围⚫标准差和变异系数生物医学数据挖掘44⚫例:有一个数据集合为:100,120,120,110,130,132,132,133,133,131,132,130,138,129,132,140,140,121,125,计算得到该数据集合的分布特征参数。生物
医学数据挖掘45⚫2.3.3数据清洗⚫1.数据缺失⚫常用处理方法:⚫(1)忽略含有数据缺失的记录;⚫(2)用一个常量或标识符号来取代所有缺失的数据值;⚫(3)以全体数据相同属性的均值取代某个记录缺失的该属性值;⚫(4)以最可能发生的值取代某个记录缺失的
属性值。生物医学数据挖掘46⚫2.数据噪声⚫分组平滑:分组是将某项数据值按一定的顺序排成序列,然后将若干个连续排列的相邻数据组成一个组。⚫回归平滑:回归是将原始数据拟合为某种回归函数,以该函数的的值取代相
应的原始数据。⚫聚类平滑:聚类是以原始数据各个相关特征属性值构成特征空间,根据原始数据在此空间中的分布状态。生物医学数据挖掘47⚫2.3.4数据整合⚫实体识别,也称对象匹配或设计方案整合。在不同的数据库中,可能采用不同的名称、标识符号或代码来表示客观世界中的同一事物
,要识别这些事物是否相同。⚫消除冗余,若数据的某个特征属性的值或状态,可从其他几个特征属性推导而得到,则产生信息冗余。⚫数据值冲突,在不同数据库中,对同一参数采用不同的单位可引起。生物医学数据挖掘48⚫2.3.5数据变换⚫数据变
换是将原始数据的类型或取值范围变换到合适的形式,以便适应不同数据挖掘算法的要求。⚫一方面,原始数据类型根据数据反映的客观事物的性质不同而各异;⚫另一方面,生物医学数据反映的客观事物的生理或生化性质不同,量纲也各
不相同,这导致了这些数据的数值变化范围会有很大的差异。生物医学数据挖掘49⚫一方面,生物医学数据反映的客观事物的生理或生化性质不同,量纲也各不相同,这导致了这些数据的数值变化范围会有很大的差异;⚫另一方面,数据的取值范围对某些数据挖掘算法的性能也会有所影响。生物医学数据挖掘50
⚫将原始数据的变化范围变换到另一个指定的取值范围,以取得更好的数据挖掘效果,这种变换数据取值范围的过程称为数据的归一化。常用的数据归一化方法:⚫十进计数法⚫最小最大归一法⚫Z分数归一法⚫对数归一法生物医学数据挖掘51⚫2.3.6数据精简⚫1.样本数据的选择⚫随机选取⚫典型性分数⚫2.数据
特征属性的选择⚫逐一尝试⚫涉企相关性高的特征⚫舍弃分类型特征⚫舍弃数值型特征⚫特征复合生物医学数据挖掘52生物医学数据挖掘53生物医学数据挖掘54生物医学数据挖掘55生物医学数据挖掘56生物医学数据挖掘57生物医学数据挖掘58生物医学数据挖掘59NoImage生物医学数
据挖掘60分组分组1分组2分组3均值±方差原数据129,131,124136,131,132138,134,139132.67±4.69均值平滑128,128,128133,133,133137,137,137132.67±3.91中值平滑129,129,129132,132,132138
,138,138133.00±3.97边界值平滑131,131,124136,131,131139,134,139132.89±4.73生物医学数据挖掘61第三章回归分析生物医学数据挖掘623.1回归分析的
功能生物医学数据挖掘633.2常用的回归分析方法⚫3.2.1线性回归⚫3.2.2Logistic回归⚫3.2.3人工神经网络⚫3.2.4回归树生物医学数据挖掘64生物医学数据挖掘65生物医学数据挖掘66生物医学数据挖掘67生物医
学数据挖掘68生物医学数据挖掘69生物医学数据挖掘70第四章分类生物医学数据挖掘71第五章聚类分析生物医学数据挖掘725.1聚类分析的功能⚫5.1.1聚类分析的定义与作用⚫聚类是一种数据分析方法,它面向一个数据集,将其中全体数据分别划归不同组别。⚫聚类依据原则:同一类别内
的各个数据相似性较高,不同类之间的数据相似性较低。⚫聚类作用:可根据其内在属性将数据归纳为不同的类别,并借此了解数据属性的分布规律;也可作为数据预处理的手段,为实施其他数据挖掘技术进行数据准备。生物医
学数据挖掘73⚫例:现有若干个样本根据由6个特征属性构成,特征属性的名称及各样本数据的相应特征值如表,计算各个样本数据之间的相似程度。记录性别年龄组收缩压舒张压糖尿病类型心绞痛11220012010203180105213111108000…………………生物医学数据挖掘75
5.2聚类分析的方法⚫5.2.1聚类分析方法⚫1、划分法⚫第一步:任选k个样本数据⚫第二步:进行第一轮聚类⚫第三步:进行第二轮聚类⚫第四步:计算聚类误差E⚫2、分层⚫分层聚类法可分为两种实施方案:凝聚性分层聚类,分裂型分层聚类⚫5.2.
2高维特征空间中的聚类生物医学数据挖掘765.3聚类分析的应用——住院患者人群分类⚫5.3.1研究目标⚫根据某地区若干医院住院患者的实际情况,将其划分为若干类别,并分析这些类别患者的某些共性。⚫5.3.2数据采集与处理⚫划分住
院患者类别依据的特征:患者的年龄,主要诊断分类,住院时间,住院病区和收入水平等⚫5.3.3数据挖掘与分析生物医学数据挖掘77第1类第2类第3类第4类第5类第6类合计第1类8813054011080.0%11.8%0.0%4.5%3.6%0.0%100%第2类11
8402701040.0%第3类1063002661.5%0.0%95.5%0.0%0.0%3.0%100%第4类2006923762.6%0.0%0.0%90.8%2.6%3.9%100%第5类4640570715.6%
8.5%5.6%0%80.3%0.0%100%第6类0001022230.0%0.0%0.0%4.3%0.0%95.7%100%合计1061036777702745023.6%22.9%14.9%17.1%15.6%6.0%100%住院患者分类的测试结果生物医学数据挖掘78第六章关联
规则生物医学数据挖掘79NoImage生物医学数据挖掘80CustomerbuysdiaperCustomerbuysbothCustomerbuysbeer生物医学数据挖掘816.1关联规则的功能⚫6.1.1关联规则的定义⚫关联规则主要
反映了事物之间的关联性。关联规则挖掘就是发现大量数据中项集之间有趣的关联在交易数据、关系数据或其他信息载体中,查找存在于项目集合或对象集合之间的频繁模式、关联、相关性、或因果结构。应用:购物篮分析、交叉销
售、产品目录设计、聚集、分类等两种策略:1。商品放近,增加销量2。商品放远,增加其他商品的销量生物医学数据挖掘82⚫6.1.2关联规则的质量和重要性⚫1、关联规则的支持度⚫S{A→B}=NA→B/N⚫2、
关联规则的置信度⚫C{A→B}=NA→B/NA⚫3、关联规则的提升度⚫L{A→B}=C{A→B}/S{B}生物医学数据挖掘836.2关联规则的分析方法⚫6.2.1关联规则分析的基本方法⚫6.2.2剪枝和合并⚫剪枝:指将支持度小于预先设置阈值的特征属性过滤掉,不将其构成规则组合的过程。⚫合并:指将
过滤后保留的特征属性加以组合,以精简最总所得的规则。生物医学数据挖掘846.3关联规则的应用——糖尿病患者的筛查⚫6.3.1研究目的分析⚫从积累的大量数据中发现和糖尿病相关的模式和规则,以帮助医生加深对糖尿病的理解。⚫6.3.2数据采集及预处理⚫6.3.3数据挖掘与分析生物医学数
据挖掘856.4关联规则的应用——院内感染检测控制⚫6.4.1研究目的分析⚫根据已收集到的住院病史记录数据,以关联规则分析为技术方法,从中寻找和发现与院内感染共生的抗生素耐药性等现象。⚫6.4.2数据采集及预处理⚫6.
4.3数据挖掘与分析生物医学数据挖掘86第七章时间序列分析生物医学数据挖掘87第八章序列分析生物医学数据挖掘88