摘要：
针对 gcForestcs 受高置信度但精度较低的实例影响的问题，a56爆大奖在线娱乐提出了a56爆大奖在线娱乐深度分箱置信度筛选森林算法。该算法采用基于置信度对实例进行分箱，这种方式可以检测到分区错误的实例，将更精确的实例传递到后续层次。实验结果表明，对于相同的训练超参数，DBC-Forest 模型比 gcForest 和 gcforests 具有更好的精度，且训练速度更快。 阅读全文
摘要：
针对弱标签学习问题的困难，以及 gcForest 不能直接处理弱标签数据集的问题，a56爆大奖在线娱乐提出了 LCForest (Label Complement cascade Forest) 模型。a56爆大奖在线娱乐没有将问题表述为一个正则化的框架，而是采用了级联森林结构逐层处理信息，并通过简洁高效的标签补充结构赋予其利用弱标签数据的能力。首先在级联森林的每一层中在考虑标签的相关性的基础上，将伪标签分布与原始标签向量进行连接。为了解决假阴性标签带来的问题，在每一层将相关标签安全地补充到初始标签矩阵中。针对前几种类失衡问题，引入补码标志机制来控制a56爆大奖在线娱乐类的标签补码，在一定程度上缓解了这一问题。通过实验表明，LCForest 方法优于现有的多标签学习、深度神经网络和弱标签学习算法。 阅读全文
摘要：
为了对深度森林设计出信息量更大、计算成本更低的特征a56爆大奖在线娱乐，a56爆大奖在线娱乐提出了a56爆大奖在线娱乐新的深度森林模型——高阶交互深度森林(hiDF)，利用输入特征的稳定高阶交互来生成信息丰富且多样化的特征a56爆大奖在线娱乐。具体而言，a56爆大奖在线娱乐设计了一个广义版本的随机交叉树(gRIT)来发现稳定的高阶相互作用，并应用激活线性组合(ALC)将这些相互作用转化为新的特征a56爆大奖在线娱乐，这些特征a56爆大奖在线娱乐可以跨多层与输入特征交互。在级联的堆叠下，hiDF 可以有效地挖掘输入特征之间的高阶交互，并利用它们来提高预测性能。通过实验表明，hiDF 在显著减少时间和内存成本的情况下获得了极具竞争力的预测性能。 阅读全文
摘要：
针对欠采样方法会丢弃大量多数类样本导致信息缺失的问题，a56爆大奖在线娱乐提出了基于哈希的欠采样集成 HUE 模型，它利用 Bagging 和多数类样本的分布特征来构建多样化的训练子集。首先 HUE 通过散列将大多数类样本划分为不同的特征子空间，然后使用所有少数样本和主要从同一哈希子空间中提取的部分多数样本来构建训练子集，最后使用a56爆大奖在线娱乐训练子集来训练一个基分类器，通过投票法将这些基分类器集成在一起。该方法在 25 个 UCI 数据集和两个大型数据集上与多种方法进行了对比，实验结果表明该方法优于其他方法，在高度不平衡的数据集上取得了良好的效果。 阅读全文
摘要：
针对决策树模型的缺点，受 Network in Network 和斜决策树的启发，a56爆大奖在线娱乐提出树中树(TnT)算法将传统的决策树扩展为一个决策图。TnT 不是基于贪心的方法自顶向下生成树结构，通过在内部节点或叶节点内递归地生长决策树来构造决策图。TnT 的时间复杂度与图中的节点数成线性关系，可以在大型数据集上构造决策图。在相同的模型复杂性约束下，TnT 在独立或集成的情况下都优于现有的决策树算法。同时它不依赖于预定义的图/树结构，而是能够从单个叶结点开始学习图连接，并提供完全可解释的决策过程。 阅读全文
摘要：
针对 CTC 分类性能较差和 Bagging 的可解释性较差的问题，a56爆大奖在线娱乐提出了a56爆大奖在线娱乐结合 CTC 和 Bagging 的算法 PCTBagging。首先构建一棵不完整的 CTC，CTC 的规模由超参数合并比来确定，接着使用 Bagging 完成后续的树结构的生成。将 PCTBagging 的结果与 Bagging、CTC 和 C4.5 的进行比较，从实验结果可见 PCTBagging 在保持 CTC 的可解释结构的同时，实现了与 Bagging 相似的分类能力。 阅读全文
摘要：
针对存在大量相关特征时重要特征的影响被削弱的问题，a56爆大奖在线娱乐设计了a56爆大奖在线娱乐通过稀疏森林来消除相关偏差的特征选择算法 ControlBurn。首先使用套袋和提升等方法生成森林，然后通过一个平衡特征稀疏性和预测性能的组 LASSO 惩罚目标为每棵树选择稀疏权值，从而减少树的数量。与 Wrapper 特征选择方法不同，ControlBurn 只需要一次训练迭代即可运行。通过实验说明，当应用于具有相关特征的数据集时，ControlBurn 优于传统的特征选择算法。 阅读全文
摘要：
按照算法的类型对个人的 Paper Reading 博客进行汇总，涉及多个研究方向的论文将按照个人主观感觉的主要方向排列。 目录不平衡学习并行与分布式多标签学习回归决策树集成学习进化计算计算机视觉神经决策模型神经网络生物信息特征工程 不平衡学习 A Novel Model for Imbalance 阅读全文
摘要：
a56爆大奖在线娱乐将集成特征选择问题建模为具有两个目标的帕累托优化问题，提出a56爆大奖在线娱乐类型的异构集成特征选择算法 PEFS。首先采用两种聚合方法对四种不同 FS 方法得到的结果进行组合，接着使用双目标优化来评估这些结果，最后根据非优势特征在双目标空间中的拥挤距离进行排序。该方法平衡了关联度和冗余性两种不同的 FS 方法，对相关性最大、冗余最少的特征给出更高的排序。实验使用了 7 个真实的数据集，将 PEFS 与一些基本的 FS 算法和集成 FS 算法进行比较，结果表明a56爆大奖在线娱乐提出的方法在 acc、F1 和运行时间上比其他方法更好。 阅读全文
摘要：
为了提高计算机视觉模型的可解释性，a56爆大奖在线娱乐融合深度学习和决策树提出了神经支持决策树(NBDTs)。NBDT 使用一个可微的倾斜决策树取代了神经网络的最后一个线性层，和经典的决策树方法不同，NBDT 使用从模型参数派生的层次结构，不使用分层 softmax。NBDT 可以从任何现有的分类神经网络中创建，无需对模型架构进行修改。这样的模型结构不会过度拟合特征空间，减少了决策树对高度不确定决策的依赖，并鼓励对高级概念的准确识别。通过实验证明 NBDT 在 ImageNet、TinyImageNet200 和 CIFAR100 上的性能等同于或优于一些现有的模型，模型提供的解释可以让用户更方便地识别模型的错误，并且可用于识别模糊的 ImageNet 标签。 阅读全文