判别式方法:直接对条件概率分布$p(C_k|\pmb{x})$进行建模。
相比生成式方法有两个优点:需要训练的参数更少,预测表现会提升(尤其当类条件概率密度的假设没有很好的近似真实分布的时候)。

logistic回归

Read more »

Python中查找list中某个固定元素是常有的事,对于两种不同的查找有两种不同的解决方案,见下。

查找元素首次出现的位置

list自带的方法index可以找出某元素在list中首次出现的位置。用法为

Read more »

Markdown中插入数学公式是常有的事,而Hexo博客框架主要是Markdown格式的文档,如果不能正常渲染Latex公式,那岂不gg……
下面来看看Hexo渲染数学公式遇到的问题以及解决方案。

渲染下划线的问题

Read more »

线性分类模型主要有四种不同的方法,线性判别函数、生成式模型、判别式模型以及贝叶斯观点下的Logistic回归。我们直接考虑对原始输入空间$\pmb{x}$进行分类,当然也适用于对输入变量进行一个固定的变换$\phi(\pmb{x})$。
判别函数是一个以向量$\pmb{x}$为输入,把它直接分配到$K$个类别中的某一个类别($C_k$)的函数。

Read more »

Python的 re 模块提供了正则表达式匹配的功能,其中经常会用到一些特殊字符,下面罗列它们以及各自的用法。

特殊字符

  • .:匹配除了换行符\n之外的任何字符;
  • ^:匹配字符串的开头(需放到正则表达式开头);
  • $:匹配字符串的结尾(需放到正则表达式结尾);
    Read more »