首页！摩域注册！首页！点击率(Click through rate)预估用来判断一条广告被用户点击的概率，对每次广告的点击做出预测，把用户最有可能点击的广告找出来，是广告技术最重要的算法之一。
任何的AI系统需要有一个合理的评价指标，在没有想好评价标准之前最好暂时不要去开启项目的实施。因为一个没有办法评估的系统是没有办法去持续优化的，这是搭建任何AI系统时必须要考虑关键点。
对于广告点击率预测任务来说, 合理的评价指标是F1-Score，由于此项目中, 正负样本的比例有较大的差距, 更适合使用F1-Score来评估训练好的模型。
特征选择在建模过程中起到非常重要的作用。对于很多AI问题，数据本身具有很多的特征，但未必所有的特征跟所要完成的任务强相关，通常把这些不太相关的特征从数据中删除并不影响模型的效果，
反而会提升模型的泛化能力。 比如对于一个预测任务，假如一开始有100100个特征，但后来发现其中只有2020个特征是跟预测目标相关的，那这时候可以只保留其中2020个特征。
假设有五个特征，使用这五个特征去建模，所有特征组合的可能性叫powerset = 25-1 复杂度比较高，减1表示减的空集 ；适用于特征比较小的，好处是可以得到一个全局的最优解；
一个数据中有10个特征, 假如我们考虑包含3个以上(包括3个)特征的组合, 总共有多少种组合? （2^10 - 56）种组合；
由于只考虑3个特征以上的组合, 也就意味着要排除包含1个特征的组合和包含2个特征的组合, 分别是10个和45个 (10*9/2), 另外我们也需要排除空集合, 所以答案是 2^10-56。
我们完全可以把所有的可能性都罗列出来，并尝试每一种组合，但这样的问题点在于时间复杂度特别高，这种复杂度我们也称之为指数级复杂度(exponential complexity)。
假设有五个特征，使用某个model模型， 使用贪心算法去选择其中最好的子集，它是没办法保值给出解是全局最优解，只是当前时刻最好的方法论或者它的一个解；
首先解设S是空集，把每个特征做一个循环，计算每个特征的准确率，可看到最好的一个特征是f4，把它放到集合S中；
第二次循环，S里已经包含f4了，再去对f1、f2、f3、f5进行循环计算它的准确率；依次类推，把最好的特征加进来，这种算法比较高效，但不能得到全局最优；
对于贪心算法的特征选择, 它找出来的是sub-optimal特征组合； 这种方法需要借助于某个具体的模型一起使用；贪心算法的效率高；
L1正则特别适用于样本量少，但特征维度高的情况。一个经典的场景就是神经科学，如果把每个人大脑里的神经元看作是特征，那这个特征维度非常之高。另外，在建模环节里，有时候我们希望模型训练过程
那最后的问题是，特征选择到底用什么方法比较好呢? 其实也没有正确的答案，要看问题本身。比如我们要构建一个评分卡系统，而且这是跟钱直接打交道的，所以每一个使用的变量都要精心地设计。这时候，
我们通常花一些精力在变量相关性分析上，并决定哪些变量要放在模型里。通过相关性分析来选择变量有一个很大的好处:就是很强的可解释性，这也是金融领域的需求。
另外， sklearn里其实也提供了几个常用的特征选择的方法，可以去看下官方的文档:
对于超参数的搜索，最常用的方法叫作网格搜索 (Grid Search)，就是在可选的空间里，把每一种可能性逐一去尝试，也是工业界里最常用的方法。网格搜索核心思想无非就是把预先定义好的所有可能的组合全部
一个模型有3个超参数a, b, c, 对于这三个超参数我们去搜索最好的一种组合。
来搜索。请问: 对于此网格搜索,总共要考虑多少个组合?10×5×5=250种
np.linspace(1,10,10)的意思是在1和10的区间里取出10个点使得每个点之间的距离是一样的。
网格搜索是最简单的用于搜索超参数的方法。但由于需要把所有可能的组合全部考虑进来，时间复杂度非常高。但好处是，在网格搜索的前提下，这些操作都可以并行进行下去。
遗传算法和贝叶斯优化都属于经典的启发式算法范畴。对于遗传算法，我们也可以用它来做量化投资。另外，对于贝叶斯优化，这是一个崭新的领域，它的内核是基于了贝叶斯思想，并内部使用了高斯过程等技
此项目的主要的目的是通过给定的广告信息和用户信息来预测一个广告被点击与否。 如果广告有很大概率被点击就展示广告，如果概率低，就不展示。 因为如果广告没有被点击，对双方（广告主、平
1.数据的读取和理解: 把给定的.csv文件读入到内存，并通过pandas做数据方面的统计以及可视化来更深入地理解数据。
2.特征构造: 从原始特征中衍生出一些新的特征，这部分在机器学习领域也是很重要的工作。
4.特征选择: 从已有的特征中选择合适的特征，这部分也是很多项目中必不可少的部分。
5.模型训练与评估: 通过交叉验证方式来训练模型，这里需要涉及到网格搜索等技术。
