1.数据挖掘主要涉及到哪些方面的码分知识？
2.bert和lda区别
3.大数据就业方向是什么 工资高不高
4.深度语义匹配模型DSSM及其变体CNN-DSSM, LSTM-DSSM

数据挖掘主要涉及到哪些方面的知识？

       1. 工程能力

       （ 1 ）编程基础：需要掌握一大一小两门语言，大的码分指 C++ 或者 Java ，小的码分指Python 或者 shell 脚本；需要掌握基本的数据库语言；

       建议：MySQL + python + C++ ；语言只是一种工具，看看语法就好；

       推荐书籍：《C++ primer plus 》

       （ 2 ）开发平台： Linux ；

       建议：掌握常见的码分命令，掌握 Linux 下的码分源码编译原理；

       推荐书籍：《Linux 私房菜》

       （ 3 ）数据结构与算法分析基础：掌握常见的数据结构以及操作（线性表，队，码分mud 游戏源码列，码分字符串，码分树，码分图等），码分掌握常见的码分计算机算法（排序算法，查找算法，码分动态规划，码分递归等）；

       建议：多敲代码，码分多刷题；

       推荐书籍：《大话数据结构》《剑指 offer 》

       （ 4 ）海量数据处理平台： Hadoop （ mr 计算模型，码分java 开发）或者 Spark （ rdd 计算模型， scala开发），重点推荐后者；

       建议：主要是会使用，有精力的话可以看看源码了解集群调度机制之类的；

       推荐书籍：《大数据 spark 企业级实战》

       2. 算法能力

       （ 1 ）数学基础：概率论，数理统计，线性代数，随机过程，最优化理论

       建议：这些是飞飞cmsAPP源码必须要了解的，即使没法做到基础扎实，起码也要掌握每门学科的理论体系，涉及到相应知识点时通过查阅资料可以做到无障碍理解；

       （ 2 ）机器学习 / 深度学习：掌握 常见的机器学习模型（线性回归，逻辑回归， SVM ，感知机；决策树，随机森林， GBDT ， XGBoost ；贝叶斯， KNN ， K-means ， EM 等）；掌握常见的机器学习理论（过拟合问题，交叉验证问题，模型选择问题，模型融合问题等）；掌握常见的深度学习模型（ CNN ，RNN 等）；

       建议：这里的掌握指的是能够熟悉推导公式并能知道模型的适用场景；

       推荐书籍：《统计学习方法》《机器学习》《机器学习实战》《 UFLDL 》

       （ 3 ）自然语言处理：掌握常见的方法（ tf-idf ， word2vec ，LDA ）；

       3. 业务经验

       （ 1 ）了解推荐以及计算广告相关知识；

       推荐书籍：《推荐系统实践》《计算广告》

       （ 2 ）通过参加数据挖掘竞赛熟悉相关业务场景，常见的比赛有 Kaggle ，阿里天池， datacastle 等。

bert和lda区别

IDAPro是反汇编工具，bert是双向Transformer的Encoder。

       BERT的实现主要是围绕工程化的项目来进行的。bert模型的主要创新点都在pre-train方法上，即用了MaskedLM和NextSentencePrediction两种方法分别捕捉词语和句子级别的representation。

       ä½œä¸ºåæ±‡ç¼–程序的IDAPro能够创建其执行映射，以符号表示（汇编语言）显示处理器实际执行的二进制指令。IDAPro可以从机器可执行代码生成汇编语言源代码，并使这些复杂的代码更具人类可读性（这个可读具有相对性）。

大数据就业方向是BIM平台源码什么 工资高不高

       大数据专业毕业后学生就业三大方向：大数据系统研发类人才、大数据应用开发类人才、大数据分析类人才、数据分析师等。数据分析平均工资：月薪k。

大数据专业毕业后就业方向是怎样的

       一、大数据开发工程师

       大数据开发平均工资：月薪k

       大数据开发工程师主要是负责搭建整个技术框架，负责后台运行程序的整体设计。如同构建一栋大楼的整体框架一样。重要程度不言而喻。

       职位描述：

       1、构建分布式大数据服务平台，参与和构建公司包括海量数据存储、离线/实时计算、实时查询，大数据系统运维等系统;

       2、服务各种业务需求，服务日益增长的业务和数据量;

       3、深入源码内核改进优化开源项目，解决各种hadoop、spark、hbase疑难问题，参与到开源社区建设和代码贡献。菠菜信用源码

       二、Hadoop开发工程师

       hadoop平均工资：月薪k

       负责大数据系统研发工作，包括大规模非结构化数据业务模型构建、大数据存储、数据库架构设计以及数据库详细设计、优化数据库构架、解决数据库中心建设设计问题，还负责集群的日常运作、系统的监测和配置、Hadoop与其他系统的集成。

       职位描述：

       1.参与优化改进大型集团数据平台基础服务，参与日传输量超过百TB的数据传输体系优化，日处理量超过PB级别的数据处理平台改进，多维实时查询分析系统的构建优化;

       2.分布式机器学习算法在数据平台的构建与优化(包括常见的LR、GBDT、FM、LDA、Word2Vec及DNN等);

       3.深入源码改进各种开源大数据项目(包括Hadoop、Spark、Kafka、HBase等)。

大数据专业就业前景怎么样

       未来大数据领域的试看系统源码就业前景还是不错的，大数据的发展不仅会促进大数据领域自身的就业，也会促进与大数据相关领域的就业，比如物联网、云计算、人工智能等领域，这些领域也会受益于大数据的发展制度，从这个角度来看，大数据正在推动整个IT行业的发展。

       大数据的就业前景十分广阔，从国防领域、互联网创业公司到金融机构，从零售金融到互联网电商，从医疗制造到交通检测，都需要大数据项目取做创新驱动。

深度语义匹配模型DSSM及其变体CNN-DSSM, LSTM-DSSM

       在研究推荐和排序算法的过程中，DSSM（深度结构语义模型）是不可或缺的一部分。本文将详细介绍DSSM及其变体CNN-DSSM和LSTM-DSSM。

       论文链接：microsoft.com/en-us/res...

       源码：github.com/baharefatemi...

       简介

       现代搜索引擎在检索文章时，通常将文章中的关键字与query中的内容进行比较。然而，这种做法存在一个问题，即文字具有多义性，同样的含义可以用多种表达方式进行表达。因此，我们需要对query和document进行语义上的相似度匹配。

       通常，我们会使用隐语义模型LSA、LDA来衡量Query和Document之间的相似性。然而，由于LSA、LDA是无监督学习的模型，这些模型的效果并不符合预期。基于隐语义模型，有两种扩展：第一种是使用BLTM结合DPM来拟合query和document之间的关系，另一种方法是采用深度模型对query和document进行自编码，但这两种方法都是无监督的方法。

       本文针对搜索场景，提出了一系列深度网络语义模型（Deep Structured Semantic Models），模型的核心思想是：首先将query和document映射到同一个低维语义空间，然后通过cosine来计算query和document之间的距离。与之前的无监督学习模型不同，DSSM使用document的点击量进行训练，因此DSSM的效果要优于其他无监督模型。

       接下来，我们来看看DSSM是如何对query和document进行处理的。

       DSSM的结构采用DNN结构，将输入的query和document转换到低维的语义空间，然后计算他们的cosine相似度。

       语义特征计算部分，首先使用DNN网络将query和document从高维的空间转换到低维的空间。对输入的query和document假设他们是x，经过转换的向量为y，[公式]表示隐藏层，[公式]分别表示隐藏层的参数和偏置。

       最后一层采用tanh函数作为激活函数。最后将query和document映射到低维向量之后，我们采用cosine计算他们的相似度。

       为了解决query和document在第一层维度非常大的问题，本文提出了word hashing的方法，来对文本进行降维。做法就是使用n-gram来表示一个词语，例如good，我们把它拆分成trigram：go goo ood od。

       为了训练DSSM，我们需要得到query和他们对应的点击的document。作者假设如果用户点击了某个document，那么这个query和document就是相关的。因此，作者认为DSSM的目标是最大化给定query所对应的document的条件似然函数。条件似然函数的计算方式为：[公式]。其中，[公式]是平滑参数，D是针对query的所有可能相关的document集合，[公式]表示和query有关的且用户点击的document。

       有了以上的介绍，我们所要最大化的条件似然函数就是[公式]。因此，loss函数就是：[公式]。文中作者采用梯度下降法来最大化loss函数。

       作者收集了现实生活中用户搜索的日志作为实验的数据集，这份数据包含条用户query，平均每条query包含条url。每一个(query, document)的相关性分为5档，分别是0~4分，得分是人工评价的。模型的排序效果通过NDCG来衡量，这是推荐系统常见的评价指标，具体就是评价推荐给用户的内容是否是用户感兴趣的，而用户的阅读习惯一般是从上到下，所以我们希望将最相关的内容排在前面，然后以此类推。

       实验效果如下，其中：首先我们可以看出DSSM的效果优于其他模型，并且L-WH DNN的效果是最好的。

       DSSM是搜索里非常经典的一个算法，在工业界也广泛被使用。而且，根据应用场景的不同，对特征处理也会有一些区别。例如，在推荐召回模块的应用中，我们的输入可能就不再是query和doc的word embedding，而是用户和推荐的物品（例如**，商品）的特征。

       本文依然是由DSSM的作者提出，在语义特征计算部分采用CNN网络，网络结构如上图所示。在词向量的表达上依然采用了word hash（不知道为啥作者对word hash这么执着）。

       不过，trigram表示不能忽略了文本的上下文信息，因此作者在word trigram的基础上增加了letter trigram。在一定的窗口大小内，对该窗口内的word进行拼接就是letter trigram，例如I have an apple，可以被拼接为 # I have, I have an, ... 以此类推。

       然后以上表示经过卷积层，max-pooling，和全连接之后得到query和doc的低维向量。最后计算相似度的时候还是cosine距离。

       本文针对CNN-DSSM无法捕捉长文本的上下文信息的缺点，引入了LSTM。同时在LSTM的cell中加入了peehole，LSTM的cell结构如上图所示。

       与传统的LSTM不同，作者在遗忘门、输入门、输出门中都考虑了[公式]，总体来说考虑的信息更丰富。