go net 是一个通过惩罚最大自然关系你和广于线性模型的软件包。在规则化参数 lambda 的直网格上针对 letso 套索或 elastic net 弹性网乘法计算规则化路径。该算法非常快,并且可以利用输入矩阵中的稀疏性 x。 它适合线性逻辑和多项式。勃松和 cox 回归模型可以从你和模型中做出各种预测。它也可以拟合多元线性回归。
粉丝1209获赞6137

大家好,今天我要分享的是基于拍档的国内电影票房预测模型研究。我们用机器学习分析了猫眼和豆瓣的海量数据,帮行业跳出经验决策的陷阱。二零二四年中国电影总票房四百二十五亿,同比下降百分之二十三,超十亿的芯片只有七部, 很多偏方还在凭经验做决策,导致阿修罗这样投资七点五亿却亏损近七亿的悲剧。我们整合了二零一一到二零二五年三个平台的两千一百九十七条有效数据,找出了影响票房的五个关键因素,对比了四种机器学习模型,最终选出了最优方案。二零二四年的市场下滑,本质是传统经验预判的失效。 电影行业高投入、高风险,一部大片投资动辄几亿,没有科学的预测,很容易血本无归。对投资方来说,能避开高风险项目。对营销方能让宣发预算花在刀刃上,对发行方能精准选到能卖作的档期。 整个研究分为四部,数据采集与预处理、关键特征分析、预测模型构建、模型评估与优化,形成完整的从数据到决策的闭环。 传统预判存在三大问题,拍脑袋决策无法应对突发情况、各平台数据不互通,这些都导致了决策失误。我们的模型要解决三个核心问题,获取并清洗高质量数据,自动识别关键影响因素,对比多种模型悬殊最优解。 我们设计了五层闭环架构,从数据来源、数据处理、特征处理、模型构建到评估指标,每一层都对应具体的业务需求,整个实施过程清晰明确。从多平台数据采集开始,经过预处理特征工程模型训练,最终通过评估得出自由模型。我们的数据来自猫眼、豆瓣和合金社区。 以猫眼为例,通过构建请求头,模拟浏览器访问,循环爬取了二零一到二零二五年的年度票房数据。原始数据存在大量缺失值和异常值,我们统一了出品地区分类,删除了无效数据,确保后续分析的准确性。 我们统一了票房单位为外,合并了相似的电影类型,还新增了档期特征,将上映时间划分为六大类,让数据更适合分析。首先看评分,豆瓣评分越高的电影,票房高的概率越大,八分以上的影片很多票房都超过了一亿,说明质量是票房的基础。 首日票房和总票房的趋势几乎完全一致,它反映了影片的前期关注度和宣发效果,是调整后续策略的重要依据。不同类型的票房差异巨大,科幻片平均票房最高,恐怖片最低, 投资方可以优先考虑科幻、喜剧这些大众喜爱的类型。档期对票房的影响非常显著,春节档平均票房最高,其次是暑期档和国庆档。 优质影片一定要争取进入这些黄金档期。我们对比了四种回归模型,其中决策树模型的预测效果最好,它就像分类筛选一样,一步步得出准确的票房预测值。用五个专业指标评估后,决策数的 r 的 平方高达零点九九九九,几乎接近完美,而其他三种模型的表现都远不如它。 数据化预测能帮电影行业做出更科学的决策,未来我们还会加入社交媒体热度等因素,让预测更精准完整的数据和代码,可以登录 tiktok c n 下载。

当你想知道过去的值如何在多大程度上影响当前的值,或者仅凭历史规律能否预测未来时,就可以使用自回归模型。首先让我们先看一下平稳性。在时间序列中,我们不能假设数据点是独立的, 但我们仍然希望保持一致性。这意味着我们希望数据的分布仅依赖于时间差,而不依赖于具体的时间点。 平稳性之所以如此重要,是因为有一整类模型都依赖于平稳性。假设这些模型被称为平稳模型, 而其中最流行的平稳模型之一就是自回归模型。自回归模型试图仅根据序列过去的值来预测该序列,我们把这些过去的值称为滞后值。如果一个模型仅依赖于前一个值,它被称为一阶自回归模型。 a 二模型 就像你在这里看到的,我们有一个目标变量 y, 我 们利用 y 的 过去值来预测这个目标变量 y, 你 可以把它想象成一个滞后的目标变量。当然,这不会是一个完美的预测,所以我们还会引入一些误差。现在模型中有一个截距象和一个系数,我们稍后会处理这个系数, 但让我们先更多的谈谈这个滞后目标。也许你觉得这个概念有点抽象,那么让我们放大右侧的销售图标来详细看看。 假设想按周来预测我的销售额,该如何利用前一周的数据来帮助预测呢?让我们看一个观测值。这个观测值本质上是回看前一周的销售额,并尝试对此进行预测, 所以可以用过去的一周来预测当前的一周。当然,我不会只对一个观测值这样做,我会对数据集中的所有观测值都这样做,每个观测值都在回看他前一周的数据, 当然,第一个观测值除外,他是孤独的,因为他前面没有数据。如果你不断重复这种地归的思想,今天取决于前一个时期,而前一个时期又取决于再前一个时期。 以此类推,你可以以数学方式递归的带入这些方程。这就是为什么这些模型被称为长期记忆模型。让我用数学方式给你展示一下这意味着什么。 假设今天的值外替取决于外替减一,这意味着外替减一又取决于外替减二,所以我实际上可以把这些方程互相带入,从而间接的证明外替取决于外替减二。 虽然会多一点点误差,截距象也会稍有不同,但我仍然有 y t 减二,对外 t 有 一定的影响。 如果我知道 y t 依赖于 y t 减二,那么再想想 y t 减二,它依赖于 y t 减三。 再次重复这个过程,我可以把这两个方程带入彼此,再次间接的证明 y t 减三对今天的 y t 有 一些微小的影响。同样伴随着一点额外的误差和略有不同的截距象。 当然,我可以这样一遍又一遍的重复下去。事实上可以一直这样做,直到我们回溯到最初的第一个观测值。通过带入一堆数学公式,你就能得到屏幕最底部展示的结果。 如果你仔细看,第一个观测值确实很重要,它以一种间接的方式仍然对今天发生的情况有着微小的影响,而平稳性的核心意义就在于这种影响会逐渐消失。 因此,如果系数的绝对值小于一,那么很久以前发生的冲击对今天的影响将变得微乎其微。这就是为什么他们被称为长期记忆模型, 因为影响永远不会完全消失,但影响确实会随着时间的推移而消散,这就是平稳性的概念。当然,为什么要止步于只有一个滞后值呢? 你可以很容易的设置两个质后值。比如,我在看本周的销售额时,我可以回看前两周的数据来预测本周的销售额。当然,同样,我不是只对一个观测值这样做,而是对所有观测值都这样做。但如果你试图画出来,图标会变得有点复杂, 所以你可以回溯到过去 pig 之后值。这些被称为 arp 模型。今天的介绍就到这里,欢迎关注茉莉 ai, 开启 ai 探秘之旅。

机器学习预测模型结果解读第一集拉索回归图怎么看?拉索回归是我们常用的特征筛选的方法,那么在文章里面呢,我们通常会用两张图来呈现它的筛选过程。第一个叫做系数路径图,横轴是单板直 number 是 拉索回归里面的关键变量,纵轴呢是回归系数,每条彩色的线代表一个变量,从左往右, number 值变大,越来越多的系数被压缩到零线消失的位置,就是那个变量被淘汰的地方,最终留下的非零系数就是模型筛选出来的预测因子。 那么最佳的 number 值如何确定呢?我们通过交叉验证来选择。第二张图呢,就是交叉验证图,横轴仍然是 log number 值,纵轴是均方误差, 图上标注了两条竖线,首先就是均高误差最小的这里对应的 number 值,那它呢,也就是让模型误差最小的最佳参数。那么另外呢,为了获得更简洁的模型,那么在它 基础上又有了一个一倍标准误范围内的这么一个 number 值,那么我们就根据需要选择相应的最佳 number 值就好了。如果选择最小 number 值呢,它筛选出来的变量个数相对来说可能会比较多,但是模型性能会更好。 那么如果我们选择一个标准差内的 number 值呢?那么相对来说呢,模型就会更加简洁,同时兼顾模型的能力,在 写论文时就报告这两张图就可以啦。系数路径图呢,是能看出来啊,这些系数是如何随着 number 值的变化而变化的?交叉验证图呢?能看出来最佳 number 值是如何选择的,以及筛选之后呢?对应的特征有多少个?

做多变量回归时,为什么方向反了或者劈直乱飘?多半是你的变量之间打架了。 必须计算 v i f 方差膨胀因子,如果某个变量的 v i f 大 于五甚至十,说明它和其他变量高度重叠,必须剔除。 很多审稿人专门盯着这个看,如果你没做贡献性诊断,他会觉得你的统计学基础很不扎实。

同学们好,又来到小李的数学课,今天我们学习的是第八章成对数据的统计分析。八点二点一、一元线性回归模型 学习目标,一、结合实力了解一元线性回归模型的含义,了解模型参数的统计意义。 二、了解最小二层原理,掌握一元现金回归模型参数的最小二层估计的方法。三、针对实际问题,会用一元现金回归模型进行预测。情景,导入 一样本相关系数,这是样本相关系数的计算公式。 二、相关系数的性质一、当 r 大 于零时,称成对样本数据正相关。当 r 小 于零时,称成对样本数据负相关。 r 的 绝对值为小于等于一。 三、当 r 的 绝对值越接近一时,成对数据的性质相关程度越强。 当 r 的 绝对值越接近零时,乘对数据的线线相关程度是越弱的。特别的,当 r 的 绝对值等于零时,乘对数据没有线线相关关系。当 r 的 绝对值等于一时,乘对数据都落在一条直线上。 恩格尔系数指的是居民家庭中食物支出占消费总支出的一个比例,是表示生活水平高低的一个指标。其计算公式,恩格尔系数等于食物支出金额除以总支出金额。 一个家庭收入越少,家庭总支出中的用来购买食物的支出所占的比例就越大。随着家庭收入的增加,家庭收入中或者家庭支出中用来购买食物的支出所占比例将会下降。 思考,恩格系数是预测生活水平高低的一个模型,那么当两个变量信息相关时,我们如何对成对样本数据建立一个模型进行预测呢?一元信息回归模型 一般来说,父亲的身高较高时,儿子的身高通常也是较高的。为了进一步研究两者之间的关系,有人调查了十四名男大学生的身高及其父亲的身高,得到的数据如下表所示。 利用前面表示数据的一个方法,以横轴表示父亲身高,纵轴表示儿子身高,建立直角坐标系,再将表中的成对样本数据表示为散点图,如右图所示, 由右图可知,这个散点大致分布在一条从左下角到右上角的一个直线附近,表明儿子身高和父亲身高现性是相关的。然后呢,我们可以通过统计软件把这个样本相关系数 r 求出来,求出 r 约等于零点八八六, 表明儿子身高与父亲身高是正线性相关,且相关程度是较高的。思考,根据上表中的数据,以儿子身高和父亲身高这两个变量之间的关系,可以用函数模型刻画吗? 表中的数据存在父亲身高相同而儿子身高不同的情况。比如我们第六个和第八个 同样啊,第三个和第四个啊,儿子身高都是一百七十厘米的,但是父亲身高分别为是一百七十三厘米,一百六十九厘米, 可见儿子的身高不是父亲身高函数。同样,父亲的身高也不是儿子身高的函数,所以我们是不能用函数模型来刻画。 由于儿子的身高和父亲的身高有较强的这个信信相关,因此我们可以用一致函数来刻画父亲身高对儿子身高的影响,而把影响儿子身高的其他因素,如母亲身高、生活环境等,作为随机误差, 得到刻画两个变量之间关系的信信回归模型。随机误差是一个随机变量, 我们用 x 来表示父亲身高, y 来表示儿子身高, e 表示随机误差。假定随机误差 e 的 均值为零,方差为与父亲身高无关的定值四个码的平方,则它们之间的关系可以表示为, y 等于 b, x 加 a 加一,一的均值等于零, d, x 等于四个码的平方, 我们称这个一式为 y。 关于 x 的 一元射线回归模型在这个一元射线回归模型当中,一是 y 与 b、 x 加 a 之间的一个随机误差, y 称为因变量或响应变量, x 称为自变量或解释变量, a 为截距参数, b 为斜率参数。 模型中的 y 也是随机变量,其值虽不能由变量 x 的 值为一确定,但却能表示为 b, x 加 a 与一的和, 前一部分由 x 所确定,后一部分是随机的。如果一等于零,那么 y 与 x 之间的关系就可以用一元相性函数模型来描述。 思考,为什么要假设一的均值等于零呢?而不假设其为某个不为零的常数呢? 一、因为误差是随机的,既取各种正负误差的可能性是一样,所以他们的均值的理想状态应该为零。 二、如果随机误差是一个不为零常数的 alpha, 则可以将 alpha 合并到极距向 a 中,否则模型无法确定,即参数没有为一减 三。另外,如果常数 a 不 为零,则表示存在系统误差。在实际建模中,也不希望模型有系统误差,即模型不存在非随机误差。 思考结合父亲与儿子身高的实力,说明回归模型一的意义。 可以解释为,父亲身高为 s i 的 所有男大学生的身高组成一个子总体,该子总体的均值为 b x i 加 a, 即该子总体的均值与父亲身高是相性函数关系。 y 是 等于一, b x 加 a 加一等于一, b x 加 a 加一等于 b x 加 a 等于零,等于 b s 加 a。 思考,对于父亲身高为 s i 的 某一名男大学生,他的身高 y i 一定是 b x i 加 a 吗? 对于父亲身高为 s i 的 某一名男大学生,他的身高 y i 并不一定为 b x i 加 a。 他 解释,该指总体的一个观测值,这个观测值与均值有一个误差项,误差项为 e i 等于 y i 减去 b x i 加 a 的 和 思考,结合具体实力,解释产生模型一中随机误差项的原因吗? 在研究儿子身高与父亲身高的关系时,产生随机误差一的原因可以有一, 除父亲身高外,其他可能影响儿子身高的因素,比如母亲身高、生活环境、饮食习惯和锻炼时间等等。在测量儿子身高时,由于测量工具、测量精度所产生的测量误差 三、实际问题中,我们不知道儿子身高和父亲身高的相关关系是什么,可以利用一元射线回归模型来近视这种关系,这种近视也是产生随机误差一的原因。

为什么所有机学一入门,第一个学的模型一定是限性回归?他到底在帮我们解决什么问题?复杂的神经网络、深度学习和限性回归又有什么样的底层观点?今天我抛开枯燥的数学计算,用最通俗的逻辑,带你真正读懂机器学习的入门基石。 首先,纠正一个新手最大认知误区,现象回归不是简单的数据化线,而是机器的基础学习逻辑。很多同学觉得现象回归太简单,就是画一条直线,你和数据学不学无所谓, 但实际上它承载了机器学习最核心的三大思想,特征,加权、误差、计算、迭代优化。所有 ai 模型的底层逻辑全部源于这里。它的核心作用非常直白,就是用来做连续值预测。 我用所有人都能听懂的生化案例来讲透它,比如我们预测房价,房子面积、楼层、户型、地段,这些就是输入特征,房价就是我们要预测的目标值。 现行回归的工作逻辑就是给每一个特征分配对应的权重,重要特征权重大,影响房价,更多不重要的特征权中小。最后把所有特征加权求和,得出最终的预测结果,这就是最基础的机器。你和逻辑。这里讲一个核心关键点,也是很多人学不懂机器学习的根源。 传统数学公式是固定不变的,而限性回归是动态学习的过程。他一开始给出预测值肯定是不准的,他会主动对比真实数据,计算预测和真实值之间的误差, 再反向微调每一个特征的权重,不断缩小误差,经过一次次迭代优化,最终拟合出最贴合真实数据的直线模型。这种预测算误差更新参数的闭环就是整个人工智能训练的核心图形。 我们后面学的逻辑回归、 softmax 乃至深层神经网络,本质都是限性回归的叠加和升级,只不过是在限性拟合的基础上增加了激活函数,引入非限性,堆叠了更多网络层,但其核心的权重更新、误差迭代逻辑和限性回归完全一致。最后给大家做一个通俗总结, 现行思维的本质就是用特征加权你和数据,用误差迭代优化参数。它是最简单的既学习模型,也是所有深度学习算法的底层根基,读懂它才算真正入门 ai 算法。我是迪哥,这期干货对你有帮助,麻烦点赞收藏!

你个废物,这么优秀的学生都教不会,名师课堂开课。好,我们再来看一下关于一元限行回归模型的立体,我们看一下 他说关于限性回归,描述下来说法正确的。是啊,哎,讲经经验回归方程啊,经验我们得到一个回归方程,就是一个限性方程啊。看,然后方程中的变量 x, y 呢?呈正 正相关关系,是正相关关系吗?它是负的对不对?它代表我们这个 b 什么?我们就是我们这个 b 参数 b 是 什么?是小与零的对不对?小与零它们是负相关关系对不对?我们再看第二个问,他说相关系数 r 的 绝对值越接近于一线形相关越强。对,是的,越接近一线形,相关越强。 然后经验回归方程这个,然后变量 x 和 y 正成正相关关系,这个是对的,对不对?因为这个是大于 零的对不对?然后他又讲,残差平方和越小拟合效果越越好。对,这也是对的。 好。我们再来看某同学,在研究性学习中收集到某制药厂今年五个月,今年前五个月假胶囊生假胶囊生产产量,然后的数据表格如下, 然后第一个月五,然后这样的列出来,若 x, y 是 现行相关的经验回归方程告诉我们是这个, 然后 y 等于零点七, x 加 a, 然后它说下面判断正确的。是啊,我们看啊, x 增加一个单位, y 必然要增加零点七个单位, 我们看一下啊,它经验回归方程是这个对不对?我们当什么 x 加一的时候, y 大 约是什么? x 加一的时候, x 加一, y 大 约加零点七个单位,它是不是必然会加零点七个单位啊? x 加一个单位 y, f 是 不是必须要增加零点七个单位?它不是必须的啊,它只个只是大约零点七个单位。你看你本来是嗯, x, 你 只是现在变成啥了?还有个参数 l 对 不对? 我们再看 b 减少一个单位,它 b 减少零点七个单位,这也是一样的啊,它只是大约零点七个,不是必定是零点七个。 你这个 y 等于什么?零点七 x x, 你 加一对不对?加上一个 a, 嗯,它是大约它,因为这个是什么? 前面有个三角形,我们是估计的啊,不是 b 定的,这个代表估计估计是大约的啊。那我们看 c, 撇一下,当 x 等于六时, y 的 预测值为什么为八点一? 我们看一下,哎,他说 x 等于六的时候,也就是第六个月的时候, y 的 预测值是八点一,我们看一下。 如果要想知道第六个月,哎,如果要想知道它这个第六个月是不是八点一,我们是不是要把这个 a 算出来,对不对? 我们首先,我们首先怎么办?我们首先 a 应该怎么算? 我们知道我们估计出来的这个方程呀,就是这个回归方程呀,它它必然要什么? 我们估算出来这个方程对不对?它必然要过哪点?过 x 均 y 均这个点对不对?我们估出来这个方程对不对? 必然要过这点。那 x 均 y 均是多少呢?我们先把 x 均 y 均算出来,然后带进去。先把 a 算出来对不对?然后才能判断 x 等于六的时候, y 是 不是八点一对不对?那我们把 x 均带进去, x 均值不就是前五个月之和吗?除以五 等于三对不对? y 均值不就是他前五个月的生产量总和除以五吗?对不对?那三和六对不对? x 是 三, y 等于六,我们把 x 等于三, y 等于六带进去,我们得到 a 等于多少? 我们得呃, a 等于三点九,对不对?我们 a 等于三点九,一旦得出来过后,这两个参数我们都拿到了,对不对?那我们这个方程也确定了。方程一旦确定了过后,我们把这什么把这个六带进去,看它是不是多少?六七四十二,四点二,加上三点九,正好等于八点一,对不对? 所以 c 是 对的,对不对?我们再看 d 偏向 d 偏向,他说,呃,回归,回归,直线经过点二六,不对?哦,我们知道点过点三六, 好,我们再看,他说某部门统计了某地区今年某部门统计了某地区今年七个月在线外卖的规模,如下, 某部门统计了某地区今年七个月外卖的规模,如下表啊,比方这是月份对不对?七个月一到七个月,然后呢?外卖送货,嗯,就是外卖规模,就是,嗯, 在这,然后呢,他说其中呢?四月和六月呢?嗯,数据模糊,就是讲不清楚了,对不对? 但是呢,我们知道七个月的什么平均值是二十三,然后我们利用这个什么这个限性方程来拟合这个点, 然后且七个且七月对应的点是什么?七三五的残差为负的零点六,对不对?让我们求什么?让我们求这个参数,这两个参数就是这个现行方程的这个回归这个方程,对不对?就是这个模型的 a 和 b 的 参数相减等于多少? 我们知道要求这个 a 和 b 对 不对?我们必须要建立什么?关于要求这个 a 减 b, 我 们肯定要把首先把关于 a 和 b 的 方程给列出来,对不对? a 和 b 的 方程列出来,那我们首先根据题目的意思,我们是不是 干什么?我们是不是把它什么?把它过一下,肯定过的点给它列出来,对不对?我们知道君子点,那肯定过了,对不对?我们要求一个方程的要求一个方程的参数,我们是不是干嘛求这个函数的参数?或者讲这个方程的参数,我们我们怎么办? 我们是不是把它固定的点列出来带进去对不对?就形成一个方程了对不对?那我们把 x 均算出来对不对? y 均他告诉我们了对不对? x 均? y 均,虽然他表里面没有,但他下面信息告诉我们对不对? x 均 y 均带进去是不是能得到一个方程了,对不对? 那这样得到一个方程还有个什么方程?还有个方程?我们残差对不对?残差是什么? y 具体的值减掉一个它的估计的值,对不对?这是具体的值对不对?减掉一个 y, 一个估计的值对不对?减掉它一个估计的值等于什么? 它告诉我们是什么?七月份的残差是什么?是负的零点六对不对?那那就代表什么? y 减掉 y, i 的 估计值等于零点六,对不对? 因为我们估计这第七个点就是一七,等于零点六,对不对?我们把它带进去是不是就可以算出来了?三十五是我们 y 对 不对?减掉一个什么? 减掉一个它必须必它减掉一个什么?七月份的点对不对?是 x 嘛,对不对?在 x 七嘛,对不对?然后乘上一个 b 加上一个 i, 对 不对?等于一个零点六,对不对? 这个是 y i 对 不对?这个是什么? y i 的 估计值对不对? y i 估计值是什么? 是不是 y? 是, 是这个方程对不对?你 x 是 第七个嘛,对不对? x 七对不对? x x 七就是七嘛,对不对? 就七 b r 加 a, 对 不对?是不是?这样就得到什么两个方程了,对不对?这样一个方程一和二两个方程,这两个方程 e 列出来,那 ab 肯定能算出来了嘛,对不对?所以 a 减 b 这两个参数就能算出来了,对吧?

开始的话我们学一下这个因子因子的一个分析,然后我们后面的话会详细介绍一下阿尔法零零幺到阿尔法幺九幺全部因子的一个算法和一个因子的一个应用的一个原理。 因子的话,简单来说它就是一个量化指标,像我们常见的 macd 啊啊、波灵带啊这些都属于因子因子的话,我们可以理解为它就是一个 一个量化的一个指标,就是一个公式或者一个计算方式,我们可用它来检验它这个因子的一个有效期,然后是否是否是有效的,还要怎样去应用这个因子。 好,今啊现在开始的我会从最基础的什么是因子,然后从零幺因子开始做检验好这因子的一个分析,然后他有专门使用的一些因子分析框架,像这个的话就我们自己开发的一个因子的一个分析框架来检验这个因子是否有效啊,这个后面的话会详细介绍, 也有现成的框架可以去支持一个学习。好,我们大家看一下什么是一个因子, 从技术定义上的因子的话,它是在量化投资的,它一个核心的一个指标,它是它因子的话主要来源两个基础,一个是动量因子,一个是那个金值回归因子。 然后阿尔法零幺的话,它是在那个在建公司的一个量化研报中,它也有详细的提到这个阿尔法零幺它是怎样构造和一个检验阿尔法零幺的这个因子,它重点讲的是一个量价倍率的一个核心,核心的一个指标, 而阿尔法尼药的话,它是来自这个回回经典的一个酿化酿,酿化研报中的一个因子,研报中他也去详细的挖掘了这个怎样去构建检测因子, 然后后面的话它是总共是有幺九幺个因子,然后来做整个酿化指标的一个分析,它主要都是一些酿价指标,关系比较多,它涉及到的财务指标、基本面指标就比较少。 好,后面的话是做一个因子的一个评价,因子的评价的话,我们主要看的是 i c 信息比例和这个啊 i a r, 这个是因子检验的常见的两个指标, 然后这个是什么?是阿尔法因子啊?啊,它代表的是一个组合收益,然后超出市场基准的话称为北塔。阿尔法的话它是收益的一个部分,它是体现了超过基准指数的一个额外的收益,也是投资者追求的一个主要目标。 然后阿尔法预测信息源,他能够去预测未来产生的收益,并以此阿尔法作为信息源,他作为一个量化策略的一个引擎去检验这个策略是否有效性。我们将会谈到阿尔法,阿尔法就是超越市场的一个一个收益,被被他的话,他就是一个 一个超额的一个收益。而通俗讲到阿尔法,它是一个智能潜力的一个评价指标,它是通过数学模型,基于量价走势、成交价、财务数据计算它的一个潜在收益来对这个指标的一个进行一个打分。 而阿尔法因子的两大核心的一个一个基石,它它它是动量和金值,然后动量的话就是比大小,就是哪个指标大就 就用就用就买进哪个指标。常见的动量指标的话有一个相对指标和绝对指标,相对指标的话计算的是他的一个相对值,他比如他相对于五日金线的一个一个指向,什么关联力啊、偏离度啊,这都属于一个动动量指标, 然后动量指标的话还有个绝对值,绝对值的话这个就比较好理解,比如五月收益,十月收益,这个就是一个绝对值。一个指标 好东家指标,他他反映的是一个趋势的一个延系,然后他因为市场他本身就存在着惯性,然后东家指标就是看他的一个趋势延系,然后东家的核心的一个观点就是追涨,追涨杀跌,然后强者横强。 好,均值回归的话,这个就比较好理解,这个常见的就是偏离度啊之类的,就是一个均值回归,他核心的关键词就是 高抛低吸,然后一个金指引力,这个的话常见的一个一个策略的就是网格策略,网格策略的话就是金指回归里面比较核心,也比较经典的一个策略,他说的是一个物极必反, 他的一个价格的话,肯定是围绕他的一个内在价值进行一个波动,所以就可以做高抛低吸,然后金指回归,然后在形态中的话,相提的话就是常见的这个形态 复杂的因子的话是基于动量指标或者精确回归指标,还有加其他的一个代数预算,然后加减乘除,然后去去合并出的一个复杂的一个因子。 好,今天的话我们就介绍一下什么是因子,然后后面呢会详细介绍一下阿法林幺的一个因子的一个构建,还有一个应用还需要注意的一个地方,然后做阿法林幺的一个因子的一个检验,然后代码的话我这边都是写好的,后面详细的分析这一个东西。 好,今天就介绍到这里,什么是 alpha 因子?还有一个因子是怎样定义的?

我们来看一下机器学习的第一个模型,限性回归,限性回归可以说是机器学习课程的理论基础,掌握了限性回归,我们就理解了机器学习的工作原理,就能知道机器学习是怎么从数据中发现规律,并且呢,可以用这个规律对未来数据进行预测。 同时呢,宪友回归也是我们接下来学习分类问题的逻辑回归,还有后面深度学习课程的理论基础。为了直观的理解宪友回归,我们先来看一个生活的例子, 假如说呢,有一个地区的房价和面积形成了一个表格,我们有这个数据了,凭直觉我们来看一下,一套一百平的房子大概多少钱, 我们可以看出来啊,房价和面积呢,大概是正相关的,面积越大房价就越高,那么一百平呢,在九十和一百之间,那么他的房价呢,大概也应该是在二百零三和二百五十五之间。为了能够把具体这个区间看得更清楚呢, 我们就用 python 把所有的这些面积和总价,可以在一个表格中把它给画出来,这个非常的简单啊, 画出来之后呢,我们来看啊,这里面大概是有些规律的,是不是啊,他们非常用一条线,大概可以把他们连起来,虽然并不是严丝合缝,但是呢,每个点和这个线离得都非常的近,所以我们在想,我们就尝试画一条直线,尽可能的穿过这些点,用来描述面积和房价之间的关系。 如果这条线我们画的足够的好,就可以用它来预测未知的房价了。比如说我们看这一条线看起来就差不多, 我们整个这条线呢,大概是是面积的二点二倍,并且要加上一个十的基数。如果我们把一百平米带进去呢,大概就可以算出来是二百三十万左右,这个比我们前面说的二百零三到二百五十呢,二百五十五之间精精准了非常多,是不是啊? 这个呢,其实就是我们用来发现这个数据背后的规律的一个方法,限行回归就是在利用类似的方法进行工作。限行回归可以说是记忆学习最经典的模型之一了,它通过构建限行方程来拟合数据的内在分布规律,从而实现对连续数值的预测。 这里面有好几个关键字啊。首先什么叫限行方程啊?这个就是数学中的概念了,限行方程并不表示在直表直角坐标系中画一条直线啊。在数学中,限行描述的是输入和输出之间按比例的变化,可以叠加。 比如说一个映射就一个函数,如果它满足两个规律,我们就可以称之为限性,就是 f a x 等于 a 乘以 f x, 就是 按比例的变化,你不能是 a 的 平方乘以 f x, 这就不成比例了。再一个是可加性,就是 f x 加 y 就 等于 f x 加上 f y, 这种呢,我们就称之为限性, 并不代表一定是画直线啊。在几何解释的话,在一维空间中,线线关系确实就是一条直线。刚才我们画的直角坐标系呢,就是一维空间,在高维的空间中可能就是一个平面或者是一个超平面了。那么什么叫几何数据呢?就是我们尝试呢为数据找一条规律, 实现对连续数值的预测,连续就很好理解了,这个跟计算机中说的,我们有一门课程叫离散数学,和离散对应的嘛,比如说在这条线上,我们所有的数据都是连续的,而分类问题面临的是离散的数据, 比如说类型嘛,一共就是几种。 ok, 那 我们再来看看他的现象,我们懂了,那什么叫回归呢?其实回归呢,是从统计学中来的一个概念啊,一个统计学家,他做了一个研究,发现啊,对于身高非常高或非常矮的父母,他们的孩子呢,身高往往会向群体的平均值靠拢,而不会 一直变得很高,这个现象呢,就成称之为回归均值。在继续学习领域呢,回归这个概念就被进一步隐身了,就是通过数据建模,然后我们找到变量之间的映涉关系,就是输入和输出之间的关系,从而实现对连续数值的预测,我们就称之为回归。 所以说回归呢,核心是在找一个关系进行预测。限性讲的是什么呢?那个规律大概是一个限性方程, 这就是限性回归。最简单的限性回归模型只有一个特征,比如说我们这个公式房屋的面积, y 的 预测值就是预测它的房价呢,就等于 w, x 加 b, 其中呢, y 上面有个小的帽子,就表示 y 的 预测值,它就是模型的输出。 在训练模型的时候呢,这个就是我们的标签数据,而 x 就是 特征数据,只有一个,就是面积了。 另外这两个,一个是 w, 我 们称之为权重。当然在我们刚才画的直角坐标系上呢,它是那条直线的斜率, 它其实表达的含义就是面积每增加一平米,那么房价变化多少,这样我们就能预测连续的了。 b 呢,称之为偏值,它来表示呢,在数学中是拮据, 它表示即使面积为零的时候的理论基准值是多少,一平的时候也要从一开始再加上这个十。这里面的 w 和 b 其实就是我们常听说过的模型中的参数,我们看的那些大模型说有多少多少 b, 参数就是指的有多少个 w 和 b。 训练模型的本质呢,就是搜索一组最适合的 w 和 b, 就 让我们这条线能够画的更准,就能预测的更准了。经过训练之后,模型就会得到一组参数,利用这组参数我们就可以对数据进行预测了。 那么我们怎么知道当前这组参数好不好,就是模型测的准不准?我们需要一种方法来够度量预测值和真实值之间的偏差,这种度量的方法呢,我们称之为损失函数,在现行回归中最常用的损失函数就是均方误差,称之为 mse, 它的原理非常简单。首先呢,我们对每个样本我的所有的训练数据,我都让他做一下预测嘛,我看一下我预测出来的值和真实值之间差距是多大,就是误差,把这个误差取一下平方, 最后把它们加和,再求一下平均数,这就是它的公式了。 mse 就 等于是预测值减去真实值,求平方做加和求一下均值。 n 式样本的数量算出来了 啊,如果我们测的越不准,这个损失函数就越大,测的越准,这个损失函数就越小。所以说我们模型训练的目标呢,就是让这个损失函数的值尽可能的小。使用 mse 呢,有两个好处,第一呢,它做了这个平方啊,就把正负号的差距给消米掉了。比如说,如果我们不用 平方的话,只是用叉值就预测值减真实值,有的大有的小,一加起来有可能你明明预测的不准,加起来却是零。损失函数就最小了,我一平方无论是正还是负,反正都变成正数了,你越大就越不好。 第二个呢,它能够把误差放大了,可以便于优化,比如说呢,误差是三和零点四,可能我们这样看,它差距并不大这两个,但是我们平方之后呢,它会让预测的不准的地方变得更大,其实是加了一个惩罚项, 让预测的稍微已经偏准确的了,可以让它更小。零点四的平方是零点一六,这样它的差距就更明显了,它就知道下一步该往哪里面调整了,是一个很巧妙的方法。那么我们用 mse 啊,我也只是知道当前的模型预测的准和不准了,如果说不准,那么我下一步该怎么优化它呢? 我们优化的方法就叫梯度下降,这是最常用的优化方法了,它呢,其实就是对损失函数进行求导, 求导之后,我们就知道用偏导数啊,每个特征如果有多个特征的话,就对多个特征求他们的偏导数。偏导数。其实导数实际上是什么意思啊?按照刚才斜率的影响的话,其实就它变化的方向,它是越来越大 是吧?还是往下面走的越来越小,我们就知道它,如果说我看着它越来越大的话,我就知道当前我设的值变大了吗?我就要给它调小,如果它越来越小了,我就要把这个值呢调大一点,渐渐的这 w 和 b 一 点点调,它就变得和真实值之间越来越接近了, 就能逐步的取到最优解了。所以模型的训练为什么慢呢?就是因为它不是一个一锤子买卖,它需要一点点的调, 可以做一个形形象的比喻啊,比如说今天天已经黑了,或者是我们蒙着眼睛下山,其实你是不知道往哪边走山是是上山,往哪边走是下山的, 我们就第一步就感知一下坡度,我们可以用脚呢来探量一下当前这一个坡度是向上的还是向下的,我们确定我们当前这一小段是在上坡还是在下坡, 我们根据我们这个就是计算梯度的过程,其实在数学上这就是计算偏导数的过程。如果我们知道当前是上坡了,我就应该往回走,是不是?如果我知道是在下坡,那我就往前走,根据他坡度我们来小步往前走一小点,其实就是更新一下参数。 更新了之后呢,我再来看看我走的这一段是在上坡还是在下下坡,因为我需要不断的调, 如此的反反复的迭代,我就每到一个新位置,我就来看看我是在上山还是在下山,这样呢?渐渐的我一直都能往下走的时候,我就再也没有下坡路了,发现是平路了,我就认为我已经到了这个山底了,就到最低点了,也就是损失值最小的地方了, 这个就是梯度下降,下降大概的工作过程,不理解也没关系,下节课我们重点就来给大家一步步的跟随着代码把这个事情讲清楚。 现在呢,我们就知道梯度下降是帮助我们把损失函数变小的过程,而且呢,它不是一锤子买卖,虽然在现行回归中,我们是可以用最小二乘法一次算出来,但是在收益量比较大的时候,或者是对于特征非常多的时候,还是要用梯度下降方法的, 我们知道他是干什么的,下节课我们再来看看具体他是一步步怎么做的。其实在讲梯度下降的时候,我们也把模型训练的核心给理解了, 如果用下山这个比喻和机器学习中的概念对应起来呢?山的高度其实就是损失函数的值,我们想办法走到山底嘛,就是让损失函数为零,想办法尽可能接近零。 我们下坡的方向其实就是梯度,其实就是偏导数啊,如果是多个特征就是偏导数,一个特征我们也可以称之为导数了。每一步迈多大就是学习率,就是学习的速度,如果我们迈的太大了会怎么样? 趟过了就是造成反复的跳。在梯度下降学习的时候,我们就知道学习率要设一个合适的值,那么我们训练一个模型的流程大概就是怎么样呢?输入数据, 我们对它进行预测,计算一下损失,用 mse 对 着 mse 呢对损失函数进行求导,然后计算出梯度来,然后按着梯度对它对参数进行调整,再重新 更新了参数之后呢,再把数据重新预测,一遍遍的这样算,直到我们认为 mse 基本接近零了,那么我们认为我们就找到了一个比较准的预测函数了。其实每一次迭代我们就更近一点,经过多轮迭代,渐渐的模型就收敛到最优解了,这时候我们就觉得可以预测的比较准了, 这就是继续学习的大概过程,他为什么能学会?还是有一些数学依据的。但是我们现在思考一个问题啊,房价真的只由面积决定吗?其实根据生活常识我们就知道,他远远不止根据面积,楼层啊,距地铁的距离啊,房龄等 都有影响。我们再来看一份数据,就会发现,它并不是说面积越大就一定就越贵,它受很多因素的影响,因为呢,比如说这个离地铁太远了,导致它面积更大,其实它还是要更便宜的地段决定的。 所以说呢,我们单靠一个特征呢,也解决不了预测不准。那么限行回归还能帮我们做这个问题吗? 啊,实际上是可以的,限行回归呢,也可以从一个特征拓展到第个特征,预测值就是 w 一 乘以 x 一, w 二乘 x 二,只要我们把这些参数都找到就行了。 比如说呢,对于房价预测,可能就是 w 一 乘以面积加上 w 二乘楼层, w 三乘地铁, w 四乘房龄,再加上一个偏置就可以了。但是我们是希望在我们的预期中,面积肯定是正相关的,楼层也是正相关的。当然呢,也不见得, 如果说呢,距地铁的距离实际上是地段可能是,呃,负相关的,离地铁越远房价就越低嘛,房龄呢,可能也是负相关的,越老房价就越低,我们就可以按照多个特征进行继续学习的训练,这种时候就像梯度下降的时候,求的就是对于每个特征要求偏导数了, 我们做一个大概的代码的实现啊,后面我们还会详细的讲这个,大家可以看一下,用一个工具库,这个可以说记忆学习的常见的模型,这个库里面都进行包含了,我们可以把现行回归 linear regression 给引进来。之后呢先准备一下特征的数据,我们 特征嘛我们就记为 x, 它我们可以用 numpad 呢,给它弄一个二维数组,可以模拟矩阵, y 就是 预测值,这个其实就是房价,也就是我们的标签的数据, 我们就可以用啊,利用这个库呢就可以非常简单,我们把模型进行初步化,就是对它调一下它的初步化方法,点 fit, 把特征和标签都传进去,就可以让它自动的进行训练了,求导的过程呢,它 会自动的求导,但是呢数据量比较小的时候,可能会用最小二乘法一次就给利用数学方法算出来,数据量大的时候呢就会用提速下降,我们可以把我们学到的在个这里面因为有好几个特征嘛,它所以说参数也是一二三四, 再加上偏质量应该是五个参数,所以说我们再把这五个参数给打印出来,这种时候呢,在他在这个变量里面呢,就可以把所有的参数给打印出来,并且呢我们在这一个就是这一个值呢,模型的这个值,我们就可以把它的偏置给打拿到,所以把它给做一下打印,大概就会是这种效果,就可以拿到权重了。 对于面积相关,二点四,二楼层呢,可能他训练出来一点三,距离地铁的距离呢,负数了,还有房龄也是负数偏置呢,可能是四十九一个大概的偏置,所以说呢,我们预测一下一百平这样 楼层加上地铁的距离,房龄五年,预测的房价就是二百八十九万了,可能比我们刚才单纯的看一百平就是二百三十万要更精准一些。这个呢就是现行回归解决复杂问题, 当然还有些时候啊,我们先看一下用向量化怎么简单的表达,因为刚才的公式特别的长嘛,所以说呢,我们可以利用向量来做一下简单的记号,可以让他写法更简洁。 y 的 预测值呢,就是 w, w 是 什么?是一个矩阵, 这个是什么呀?转制就是把行变成列,把列变成行,这是为为什么要对它进行转制啊?其实是吧,在求点击的在做乘法时候,实实际上是需要他们的列和对应的行是一样的,所以说呢,我们对它进行一下转制,再加上偏制,可以看到啊,这种时候呢, 我们就可以看到其中 x 就是 权重,对权重做一下转制,其实他俩就能做相乘了,这个对就是矩阵的基本的运算。 这种时候其实我们会发现,无论是一个特征还是一百个特征,其实它模型的本质的结构是一样的,都是 w, x 加 b, 无非就是说可能特征多的时候呢, 它俩就变多了,如果只有一个特征的时候,两者都是一就可以了,对不对啊?如果是我们找到的特征越多,有可能我们的模型预测的就越准, 只是有可能啊, ok, 我 们再来看,有的时候啊,我们会发现画直线也不够用,现实中的数据呢,也并不是只是沿着一条直线进行分布, 而且呢,房价可能随着面积的增长呢,是一些先迈慢后快,或者先快后慢都有可能,直线就没有办法很好的拟合数据了。这种时候呢,我们就可以引入多项式回归, 即使是还有一个特征,他也可能呢,不是 x x 方一直到 x 的 d 次方再加 b, 当等于一的时候,就是普通的现象回归了。当等于二的时候呢,他就是你合出一条抛物线,接触越高呢,曲线就越来越灵活。 所以说呢,但是呢,尽管中这个公式中都出现了 x 平方、 x 立方等非限性项,但是模型仍然是限性回归,因为我们所谓的限性是指对参数是限性的,而不是对特征是限性的。其实我们完全可以把 x 方记作另外一个新的特征, 这种时候就会发现, w 一 乘以 x 加上 w 二乘以,比如说它的新的特征呢,就叫 k 就 w 二乘以, k 就是 w, d 乘以 z 之类的一些值。我们可以利用一些特征工程呢,又把它变成了一个一次向的了, 这种时候啊,它还是符合限行回归的基本特征的。因此呢,多项式回归本质上还是广义的限行回归的范畴, 可以用与限行回归相同的方法进行求解,这个大家一定要记住啊,第一呢,限行回归不一定画的是直线。第二,限行回归呢,是指的对参数是限性的,而不是对输入的特征是限性的, 而特征不是限性的时候呢,我们就称之为多项式回归,本质上还是限性回归。 ok, 基本上关于限性回归的原理就是这些了。到下节课的时候呢,我们会结合代码详细的看一下,我们是怎么一步步的把一个模型的参数就给计算出来的,重点呢?其实就是梯度下降了, 我们再再多看一下,限就是限性,限性回归的意义为什么说学会了限性回归,基本上就可以说把继续学习的一半内容都已经理解了,剩下的只是知识点的学习了而已。 就限性回归虽然是简单的,但它却是非常多复杂模型的起点,它延伸出了两个重要的方向啊,一个就是逻辑回归, 逻辑回归是专门用来解决分类问题的,比如说判断一个邮件是不是垃圾邮件,我们刚才提到现行回归是来预测连续的值的,而对于分类问题,他预测的都是离散的一些值, 要要么是,要么不是,要么是零,要么一,他不存在零点五、零点七这种,那他输出的是一个概率是和否的,对应的是多少?那么我们是怎么算的呢?其实就给他加上一个激活函数, 对对,限性回归加上一个激活函数,比如说呢,我们最常用的激活函数呢,就是 sigma mod, 其实就是它的大概公式就是 e, 加上 e 的 负的,它就是这个 sigma, 加分之一就是把它算这样的,它的值呢,永远是一个零到一之间的值, 就算出概率来了,小于零点五的时候就认为是垃圾邮件,大于零点五的时候就不是,或者反过来都行,看大家的数值的问题,我们就可以来解决分类问题了,这些是之所以为什么 分类问题他也叫回归,其实他并只是说他其实就在表示他还是用的限性回归的方式,所以说他的命名呢,还是带着回归的,但是呢,大家要知道他是个分类问题,不是个回归问题。 第二个就是深度学习,我们把多层的逻辑回归的叠加,其实渐渐的意思,虽然说我们现在还学不到深度学习啊,到后面再看,但是呢,我们也听说过什么深度神经网络,我们讲的一层层的隐藏层,其实就是限性回归,再加上激活函数 对逻辑回归,也就是说对逻辑回归多做多层的逻辑回归进行叠叠加,最后算出书出来,而不是一次算出书出来,这个就是深度学习。而里面的每个隐藏层实际上就是我们通过模型自动学习的特征,而不是我给他输入的什么面积啊,楼层啊这些, 这也是我们上节课学的深度学习进,相对于机器学习,他进化在哪里?他其实是可以自己来寻找特征了,那么他又是怎么自己来寻找特征的?其实我们把宪性回归学会了,大概也能看出端倪来, 有深度学习这种也并不是凭空产生的新事物,而是在宪性回归的思想上逐步演化出来的, 这也是为什么限行回归这么重要,可以说你如果理解不了限行回归,深度学习肯定是学不会的。最后做个总结就是限行回归呢,虽然简单,但是包含了机器学习的核心思想了,它其实最重要的就是几步,利用数据来尝试找规律, 利用模型来做表达这个规律,利用损失函数呢来衡量误差,利用梯度下降来优化参数,最后呢不断的迭代,反复的算, 直到把参数给更新的差不多。那什么时候知道参数差不多呢?损失函数接近为零,几乎所有的继续学习和深度学习的模型呢,都可以看作对于这上面这个基本范式的拓展和升级。 ok, 关于限行回归,我们大概啊就先把它的基础概念介绍到这里,下节课呢,我们就来看看我们是怎样一步步让参数呢可以更优的就是梯度下降。
