迷麟の小站

#sdsc5001 English / 中文 Comparison of Terminology Between Statistics and Machine Learning Statistics Machine Learning Classification/RegressionClusteringClassification/Regression with missing responses(Nonlinear) Dimensionality Reduction Supervised LearningUnsupervised LearningSemi-supervised LearningManifold Learning Covariates/Response VariablesSample/PopulationStatistical ModelMisclassification/Prediction Error Features/OutcomeTraining Set/Test SetLearnerGeneralization Error Mul...

#sdsc5001 English / 中文 统计学与机器学习的术语对比 统计学 机器学习 分类/回归聚类含缺失响应的分类/回归(非线性)降维 监督学习无监督学习半监督学习流形学习 协变量/响应变量样本/总体统计模型误分类/预测误差 特征/结果训练集/测试集学习器泛化误差 多类逻辑函数截断线性函数 Softmax函数ReLU(线性整流单元) 关键说明：两个领域使用不同术语描述相似概念，但核心思想相通。例如统计学的"协变量"对应机器学习的"特征"。 实际应用案例 工资预测案例 任务：理解员工工资与多个因素之间的关联关系 数据来源：基于美国大西洋地区男性员工收集的数据集 垃圾邮件检测案例 任务：构建能够自动检测垃圾邮件的过滤器 数据表示： 观测值 make% address% … 总大写字母数 是否为垃圾邮件 1 0 0.64 … 278 1(是) 2 0.21 0.28 … 1028 1(是) 3 0 0 … 7 0(否) … … … … … … 4600 0.3 0 … 7...

#sdsc5001 English / 中文 Data Definition Data is a collection of data objects and their attributes. Data objects are also called records, points, samples, entities, or instances. Attributes are properties or characteristics of objects, such as age, height, weight, education level, etc. Attributes are also called variables, fields, features. For example, a dataset about people might include attributes like ‘age’, ‘height’, etc. Data Types 1. Continuous Variable e.g., length, time, c...

#sdsc5001 English / 中文 数据定义 数据是 数据对象（data objects） 及其 属性（attributes） 的集合。 数据对象也称为记录、点、样本、实体或实例。 属性是对象的性质或特征，例如年龄、身高、体重、教育程度等。 属性也称为变量、字段、特征。 例如，一个关于人的数据集可能包含“年龄”、“身高”等属性。 数据类型 1. 连续变量（Continuous Variable） 例如：长度、时间、计数、重量、高度。 取值是连续的数值。 2. 名义变量 / 分类变量（Nominal / Categorical Variable） 例如：种族、性别、婚姻状况、眼睛颜色。 取值是离散的类别，没有顺序关系。 3. 序数变量（Ordinal Variable） 例如：年龄组（儿童、青年、成人、老年）、字母等级、满意度评分（不喜欢、中立、喜欢）。 取值有顺序，但没有明确的数值间隔。 4. 区间变量（Interval Variable） 例如：温度、工资范围。 取值是数值，且有明确的间隔意义。 ...

#sdsc5001 English / 中文 Population and Sample Population: Refers to the entire set of individuals from which we attempt to draw conclusions. Sample: Refers to a subset observed from the population. Relationship: Samples are used to infer characteristics of the population; the core of statistics and machine learning is to estimate or predict population parameters based on sample data. For example, in a coin toss experiment, the population is all possible coin toss outcomes, while the s...

#sdsc5001 English / 中文 总体与样本 总体（Population）：研究对象的完整集合 样本（Sample）：从总体中抽取的部分观察对象 关系：通过样本推断总体特征是统计与机器学习的核心 例如抛硬币实验中，总体是所有可能的抛硬币结果，样本是实际观察到的10,000次抛硬币结果 概率基础 实验（Experiment）：任何产生观察结果的过程 样本空间（Sample Space）：实验所有可能结果的集合，记为 SSS 事件（Event）：样本空间 SSS 的子集 示例：掷六面骰子 实验：掷骰子 样本空间 S={1,2,3,4,5,6}S = \{1, 2, 3, 4, 5, 6\}S={1,2,3,4,5,6} 事件"得到偶数"：{2,4,6}\{2, 4, 6\}{2,4,6} 集合运算 给定事件 AAA 和 BBB： A∪BA \cup BA∪B：AAA 与 BBB 的并集 A∩BA \cap BA∩B：AAA 与 BBB 的交集 A′A'A′：AAA 的补集 ...

#sdsc6012 English / 中文 Fundamentals of Time Series Theory Definition and Properties of Time Series Time series is a sequence of random variables arranged in chronological order, denoted as {Xt:t∈T}\{X_t: t \in T\}{Xt​:t∈T}, where TTT is the time index set. In practical applications, TTT is typically a discrete set (e.g., T={0,1,2,…}T = \{0, 1, 2, \ldots\}T={0,1,2,…}). Core Concept: Time series analysis aims to reveal internal dynamic dependencies within the sequence and build predictive mode...

#sdsc6012 English / 中文 Components and Decomposition of Time Series A time series typically consists of three components: Trend Component: Long-term direction of change Seasonal Component: Fluctuations with fixed periods Random Noise: Unexplained random fluctuations Using Python’s Matplotlib and NumPy libraries, one can generate and visualize the combined effects of these components. Key Statistics: Measuring Dependence Mean Function μt=E(xt)=∫−∞∞xft(x)dx\mu_t=E\left(x_t\right)=\int...

#sdsc6012 English / 中文 时间序列的构成与分解 一个时间序列通常包含三个成分： 趋势成分 (Trend)：长期变化方向 季节性成分 (Seasonality)：固定周期的波动 随机噪声 (Noise)：无法解释的随机波动 通过Python的Matplotlib和NumPy库可以生成并可视化这些成分的组合效果。 关键统计量：衡量依赖性 均值函数 (Mean Function) μt=E(xt)=∫−∞∞xft(x)dx\mu_t=E\left(x_t\right)=\int_{-\infty}^{\infty} x f_t(x) d x μt​=E(xt​)=∫−∞∞​xft​(x)dx 表示时间序列在时刻 ttt 的平均水平 对连续随机变量，通过概率密度函数 f(x)f(x)f(x) 积分计算 自协方差函数 (Autocovariance Function) γ(s,t)=Cov⁡(xs,xt)=E[(xs−μs)(xt−μt)]\gamma(s, t)=\operatorname{Cov}\left(x_{s}, x_{t}...

#sdsc6012 English / 中文 Time Series Definition Core Concepts A time series is a sequence of data points indexed in chronological order. Application Areas: Economics: Daily stock prices, GDP, monthly unemployment rate Social Sciences: Population, birth rate, enrollment rate Epidemiology: Number of flu cases, mortality rate Medicine: Blood pressure monitoring, fMRI data Natural Sciences: Global temperature, monthly sunspot observations Supplementary Note: Time series are observational r...

#sdsc6012 English/ 中文 时间序列定义 核心概念 时间序列是按时间顺序索引的数据点序列。 应用领域： 经济学：每日股价、GDP、月度失业率 社会科学：人口、出生率、入学率 流行病学：流感病例数、死亡率 医学：血压监测、fMRI数据 自然科学：全球温度、月度太阳黑子观测 补充说明：时间序列是现实世界动态过程的观测记录，核心特征是数据点按时间戳排序。 时间序列分析目标 分析意义 描述与解释：理解序列生成机制（如趋势/季节性） 例：分析气温序列中的长期变暖趋势 预测：预测未来值 例：预测下季度失业率 控制：评估干预措施影响 例：货币政策对失业率的影响 假设检验：验证理论模型 例：检验全球变暖假设 时间序列模型 基本分解模型 xt=mt+st+etx_t = m_t + s_t + e_t xt​=mt​+st​+et​ 公式解释： xtx_txt​：时间 ttt 的观测值 mtm_tmt​：趋势项（长期变化趋势） sts_tst​：季节项（周期性变化规则） ete_tet​：残差项（随机波动/噪声） 随...

#sdsc5002 English / 中文 Data Fundamentals What is Data? Data are values obtained by measuring certain variables from individuals (people, objects, etc.). Types of Variables Categorical Variables (Qualitative) Examples: Gender, blood type, disease status If categories can be ordered, they are called ordinal categorical variables (e.g., course grades, COVID-19 severity) Numerical Variables (Quantitative) Examples: Height, weight, age, income, blood pressure Only numerical variables supp...

#sdsc5002 English / 中文 数据基础 什么是数据？ 数据是从个体（人、物体等）中对某些变量进行测量所得到的值。 变量类型 分类变量（定性） 例如：性别、血型、疾病状态 若类别可排序，则称为有序分类变量（例如：课程等级、COVID-19严重程度） 数值变量（定量） 例如：身高、体重、年龄、收入、血压 只有数值变量支持算术运算 数据表结构 列（Columns）：对应变量（Variables） 行（Rows）：对应个体或观测值（Observations），数量通常记为 nnn Song Artist Genre Size(MB) Length(sec) My Friends D. Williams Alternative 3.83 247 Up the Road E. Clapton Rock 5.62 378 数据收集方法 观察法：直接观察或比较 测试与实验：使用工具（如软尺）测量 调查法： 问卷 访谈 电子邮件/电话 文档分析：如查阅医疗记录 📌 注意：问卷设计顺序可能影响回答...

#sdsc6015 English / 中文 课程介绍与随机优化初步 主问题 / Main Problem 给定带标签训练数据 (x1,y1),…,(xn,yn)∈Rd×Y(x_1, y_1), \dots, (x_n, y_n) \in \mathbb{R}^d \times \mathcal{Y}(x1​,y1​),…,(xn​,yn​)∈Rd×Y， 寻找权重 θ\thetaθ 以最小化： min⁡θf(θ)=1n∑i=1nℓ(θ,(xi,yi)),n 极大\min_{\theta} f(\theta) = \frac{1}{n} \sum_{i=1}^{n} \ell(\theta, (x_i, y_i)), \quad n \text{ 极大} θmin​f(θ)=n1​i=1∑n​ℓ(θ,(xi​,yi​)),n 极大 目标：通过损失函数 ℓ\ellℓ 衡量模型预测误差，优化参数 θ\thetaθ。 补充说明 / Supplementary Notes 数学符号解释： θ∈Rm\theta \in \mathbb{R}^mθ∈Rm：待优化参数向量（例如...

#sdsc6007 English/ Chinese Tutorial 1 Problem Setting Dynamic System: xk+1=xk+uk+wkx_{k+1} = x_k + u_k + w_kxk+1​=xk​+uk​+wk​, k=0,1,2,3k = 0,1,2,3k=0,1,2,3 Initial State: x0=5x_0 = 5x0​=5 Cost Function: ∑k=03(xk2+uk2)\sum_{k=0}^{3}(x_k^2 + u_k^2)∑k=03​(xk2​+uk2​) State Space: Sk={0,1,2,3,4,5}S_k = \{0,1,2,3,4,5\}Sk​={0,1,2,3,4,5} Control Constraints: Uk(xk)={u∣0≤xk+u≤5,u∈Z}U_k(x_k) = \{u \mid 0 \leq x_k + u \leq 5, u \in \mathbb{Z}\}Uk​(xk​)={u∣0≤xk​+u≤5,u∈Z} Stochastic Disturban...

#sdsc6007 English / 中文 Introduction The Discrete-Time Dynamic System The system has the form xk+1=fk(xk,uk,wk),k=0,1,...,N−1,x_{k + 1} = f_{k} (x_k, u_k, w_k ), k = 0, 1, . . . , N − 1, xk+1​=fk​(xk​,uk​,wk​),k=0,1,...,N−1, where kkk : index of discrete time NNN : the horizon or number of times control is applied xkx_kxk​ : the state of the system, from the set of states Sk uku_kuk​ : the control/decision variable/action to be selected from the set Uk (xk ) at time k wkw_kwk​ : a ...

#sdsc6007 English / 中文 简介 最短路径问题 (Shortest Path Problems) 问题定义 给定节点集合 {1,2,…,N,t}\{1,2,\dots,N,t\}{1,2,…,N,t}（ttt 为目标节点）， aija_{ij}aij​：从节点 iii 到 jjj 的路径成本（aij=∞a_{ij} = \inftyaij​=∞ 表示无直接路径） 关键假设：所有环路成本非负（∀循环路径 i→j1→⋯→jk→i, 总成本≥0\forall \text{循环路径 } i \to j_1 \to \cdots \to j_k \to i,\ \text{总成本} \geq 0∀循环路径 i→j1​→⋯→jk​→i, 总成本≥0） 目标：寻找从任意节点 iii 到 ttt 的最小成本路径 非负环路假设的重要性 核心意义：确保最优解存在且路径长度有限 避免无限负成本： 若存在负成本循环 ∑cycleaij<0⇒总成本可无限降低\text{若存在负成本循环 } \sum_{\text{cycle}} a_{ij} < 0 ...

#sdsc6015 #course information English / 中文 课程概览 课程代码: SDSC6015 课程名称: 机器学习的随机优化 (STOCHASTIC OPTIMIZATION FOR MACHINE LEARNING) 学期: 2025-26 学年 第一学期 (Semester A) 授课教师: 余璐 博士 (Dr. Lu Yu) 邮箱: lu.yu@cityu.edu.hk 办公室: 刘鸣炜学术楼 16-279 室 (LAU 16-279) 授课时间: 周四 19:00 – 21:50 授课地点: 杨建文学术楼 M3017 室 (CMC Building, M3017) 答疑时间: 待公布 (TBA) 助教: 杨心念 (xinniyang2-c@my.cityu.edu.hk) 吴智友 (zhiyouwu2-c@my.cityu.edu.hk) 考核方式 组成部分 权重 详情 作业 30% 共3次作业，每次占10%。允许与最多2位同学讨论，但必须独立完成并写明协作者。逾期提交每日扣10%（最多延迟3天）。 ...

#sdsc6012 #course information English / 中文 Course Overview Course Code: SDSC6012 Course Name: Time Series and Recurrent Neural Networks Academic Year/Semester: 2024/25 Semester A Instructor: Prof. Linlin Wang Email: (To be announced) Office: (To be announced) Lecture Time: (To be announced) Consultation Hours: (To be announced) Teaching Mode: Face-to-face Tutor(s): (To be announced) Abstract In macroeconomics and other areas of business, science, and engineering, a significant amou...

#sdsc6012 #course information English / 中文 课程概览 课程代码: SDSC6012 课程名称: 时间序列与循环神经网络 (Time Series and Recurrent Neural Networks) 学年/学期: 2024/25 第一学期 授课教师: Prof 王琳琳 邮箱: (待公布) 办公室: (待公布) 授课时间: (待公布) 答疑时间: (待公布) 教学模式: 面授 助教: (待公布) 课程简介 在宏观经济学及商业、科学与工程的其他领域，大量数据以时间序列数据集的形式存在。本课程将使学生掌握分析此类数据的统计工具，并使用 R 软件将其应用于解决现实问题。学生将回顾基本的随机过程和时间序列概念，进而扩展至 ARMA 模型、估计方法、预测特性以及用于波动性建模的 GARCH 模型。课程还将介绍用于时间序列预测的循环神经网络。整个课程强调实践，使用 R 进行动手数据分析。 考核方式 组成部分 权重 详情 测验 (Test) 25% 评估对时间序列统计方法和循环神经网络的概念描述。闭卷。 作...

SDSC5003 Course Information #sdsc5003 #course information English / 中文 Course Overview Course Code: SDSC5003 Course Name: Introduction to Database Systems Semester: 2025/26 Academic Year, Semester 1 Instructors: Yu Yang (yuyang@cityu.edu.hk) Terence Chan (terenceChan@cityu.edu.hk) Teaching Model: Face-to-face Office Hours: To be announced (TBA) Teaching Assistant: Not specified Assessment Method Component Weight Details Individual Assignments 30% Multiple assignments focusing on ...

SDSC6011 Course Information #sdsc6011 #course information English / 中文 Course Overview Course Code: SDSC6011 Course Name: Optimization for Data Science Semester: Fall, 2025 Instructor: Professor Jun Wang Email: jwang.cs@cityu.edu.hk Office: Room G7361, Yeung Kin Man Academic Building Tel: 34429701 Lecture Time: Tuesday 19:00-20:50 Tutorial Time: Tuesday 20:00-21:50 Teaching Mode: Face-to-face Location: Lecture Theatre 5 (LT5), Yeung Kin Man Academic Building Teaching Assistants: Li...

SDSC6011 课程信息 #sdsc6011 #course information English / 中文 课程概览 课程代码: SDSC6011 课程名称: 优化方法在数据科学中的应用 学期: 2025年秋季 授课教师: 王军教授 邮箱: jwang.cs@cityu.edu.hk 办公室: 杨建文学术大楼 G7361室 电话: 34429701 授课时间: 周二 19:00-20:50 辅导时间: 周二 20:00-21:50 教学模式: 面授 地点: 杨建文学术大楼 5号演讲厅 (LT5) 助教: 林力 (linli82-c@my.cityu.edu.hk), LAU-16-290 16号座 刘成浩 (chenghliu9-c@my.cityu.edu.hk), LAU-16-290 35号座 张天泽 (tzhang585-c@my.cityu.edu.hk), 无固定办公室 教材: 《凸优化（第3版）》, Stephen Boyd and Lieven Vandenberghe, 剑桥大学出版社 参考书目: 《现代凸优化讲义：分析、算...