TOWARDS FEDERATED LEARNING AT SCALE: SYSTEM DESIGN
下载链接
0x00 摘要
在TensorFlow的基础上为移动设备领域的联邦学习构建了一套可扩展的生态系统。
KEY WORDS: synchronous,Android
0x01 介绍
联邦学习是一种分布式机器学习，其目的是去中心化、合理利用用户手机等设备上的数据。联邦学习系统的设计首选要面临的选择是参数的同步更新或异步更新，现在的方向是选用同步更新进行大批量的训练。联邦学习另外一个需要考虑的是隐私保护，常用的是差分隐私保护、安全聚合。
本文选择的是同步更新，基于安卓手机领域的。目前仍处于初级阶段，还存在需要问题需要解决。
本文解决的问题：
与本地数据相关的设备可用性（例如，关于时间）
不稳定的设备连接&执行被中断
在可用性不同的设备之间进行锁步执行的协调
设备有限的存储和计算资源
我们已到了可以将系统部署到生产的环节，能用于千万设备的场景，未来能到十亿级别的设备量。
0x02 协议
1 基础概念
协议的参与者是设备（本文指安卓手机）与FL服务器。
设备：向服务器声明可以执行FL任务。
FL集群：拥有全局唯一标识，用于标志特定的学习任务或问题（如，图像识别、文本 ...
深度学习的数学
作者：涌井良幸、涌井贞美
译者：杨瑞龙
0x01 神经网络的思想
通过生物神经网络等例子引入计算机的神经网络。
输入层–>隐藏层*n–>输出层
0x02 神经网络的数学基础
2-1 神经网络所需函数
一次、二次函数
单位阶跃函数
指数函数和Sigmod函数
正态分布的概率密度函数
用计算机实际确定神经网络时，必须设定权重和偏置的初始值。求初始值时，正态分布(normal distribution)是一个有用的工具。使用服从这个分布的随机数，容易取得好的结果。
2-2 数列和递推函数
计算机擅长递推，不擅长求导。
误差反向传播就是根据递推关系进行计算的。
2-3、4 ∑符号和向量
具有算数加法的一般性质。
柯西-施瓦兹不等式。
张量是向量的扩展。
2-5 矩阵基础
Hadamard 乘积：哈达玛积，即Cij=Aij∗BijC_{ij}=A_{ij}*B_{ij}Cij=Aij∗Bij。
2-6、7 导数基础和偏导数
Sigmod函数导数：σ′(x)=σ(x)∗(1−σ(x))\sigma'(x) = \sigma(x)* ...
Federated Learning in Mobile Edge Networks: A Comprehensive Survey
Federated Learning in Mobile Edge Networks: A Comprehensive Survey🕊
百度学术链接
0x00 摘要
一篇联邦学习的综述，还没看完(～￣▽￣)～
KEY WORDS: FL,Communication,Resources,Privacy,Security
0x01 介绍
传统以云端为中心数据处理方式、阻碍新技术的发展：
用户的隐私保护意识越来越强;保护个人隐私法律的出台。
数据长距离传输产生的延迟会满足应用的时效性。
增加主干网络的负担、特别是处理无结构数据。
移动边缘计算MEC：
End-edge-cloud:
组成：终端设备、边缘节点、云端服务器。
特点：训练数据被发送到边缘节点进行训练。
问题：增加大量的传输开销、不能满足那些需持久稳定训练的应用；而且边缘计算的卸载和数据加工，也会涉及到个人敏感数据。用户不相信平台所说的保护措施，仍然怕数据泄露。
Federated Learning:
简单介绍
特性：
带宽的高利用率：网络传输模型而不是未训练的模型、降低了带宽的占用，提 ...
Toward Knowledge as a Service Over Networks:A Deep Learning Model Communication Paradigm
DOI: 10.1109/JSAC.2019.2904360
0x00 总结
提出了一种基于多模型压缩的深度学习模型通信范例，极大地利用了不同应用场景下多个深度学习模型之间的冗余性。
KEY WORDS: Knowledge, KCN,Redundancy,DOM
0x01 介绍
**知识分布：**为了促进深度学习技术对知识的吸收与利用，知识分布能够缓和高昂的计算成本与设备能力有限之间的差距。
**通信问题：**使用知识分布后，许多应用对模型通信有较高的要求。(这也是深度学习的主要问题)
**冗余问题：**设备之间会分享相同的网络层或学习权重，这会影响通信效率。
主要工作总结：
提出并分析了重新构造KCN和人工智能环境下的知识交换的神经网络模型通信范例。
为了更好的编码效率，研究了基于消除模型间冗余的模型预测和压缩。
从各个角度验证了基于知识的深度学习模型通信性能，讨论并设想了深度模型压缩的未来标准化。
0x02 相关工作
重温现在常用的模型压缩方法，并说明与提出模型的关系。
提出一些可视数据的示例，进一步介绍KCN的知识交流的思想。
A 深度学习和网络压缩
基于深 ...
密码学基础
教材：应用密码学 (张仕斌 编著)
0x01 绪论
信息安全的基本属性：
真实性：确认和识别主体或资源就是其声称的。
保密性：信息不泄露给非授权的用户、实体和进程。
完整性：信息未经授权不被修改破坏。
可用性：保证合法用户在需求时能够获得所需的信息和相关资源。
可控性：可以控制授权范围内的信息流向及信息传播方式。
可审查性(不可否认性)：通信双方不能抵赖做出的行为。
可靠性：信息以用户认可的质量连续服务于用户。
信息安全机制
通用安全机制：可信功能、安全标签、事件检测、安全审计跟踪、安全恢复机制
特殊安全机制： 加密、数字签名、访问控制、数据完整性、鉴别、业务流量填充、路由控制、公正机制
安全性攻击
被动攻击：通常采用流量监听、无线截获等方式，难以检测，需采用防止策略。
主动攻击：通常为伪造、重放、篡改信息和拒绝服务，主要防止途径是检测。
密码体制及其分类
组成：明文空间M、密文空间C、密钥空间K、加密算法E、解密算法D
分类：主要是对称密码体制和非对称密码体制
1.密文数据段是否与明文数据段在明文的位置相观：分组密码体制与序列密码体制
2.加密 ...
Misc-压缩包
0x01 Zip文件组成
官方文档如下：
1234567891011121314151617Overall .ZIP file format: [local file header 1] [file data 1] [data descriptor 1] . . . [local file header n] [file data n] [data descriptor n] [archive decryption header] (EFS) [archive extra data record] (EFS) [central directory] [zip64 end of central directory record] [zip64 end of central directory locator] [end of central directory record]
样例分析
0x02 明文攻击
条件：
已知加密压缩包的文件(可以比较crc32)或部分文件(特殊文件的格式：至少12 ...
PHP反序列化绕过__wakeup
题目地址：
newbugku web24
CVE-2016-7124(绕过__wakeup)
查看源码，在末尾发现文件所在位置：
访问该文件：
123456789101112131415161718192021222324252627<?php class Small_white_rabbit{ private $file = 'index.php'; public function __construct($file) { $this->file = $file; } function __destruct() { echo @highlight_file($this->file, true); } function __wakeup() { if ($this->file != 'index.php') { //the ...
MAMP-4
书籍：《PHP、MySQL与JavaScript学习手册》第四版
0x01 探究JavaScript
作用：为网站带来动态功能。
位置：完全在网页浏览器上运行的客户端脚本语言
特点：在HTML使用时，要将JS脚本放在标签 <script>与 </script>之间。
注意：
JS可以不使用分号，换行起到了分号的作用
在 <head>段加入脚本的优点：在页面加载时就可以执行；该代码能够被文档中任意依赖它们的脚本立即使用；确保JS能将一些如变位(meta)标记之类的对象写入 <head>段，因为默认写入文档。
在不支持JS的浏览器中，如下使用：//表示注释
123<script type="text/javascript"><!-(Your JavaScript)// --></script>
包含JS文件：
12<script src="script.js"></script> //包含本地脚本<script src= ...
XSS基础
一直不太想学XSS，感觉东西太多了，没办法，还是要学。所以先搁置着吧，先补一点JavaScript。🕊
0x01 XSS目的
说的简单一点，就是为了能够获取管理员的cookie，进而以管理员的身份登录后台。我们需要的做的就是：
如何构造XSS
令管理员访问XSS界面
登录后台
0x02 XSS基础
发生的典型应用：邮件、论坛、即时通信、留言板、社交平台。
XSS类型：反射型、存储型、DOM型
输出点：HTML属性中、CSS代码中、JavaScript中
0x03 XSS构造
