假定现在有一个深度神经网络，简单回答以下问题：（1）简述正向传播的计算过程（2）假设激活函数使用ReLU，分别计算输出为-3、0

假定现在有一个深度神经网络，简单回答以下问题：
（1）简述正向传播的计算过程
（2）假设激活函数使用ReLU，分别计算输出为-3、0、1时输出什么
【正确答案】：（1）不断重复“线性组合”和“激活”的过程：
输入->线性组合->激活->线性组合->激活->·......->线性组合->激活->输出
像这样从输入端X1,X2,...到输出端生成y的计算过程叫作正向传播。上述步骤正是正向传播的步骤。在给定各层权重参数的情况下，我们可以通过正向传播由已知x，计算出y。
（2）ReLU的表达式为：F（x）=max（0，x），因此
F（-3）=0
F（0）=0
F（1）=1
即假设激活函数使用ReLU时，输入为-3、0、1时输出分别输出0、0、1。