Les réseaux de neurones
Du neurone au réseau : somme pondérée, biais, fonction d'activation, couches, propagation avant, nombre de paramètres, et ce qu'un neurone seul ne peut pas séparer.
- 25 cartes
- 5 thèmes
- Gratuit
Le programme, thème par thème
Le poids de chaque thème suit celui que lui donne l'examen.
- Notions
- Questions
- Ranger et relier
- Les chiffres
- Comprendre
Quelques cartes du deck
Neurone artificiel : de quoi s'agit-il ?
Voir la réponse
Unité de calcul qui fait la somme pondérée de ses entrées, y ajoute un biais, puis applique une fonction non linéaire.
Sortie = f(w₁x₁ + w₂x₂ + … + b). Les poids w et le biais b sont les paramètres que l'entraînement ajuste.
Que renvoie ce réseau pour x1 = 1 et x2 = 0 ?
```python
def relu(z):
return max(0, z)
x1, x2 = 1, 0
h1 = relu(2 * x1 + x2 - 1)
h2 = relu(-x1 + x2 + 1)
y = relu(3 * h1 - 2 * h2 - 1)
print(y)`2630
Voir la réponse
2h1 = relu(2 + 0 − 1) = 1 ; h2 = relu(−1 + 0 + 1) = 0 ; y = relu(3 − 0 − 1) = 2. Chaque couche utilise les sorties de la précédente ; sans les biais, on trouverait 6.
Le … de Rosenblatt est un neurone à … : il sort 1 si la somme pondérée, biais compris, dépasse zéro, et 0 sinon.
Voir la réponse
Le perceptron de Rosenblatt est un neurone à seuil : il sort 1 si la somme pondérée, biais compris, dépasse zéro, et 0 sinon.
Ce modèle de 1958 ne sait tracer qu'une droite, d'où son incapacité à calculer le OU exclusif.
Fonction d'activation : de quoi s'agit-il ?
Voir la réponse
Fonction appliquée à la somme pondérée d'un neurone pour produire sa sortie, et qui apporte la non-linéarité.
Sans elle, empiler des couches ne servirait à rien : une suite de calculs linéaires reste un calcul linéaire.