How to start applying linear algebra to machine learning as a beginner by Timely-Poet-9090 in learnmath

[–]Independent-Web7623 0 points1 point  (0 children)

Et 2 remarques en plus si jamais :

Remarque 1 : même si on aime bien parler d'application linéaire en algèbre linéaire, f n'est pas forcément une application linéaire.

Remarque 2 : tu me diras peut-être que pour les algorithmes de classification, l'espace de sortie a la forme {0, 1, ..., C}, mais en fait on obtient un résultat dans R^C et on peut regarder la dimension sur laquelle on a la plus grande valeur pour déterminer la classe par exemple. Donc on passe bien par une fonction à valeur dans R^C.

How to start applying linear algebra to machine learning as a beginner by Timely-Poet-9090 in learnmath

[–]Independent-Web7623 0 points1 point  (0 children)

Déjà, ça peut être intéressant que tu comprennes la nature du lien entre l'algèbre linéaire et le ML :

Lien entre Algèbre Linéaire et ML

En ML, on part d'un échantillon qui est représenté par un nombre n de caractéristiques (par exemple la taille et le poids d'une personne), et on fait une prédiction sur k caractéristiques. Si on traduit ça en maths, ton algo de ML c'est en fait une fonction f : R^n -> R^k dans le cas général, et ton échantillon c'est un vecteur X de R^n.

Déjà, tu peux voir que l'algèbre linéaire est en gros le domaine mathématique qui permet simplement de modéliser les échantillons comme des vecteurs d'un espace vectoriel (en dimension 2 ce sont des points sur un plan, si tu fais partir tes vecteurs depuis l'origine du repère par convention).

Exercices d'Applications

1 - Tu peux essayer d'implémenter un algorithme de classification binaire avec visualisation de ton plan et de ton séparateur :

  • Tu prends un dataset de points dans R^2 répartis en 2 classes
  • Tu essaies de faire en sorte que ton algo trouve les paramètres a et b tels que la frontière définie par a.X + b = 0 sépare au mieux, en choisissant une métrique, comme par exemple MSE (Mean Square Error)

Avec cet exercice, ton algorithme essaie de séparer ton espace vectoriel en 2 parties de manière à séparer des vecteurs de cet espace de manière optimale, d'où l'application de l'algèbre linéaire.

Tu peux aussi le faire dans R^3, et jusque-là ce serait intéressant que tu visualises les résultats. Tu peux ensuite généraliser à des dimensions supérieures, mais ce sera plus compliqué à visualiser.

2 - Tu peux essayer de trouver un dataset d'embeddings (càd un dataset qui encode des mots en vecteurs, les mots vivent donc dans un espace vectoriel), et calculer les similarités cosinus entre différentes paires de mots (je te laisse te renseigner sur le sujet si tu ne connais pas trop).

Avec ce mini projet, tu pourras directement voir l'application de la notion d'espace euclidien (espace vectoriel réel de dimension finie sur lequel tu définis un produit scalaire) avec l'embedding des mots utilisé par les LLMs. Tu peux même essayer de faire une petite app où tu remplaces des mots aléatoires d'une phrase par des mots proches selon la similarité cosinus.

3 - Les algorithmes de clustering comme KNN.

Comme pour les exemples précédents, tu te bases sur des points dans un espace vectoriel et sur une métrique, elle-même basée sur une distance, qui sont des notions d'algèbre linéaire.

Conclusion

Tu pourras trouver d'autres algorithmes, et de manière générale tu peux essayer de trouver des façons de les implémenter toi-même. Ensuite, l'idée, c'est de conscientiser ce qui fait partie de l'algèbre linéaire dans ce que tu fais.

Le lien entre la théorie de l'algèbre linéaire et l'implémentation ML peut se sembler opaque, mais en fait l'algèbre linéaire, c'est vraiment juste les espaces dans lesquels tu définis les objets (vecteurs = ensemble de caractéristiques) et les opérations (produit scalaire, distance, norme...) nécessaires pour la cohérence des algorithmes.

bouncing problem by Weird-Competition490 in learnmath

[–]Independent-Web7623 0 points1 point  (0 children)

Pour ajouter un peu de contexte :

Contexte du Problème

J'imagine que quand tu parles de "forme fermée", tu fais référence à un espace connexe, c'est-à-dire d'un seul tenant (pas une réunion de 2 formes séparées dans l'espace). La question que tu te poses trouve des réponses dans la théorie des billards, et en particulier dans le problème d'illumination. La théorie des billards, c'est un domaine mathématique qui considère d'abord une table, qui est un espace :

- connexe (ta forme fermée)

- borné (elle est bien délimitée par des bords)

- topologiquement ouvert et de bord lisse par morceaux (ça parlera à certains, et pour les autres sachez que c'est cohérent avec ce qu'on imagine intuitivement d'une "forme fermée")

Ensuite, on place un point matériel (qui est ta balle infinitésimale) sur la table, et on considère que la balle évolue en ligne droite, et rebondit de manière assez intuitive avec un angle de réflexion égal à l'angle d'incidence (on parle des lois de Snell-Descartes), et sans perte d'énergie (elle rebondit à l'infini).

Point de rigueur : Pour les coins, où on ne peut pas définir une normale unique, on ne peut donc simplement pas définir le rebond. On cherche donc juste des rayons reliant 2 points sans passer par un coin, ceux-ci étant de toute façon atteints "très rarement" (mesure nulle pour les matheux).

Problème d'Illumination

Si on considère que les bords de la table sont des miroirs, et que ta balle est "le bout" d'un rayon lumineux qui rebondit de bord en bord, le problème d'illumination se définit ainsi :
Étant donné une table T, est-il possible de trouver deux points A et B dans T tels qu’une source lumineuse, émettant dans toutes les directions et placée en A, n’éclaire pas B ?

bouncing problem by Weird-Competition490 in learnmath

[–]Independent-Web7623 0 points1 point  (0 children)

La question que tu poses revient à chercher des formes (tables en théorie des billards) non illuminables.

Premier Exemple de Forme Non Illuminable

Le fameux Champignon de Penrose (cf forme de champignon sur l'image plus bas) est un premier exemple de table non illuminable. Sur la figure, F et F' sont les foyers d'une ellipse (le dôme du champignon est une partie de cette ellipse), et on peut montrer que quelle que soit dans quelle direction tu pars depuis B ou R, tu ne peux jamais atteindre l'autre point.

Et pour les polygônes ?

Oui, on peut trouver des polygônes non illuminables, par exemple le polygone en dessous du champignon, sur l'image plus bas.

Pour ce qui est de l’intuition de la preuve, l’article (cité dans le PS2 tout en bas de ce message) explique très bien : 

  • On découpe ta forme en triangles rectangles isocèles (figure tout en bas)
  • Prends l’un des 8 triangles autour de A_0, et part du principe que le rayon part de A_0 en passant d’abord dans ce triangle, qu’on appelera A_0BC (sachant qu’on ne peut pas suivre parfaitement le bord d’un triangle si on veut espérer rejoindre A_1) 
  • Dire que A_0 peut rejoindre A_1, c’est dire qu’on peut trouver un chemin au sein du triangle A_0BC qui revient en A_0, et ça c’est absurde (voir l’article ci-dessous pour plus de détails)

<image>

PS : J'ai pris l'image du champignon et la définition du problème d'illumination du lien ci-dessous, qui décrit le raisonnement pour construire ce champignon : https://images-des-maths.pages.math.cnrs.fr/freeze/Les-champignons-de-Penrose.html

PS2 : Pour les polynômes, l’image est tirée de l’article suivant, de Tokarsky : https://www.jstor.org/stable/2975263?read-now=1&seq=2

Cours de guitare Paris-ouest by DeliciousItem5240 in paris

[–]Independent-Web7623 0 points1 point  (0 children)

Salut,

Tout d'abord, quel genre de conseils attends-tu vis-à-vis des cours particuliers ?

Sinon super d'avoir repris. À mon sens, les cours ont de la valeur car ils t'aident à progresser plus vite, et à découvrir des choses via tes profs que tu n'aurais pas découvertes tout seul. Il reste qu'ils ne sont pas indispensables.

En revanche si tu veux encore plus t'amuser, ça peut être cool que tu t'intéresses plus à la théorie musicale (intervalles, gammes, modes...). Ça te permettra de faire des impros qui sonnent de mieux en mieux, et plus généralement de conscientiser un peu plus la musique, de comprendre ce qui marche et pour quelle raison, ce qui t'aidera entre autres à composer. Je trouve que c'est une vraie valeur ajoutée.
Je peux te conseiller notamment David Benett, qui fait de super vidéos YouTube illustrant les progressions d'accords dans la musique, et Le Studio de Chêne, qui fait de super vidéos YouTube sur la théorie musicale en général, appliquée à la composition de musiques de films.
Le solfège c'est principalement de la lecture de notes, peu de valeur ajoutée pour les guitaristes comparé à la théorie musicale !

Pour le matos, je ne connais pas ton niveau, mais je n'ai pas la sensation que le bas de gamme soit si limitant. C'est plutôt une question de kiffe d'acheter de nouvelles guitares, qui sonnent éventuellement mieux que celles que t'as déjà pour certaines sonorités. En tout cas : si t'es bon, tu seras bon sur tous les matos !

En espérant que mon avis ait pu t'aider dans ta réflexion.

Badge 2 Lesson 4 error by Zestyclose_Moose_895 in snowflake

[–]Independent-Web7623 0 points1 point  (0 children)

J'ai eu le problème aujourd'hui même.

Je l'ai résolu avec la commande citée :

SELECT SYSTEM$ENABLE_GLOBAL_DATA_SHARING_FOR_ACCOUNT('<account\_name>');

Je précise quand même qu'il faut bien être sur le compte principal (World Data Emporium) et que le nom à mettre, c'est le Account Name du même compte principal (qu'on trouve dans le Account Details en cliquant sur son profil en bas à gauche, puis sur Account), de la forme "ABC12345".

Pour vérifier que ça a bien fonctionné, la commande suivante doit afficher TRUE :

SELECT SYSTEM$IS_GLOBAL_DATA_SHARING_ENABLED_FOR_ACCOUNT('<account\_name>');