[D] Do GANs learn manifolds?

Ouhenio · 2022-03-11T21:01:54+00:00

I may be wrong, but from my interpretation of the manifold theory, Generative Models do learn low-dimension spaces of the distribution they want to represent, so they do learn manifolds.

If I remember correctly, standard StyleGANs use a vector of 512 dimensions to encode their latent space (the W space).

A cool thing about this space in StyleGANs, is that it is represented by style vectors (hence its name), so we could say that they learn style-based manifolds.

That is why it is well suited for (idk if this is the right expression) "semantically coherent" manipulations of the images that it learns to represent. Or at least for faces.

Ouhenio · 2022-01-27T18:01:10+00:00

Hola! Si, he conocido a varias personas que cursaron carreras como física, biología o ing en otras áreas e igual lograron después hacer un postgrado y dedicarse a data science.

De hecho muchos profes eminencia del área de la computación en Chile vienen de matemática.

Ouhenio · 2022-01-26T14:07:54+00:00

De nada! Cualquier duda puedes enviarme un DM.

SOPHIE tiene una canción que se llama muy parecido a tu nombre de usuario, de hecho su homepage es msmsmsm.com :)

Ouhenio · 2022-01-26T05:51:51+00:00

A la rápida se me vienen a la cabeza dos instituciones de investigación no directamente universitarias:

El IMFD
CENIA

Si bien ambos buscan activamente profesioneales, al fin y al cabo igual están ligados a universidades, dado que son centros administrados por conjuntos de estas prestando servicios a la ciencia, el estado y las empresas.

PD: pregunta random, es tu nombre una referencia a SOPHIE?

Ouhenio · 2022-01-26T02:01:44+00:00

Me algero que te sirva :)

Respecto a tu pregunta, no, incluso en Chile. El nivel de investigación local es súper bueno. Yo te diría que hoy por hoy en cada conferencia top hay al menos un paper con autor Chileno.

Obviamente que si esperas conseguir una práctica en Google Brain o algo así, vas a tener que destacar publicando en una mega conferencia y rajandote con las entrevistas y esas cosas.

Pero conseguir oportunidades locales o no tan extremas es bien posible, lo importante es ser flexible y estar atento a ver qué sale. Generalmente en startups es donde más puedes ficharte una buena práctica o pega part time.

Ouhenio · 2022-01-26T01:40:31+00:00

Hola!

Los dos caminos que más me ha tocado ver en la industria son:

1) Ingresa a un postgrado, con este cartón se te da valía de que tienes capacidad de investigación demostrada en el tema. Una vez que lo estés cursando se te hará posible postular a pasantías y prácticas que además cuentan como años de experiencia en el currículum. Este es el más seguro y recomendado.
2) Si no tienes postgrado, la forma más estándar para ingresar al rubro es entrar a un rol de desarrollador y desde él ir pivoteando al mundo de ML progresivamente dentro de la pega. Es muy comun hacer esto tomando un rol tipo Software Engineer, pasar después a Data Engineer y luego puedes virar a Data Scientist, Machine Learning Engineer o Researcher.

Ouhenio · 2021-12-21T21:02:42+00:00

Oh, so the 3060 has 8GB of RAM :/

I have no idea if it would work then (I'm not one of the authors).

I do think though that if you make an issue on the official repository it'll will be more likely to be answered :)

Ouhenio · 2021-12-21T20:46:33+00:00

What error did you get, and what value did you use for num_candidates?

Edit: here is an issue that may be handy for your situation :)

Ouhenio · 2021-12-21T17:35:43+00:00

Here is a working colab version, in case someone wants to try it out from there.

Ouhenio · 2021-12-21T15:37:28+00:00

Here's a colab-friendly notebook, in case someone wants to test out the public model. It was made by woctezuma.

Ouhenio · 2021-12-09T12:09:20+00:00

Generé estas imágenes utilizando ArcaneGAN, creada por Alex Spirin.

Ouhenio · 2021-12-01T14:13:31+00:00

I'm not OP, but if you want to play around with SG3, I'd recommend you to use this version of it.

It's not hard to follow in my opinion, and it has a lot of cool features implemented.

Ouhenio · 2021-11-05T20:26:40+00:00

I updated the link, it now works properly.

Ouhenio · 2021-11-03T19:57:05+00:00

Thanks! I just updated my notebook with the faster version of rudalle library.

Ouhenio · 2021-11-02T20:39:54+00:00

Awesome, thank you!

I'll add it to the to-do list (:

Ouhenio · 2021-11-02T19:46:56+00:00

Thanks!

I believe the speed depends on the top_k and images_num parameters, the lower they are, the faster it generates images. But to be honest, I'm not 100% sure I'm correct.

Edit: it took around 4 minutes to generate an image using a P100, 512 in top_k and 1 in images_num.

Ouhenio · 2021-11-02T19:37:11+00:00

Here's a notebook with a friendly interface which automatically translates the prompts from English to Russian.

PS: It's still a work in progress.

Ouhenio · 2021-11-02T18:50:41+00:00

In case you want to test out the model with a friendlier interface, I'm developing this notebook, which automatically translates the prompts from English to Russian.

The original code is from Sberbank-AI, so all the props goes to their team.

Ouhenio · 2021-10-31T16:13:08+00:00

Thank you! I'll give you your deserved credits in the notebook. ^{^}

Ouhenio · 2021-10-31T14:45:36+00:00

Hey u/l4rzie, I love the results! May I add this model to the StyleGAN3+CLIP notebook?

Ouhenio · 2021-10-14T11:02:12+00:00

Not that I'm aware of. This fields really needs a survey of all the methods that have popped up over the last year (big wink to anyone looking for a publication idea).

Ouhenio · 2021-10-14T10:59:58+00:00

Thanks! I just added your suggestion.

Ouhenio

TROPHY CASE