Annonce

>>> Bienvenue sur codelab! >>> Première visite ? >>> quelques mots sur codelab //// une carte des membres//// (apéros) codelab


#1 2015-07-20 16:26:50 Shaders video sous PureData — de WebGL à GEM

upermuk
nouveau membre
Lieu: Bruxelles
Date d'inscription: 2014-11-23
Messages: 3
Site web

Shaders video sous PureData — de WebGL à GEM



Bonjour tout le monde!

Ça fait longtemps que je ne suis pas repassée par ici... Entre-temps j'ai développé tout un projet en WebGL qui applique un shader sur de la video. Alors j'ai déjà bien ramé pour implémenter ça en javaScript sur base de divers bricolages et patchworks trouvés ailleurs, et finalement ça marche smile ça donne ça: ça. Tout le code source est disponible avec l'inspecteur.

Seulement, le projet existe aussi en une version live sur projection, et l'APi jS, qui se compile automatiquement dans le navigateur, est assez insuffisante pour la distribution du son sur plusieurs canaux (ce que Pd a l'air de gérer très très bien) et aussi pour gérer la projection en continu avec variables capteurs (bien que possible, ça fait planter le navigateur à la longue, parce qu'il manque d'espace de calcul alloué). Qui plus est, le projet doit être montré en continu pendant trois jours à un festival en octobre, alors je suis un peu dans la m*! Plutôt que de poser interminablement des rustines sur mon pauvre javaScript, je m'étais dit que passer en PureData donnerait quelque chose de beaucoup plus élégant et fiable.

Or, si la gestion de la partie son semble être une comptine pour enfants (ben oui c'est fait pour me direz-vous), la gestion OpenGL/GEM a l'air tout bonnement terrifiante. Je n'ai aucune idée de l'ordre dans lequel il faut injecter : la vidéo, la génération de la texture verticale, la génération de la texture horizontale, les vertex, et le composite (qui seuille la texture sur la vidéo). Dans le javascript se trouvent également toutes, en vrac, des fonctions advance, initTexture, drawScene, updateTexture, qui sont écrites dans l'indigeste langage d'interface WebGL/JavaScript, basé sur des objets GL en built-in.

Petit exemple ici:

	function composite() {
		gl.viewport(0, 0, viewX, viewY);
		gl.useProgram(prog_composite);
		setUniforms(prog_composite);
		if (it < 0) {
			gl.activeTexture(gl.TEXTURE0);
			gl.bindTexture(gl.TEXTURE_2D, texture_main_l);
			gl.activeTexture(gl.TEXTURE1);
			gl.bindTexture(gl.TEXTURE_2D, my_texture);
		} else {
			gl.activeTexture(gl.TEXTURE0);
			gl.bindTexture(gl.TEXTURE_2D, texture_main2_l);
			gl.activeTexture(gl.TEXTURE1);
			gl.bindTexture(gl.TEXTURE_2D, my_texture);
		}
		gl.bindFramebuffer(gl.FRAMEBUFFER, null);
		gl.drawArrays(gl.TRIANGLE_STRIP, 0, 4);
		gl.flush();
		frames++;
	}

	function anim() {
		if (!halted)
			advance();
		composite();
		switch (animation) {
		case "animate":
			setTimeout("requestAnimFrame(anim)", delay);
			break;
		case "reset":
			load();
			break;
		}
	}

Vous remarquerez que le programme appelle des variables globales situées plus haut dans le script JS.

Ce sont ces fonctions là que j'ai piquées et auxquelles je ne comprends pas grand-chose, sinon qu'elles sont essentielles au chargement de chaque frame vidéo pour que le shader-composite.frag puisse appliquer son effet.

En fait, ce qui me bloque tout à fait c'est de savoir quelles fonctions il faut que j'aille extraire (et modifier, pour les passages en JS) dans mon code pour les injecter comme shaders et programmes d'avancement sur Pd.
JavaScript dispose d'objets OpenGL built-in, et je me demande si c'est également le cas sous Pd, ou s'il faut charger les librairies?

Par voie de sécurité, je rustine tout de même mon application JS, mais je crois qu'une transition en Pd serait vraiment souhaitable. Je suis artiste, pas du tout informaticienne, et c'est la première fois que j'utilise un langage de programmation visuel, et je dois avouer que je me sens un peu dépassée. Je trouve peu de tutoriels et d'exemples ressemblant à mon problèmes, au point que je doute (mais vous allez m'assurer le contraire! wink ) de l'adaptabilité du projet en Pd.

Dernière modification par upermuk (2015-07-20 17:08:10)


Julie Kern Donck / artiste visuelle / LaCambre Arts Visuels, Bruxelles
www.juliekerndonck.be

Hors ligne

 

#2 2015-07-20 19:40:56 Re : Shaders video sous PureData — de WebGL à GEM

rep
modérateur
Lieu: Toulouse
Date d'inscription: 2008-02-27
Messages: 1444
Site web

Re: Shaders video sous PureData — de WebGL à GEM



Salut,
à mon avis cela doit être faisable avec pd :
on est plusieurs ici à utiliser assez intensément glsl et pd/Gem, et il existe pas mal de choses faisables.
Gem est en gros un wrapper OpenGL, c'est à dire qu'il te permet depuis pd d'avoir accés aux fonctions OpenGL supportées par ta carte.
Est ce que tu as parcouru l'aide de Gem dans le browser d'aide pd ? En particulier le chapitre :
help browser > Gem > examples > 10.glsl
il y a tout un tas de trucs dans lequel tu peux piocher...

Pour faire (très) court, dans pd/Gem ça marche comme ça :
- chaque [gemhead] correspond à une boucle 'draw' opengl
- cette [gemhead] va accueuillir un certain nombre de primitives Gem (rectangle, cube, circle, etc) et leurs textures associées ([pix_texture], cela peut être des images, des vidéos, une webcam, ...)
- les fichiers .vert et .frag glsl vont être incorporés a cette boucle draw par l'intermédiaire des objets [glsl_vertex], [glsl_fragment], pour être finalement compilés à la volée avec [glsl_program]

donc regardes les fichiers d'aide de Gem, cela devrait bien te débriefer au vu de ce que tu as déjà fait,
à mon avis ce que tu as déjà fait en glsl devrait pouvoir être porté vers pd/gem facilement...

Hors ligne

 

fil rss de cette discussion : rss

Pied de page des forums

Powered by FluxBB

codelab, graphisme & code : emoc / 2008-2024